OpenAI vs NLP Cloud

Omezení používání

OpenAI je velmi omezující, pokud jde o druh aplikací, které umožňuje. Až do listopadu 2022 jste museli výslovně požádat OpenAI o přezkoumání a schválení vaší aplikace před jejím uvedením do výroby. Od té doby se říká toto: "Již nevyžadujeme, abyste své aplikace registrovali u OpenAI. Místo toho budeme používat kombinaci automatizovaných a manuálních metod pro sledování porušování zásad."

Některé aplikace nejsou standardně povoleny, například aplikace založené na parafrázování a přepisování (považované za "plagiátorství"), multi-level marketing, sexuální diskuse... Navíc často vyžadují, abyste koncovým uživatelům výslovně sdělili, že ve své aplikaci používáte umělou inteligenci (to je případ sumarizace, generování zpráv a všeho, co souvisí s lékařským, právním a finančním průmyslem). Zde jsou zásady používání OpenAI:

Ve společnosti NLP Cloud jsme přesvědčeni, že naši zákazníci by se měli rozhodnout, jak používat naše modely umělé inteligence, na základě svých místních zákonů a osobní etiky. Myslíme si, že není naší úlohou kontrolovat a filtrovat požadavky našich zákazníků.

Ochrana osobních údajů

Pokud jde o ochranu osobních údajů, je mezi službami OpenAI a NLP Cloud významný rozdíl.

OpenAI z dat zákazníků dělá mnoho věcí. Data zaslaná do systému OpenAI jsou přezkoumávána a používána k nejrůznějším účelům. Nejdůležitější je, že vaše data se ukládají po neomezenou dobu a používají se k trénování a zlepšování modelů umělé inteligence společnosti OpenAI, jako je ChatGPT. Níže naleznete výňatek ze zásad ochrany osobních údajů společnosti OpenAI:

Tyto aspekty ochrany osobních údajů mohou být pro mnoho podniků zásadní, zejména pro ty, které se zabývají odvětvími citlivými na data, jako je zdravotnictví, právo, finance...

NLP Cloud splňuje požadavky HIPAA / GDPR / CCPA a pracuje na certifikaci SOC 2. Vaše data nevidíme, neukládáme je a nepoužíváme je k trénování vlastních modelů umělé inteligence.

Cenové rozdíly

OpenAI i NLP Cloud nabízejí ceny podle potřeby. To znamená, že můžete platit dodatečně, pouze za počet skutečně spotřebovaných požadavků nebo tokenů.

V NLP Cloud nabízíme také standardní balíčky placené předem. Tyto tarify vám umožní přístup k určitému počtu požadavků za minutu. Tyto plány jsou cenově výhodnější než průběžné platby, pokud máte velký objem požadavků k provedení, protože nám pomáhají předvídat vaši spotřebu a podle toho předem lépe škálovat naše služby.

Ceník služby NLP Cloud najdete zde.

Níže naleznete ceník společnosti OpenAI:

Proveďme jednoduchou simulaci. ChatDolphin je ekvivalentní ChatGPT (GPT 3.5 Turbo), takže porovnáme obě ceny.

Pokud na službě NLP Cloud zadáte 20 požadavků za minutu na ChatDolphin a použijete 2048 tokenů, bude vás to stát 699 USD měsíčně (plán Enterprise GPU).

U služby OpenAI vás to bude stát 0,002/1000 x 2048 x 20 x 60 x 24 x 31 = 3 656 USD měsíčně.

Rozdíl v ceně je velmi výrazný a je vlastně ještě důležitější při porovnání dalších funkcí, jako je jemné ladění, sémantické vyhledávání, vkládání, převod řeči na text, převod textu na obrázek...

Například 5 požadavků na převod řeči na text za minutu v aplikaci Whisper Large, přičemž každý zvukový soubor trvá 200 sekund, vás bude stát 699 USD měsíčně (plán Enterprise GPU).

U služby OpenAI vás to bude stát (0,006/60) x 200 x 5 x 60 x 24 x 31 = 4 464 USD měsíčně.

Poslední příklad s generováním obrázků. V NLP Cloud používáme stabilní difúzi, která je ekvivalentem OpenAI DALL-E. Provedení 5 požadavků na generování obrázků za minutu na platformě Stable Diffusion ve formátu 768 x 768 px vás bude stát 699 USD/měsíc (plán Enterprise GPU).

Při použití formátu 512 x 512 px (který je nižší než 768 x 768) vás to u OpenAI bude stát 0,018 x 5 x 60 x 31 x 24 = 4 017 USD/měsíc.

Dostupné funkce a modely

OpenAI a NLP Cloud přijaly dvě velmi odlišné strategie: OpenAI vytváří několik vlastních modelů (GPT-3, ChatGPT, GPT-4, DALL-E...), zatímco v NLP Cloud kombinujeme nejlepší open-source modely AI (Bart, MPNet, Stable Diffusion...) s našimi vlastními modely (Dolphin, ChatDolphin, ...) na stejné platformě.

To znamená, že na NLP Cloud můžete samozřejmě používat některé konkurenční modely ChatGPT, jako je GPT-NeoX a ChatDolphin, ale také mnoho dalších modelů, jako je Bart, T5, Distilbert, spaCy atd.

Použití specializovaných menších modelů je často mnohem úspornější a rychlejší než použití obrovských generativních modelů AI.

Některé případy použití prostě nelze pokrýt běžnými modely umělé inteligence. To je například případ vícejazyčné AI. Pokud chcete používat AI ve 200 jazycích, můžete použít vícejazyčný doplněk NLP Cloud (zdarma). OpenAI prozatím tolik jazyků nenabízí.

Využití specializovaných modelů je také dobrým způsobem, jak snížit složitost. Například provedení sumarizace pomocí GPT-3 nebo ChatGPT bude vyžadovat určité pohotové inženýrství, zatímco pokročilých výsledků můžete velmi jednoduše dosáhnout díky specializovaným předtrénovaným modelům, jako je Bart Large CNN od Facebooku.

NLP Cloud nabízí asynchronní režim, což znamená, že můžete spouštět dlouho běžící úlohy na pozadí. To je užitečné, pokud chcete například shrnout velmi rozsáhlé dokumenty (až 1 milion tokenů) nebo přepsat velmi dlouhé zvukové soubory. OpenAI takovou funkci nenavrhuje.

Spolehlivost, kvóta a kvalita podpory

Při porovnávání služeb OpenAI a NLP Cloud doporučujeme sledovat tři další aspekty: spolehlivost rozhraní API, kvóty a kvalitu podpory.

Společnost OpenAI zaznamenala v posledních měsících mnoho vážných výpadků služeb, zejména po vydání ChatGPT a GPT-4. V poslední době se také potýkala s chybami, které vedly ke kritickým narušením bezpečnosti, což vyděsilo mnoho zákazníků.

Více informací o nedávných bezpečnostních problémech OpenAI najdete zde.

V NLP Cloud poskytujeme robustní infrastrukturu a od března 2020 (způsobeného požárem v datovém centru OVH) jsme nezaznamenali žádný významný výpadek služeb.

Je také důležité poznamenat, že OpenAI automaticky uplatňuje přísné kvóty na nové uživatele. V podstatě platí, že pokud jste nový uživatel, budete muset před přesunem aplikace do produkce chvíli počkat a požádat o další kvóty. Ve službě NLP Cloud takové kvóty neuplatňujeme, takže můžete přejít do produkce okamžitě.

Nakonec je důležité poznamenat, že je obecně poměrně obtížné získat rychlou a propracovanou odpověď od podpory OpenAI. Ve společnosti NLP Cloud bylo vždy naší strategií poskytovat pokročilé odborné znalosti všem našim zákazníkům. Proto se na nás v případě jakýchkoli otázek týkajících se pohotového inženýrství, výběru modelu, doladění atd. neváhejte obrátit.

Závěr

Mnoho zákazníků hledá alternativy k OpenAI, zejména kvůli omezením pro případy použití, zásadám ochrany osobních údajů, cenám a narušením služeb.

Věříme, že rozhraní NLP Cloud API je velmi dobrou alternativou k OpenAI!

Ve společnosti NLP Cloud jsme hrdí na to, že všem našim zákazníkům poskytujeme podporu na vysoké úrovni, a neustále přidáváme další špičkové modely AI, aby naši zákazníci mohli v krátké době realizovat svůj projekt AI.

Chcete si to vyzkoušet? Otestujte NLP Cloud zde!

Juliette
Marketingový manažer ve společnosti NLP Cloud