OpenAI a GPT-3 VS NLP Cloud

Pokyny pro používání a přezkum žádostí

Před GPT-3 vydávala společnost OpenAI modely AI s otevřeným zdrojovým kódem. GPT a GPT-2 byly modely s otevřeným zdrojovým kódem, které mohl kdokoli nasadit a používat podle libosti. Odtud pochází slovo "Open" ve slově "OpenAI". Když však vytvořili model GPT-3, rozhodli se jej v OpenAI ponechat jako černou skříňku dostupnou pouze prostřednictvím jejich placeného API. Oficiálně z etických důvodů.

Od té doby byly vydány ekvivalenty s otevřeným zdrojovým kódem, například GPT-J a GPT-NeoX, které si můžete nainstalovat sami a používat je podle libosti.

OpenAI je velmi omezující, pokud jde o druh aplikací, které povoluje. Jejich rozhraní API nelze integrovat do produkčního prostředí, aniž byste nejprve předložili aplikaci k ověření, a prosazují velmi přísné "pokyny pro používání". Zde je přehled jejich validačního procesu.

Některé aplikace nejsou standardně povoleny, například aplikace založené na "nevědeckých" předpokladech, parafrázování a přepisování aplikací (považované za "plagiátorství"), multi-level marketing a další. Zde je podrobnější seznam z pokynů pro používání OpenAI:

Kromě toho je velmi pravděpodobné, že mnoho aplikací AI, které máte na mysli, OpenAI odmítne. Například nelze generovat rozsáhlý obsah, což znamená, že nemůžete použít GPT-3 k tomu, aby za vás napsal celý článek na blogu. Odmítnuto je také mnoho případů použití chatbotů. Například nemůžete vytvořit chatbota, který funguje jako společník, nebo chatbota, který používá urážky nebo slova pro dospělé. Vaše žádost bude také s velkou pravděpodobností zamítnuta, pokud se týká sociálních médií, zdravotnictví, koučování, práva a mnoha dalších. Zde je několik výňatků z pokynů společnosti OpenAI týkajících se "high-stake" domén (aplikace považované za velmi citlivé, u nichž je velká pravděpodobnost, že budou odmítnuty) a délky textu:

OpenAI vás požádá o implementaci "identifikátoru uživatele", který bude individuálně identifikovat každého koncového uživatele vaší aplikace. Na základě toho se uplatní omezení rychlosti: koncoví uživatelé nemohou provést více než 60 požadavků za minutu.

Mnoho projektů je kvůli těmto přísným omezením jednoduše přerušeno.

NLP Cloud žádné z těchto omezení neuplatňuje. Službu NLP Cloud můžete používat pro jakýkoli druh aplikace bez omezení a na jednoho koncového uživatele můžete zadat libovolný počet požadavků bez omezení rychlosti (samozřejmě pokud si vyberete správný tarif).

Cenové rozdíly

OpenAI i NLP Cloud nabízejí ceny podle potřeby. To znamená, že můžete platit dodatečně, pouze za počet skutečně spotřebovaných požadavků nebo tokenů.

NLP Cloud také nabízí standardní balíčky placené předem. Tyto tarify poskytují přístup k určitému počtu požadavků za minutu. Tyto plány jsou cenově výhodnější než průběžné platby, pokud máte velký objem požadavků k provedení.

Ceník služby NLP Cloud najdete zde. Níže naleznete ceník společnosti OpenAI:

Proveďme jednoduchou simulaci. GPT-J je ekvivalentní GPT-3 Curie, takže porovnáme obě ceny.

V NLP Cloudu stojí 10 požadavků za minutu na GPT-J s použitím 800 tokenů každý 199 dolarů měsíčně (tarif Full GPU).

U služby OpenAI vás to bude stát 0,006 x 0,8 x 10 x 60 x 24 x 31 = 2 142 USD měsíčně.

Rozdíl v ceně je velmi významný a při porovnávání plánů jemného doladění a vložení je vlastně ještě důležitější!

Dostupné funkce a modely

OpenAI a NLP Cloud přijaly dvě velmi odlišné strategie: OpenAI vytváří jeden vlastní model (GPT-3), zatímco NLP Cloud shromažďuje nejlepší open-source AI na stejné platformě.

To znamená, že na NLP Cloud můžete samozřejmě používat některé konkurenční modely GPT-3, jako jsou GPT-J a GPT-NeoX, ale také mnoho dalších modelů, jako jsou Bart, T5, OpusMT, Distilbert, M2M100, spaCy atd.

Použití specializovaných menších modelů je často mnohem úspornější a rychlejší než použití obrovského modelu GPT (i když je velmi univerzální).

Některé případy použití prostě nelze pokrýt pomocí GPT-3, GPT-J a GPT-NeoX. To je například případ vícejazyčného překladu. Pro takový případ použití je třeba použít specializovaný model, jako je například M2M100 společnosti Facebook.

Využití specializovaných modelů je také dobrým způsobem, jak snížit složitost. Například provedení sumarizace pomocí GPT-3 bude vyžadovat pokročilé promptní inženýrství, zatímco pokročilých výsledků můžete velmi jednoduše dosáhnout díky specializovaným vyladěným modelům, jako je Bart Large CNN společnosti Facebook.

Ochrana osobních údajů

Pokud jde o ochranu osobních údajů, je mezi službami OpenAI a NLP Cloud významný rozdíl.

Zásady ochrany osobních údajů služby NLP Cloud jsou velmi jednoduché: na serverech služby NLP Cloud se neukládají žádná data uživatelů odeslaná do rozhraní API a nikdo k nim nemá přístup.

Na druhou stranu OpenAI dělá s daty svých zákazníků mnoho věcí. Údaje uživatelů zpracovává určitý interní software a někdy je kontrolují zaměstnanci společnosti OpenAI. Důležitější je, že tato data jsou uchovávána po neomezenou dobu a jsou používána k trénování a zlepšování některých modelů umělé inteligence společnosti OpenAI, jako je sémantické vyhledávání a klasifikační modely. Níže naleznete výňatek ze zásad ochrany osobních údajů společnosti OpenAI:

Tyto aspekty ochrany osobních údajů mohou být pro mnoho podniků zásadní, zejména pro ty, které se zabývají odvětvími citlivými na data, jako je zdravotnictví, právo, finance...

Závěr

Mnoho zákazníků hledá alternativy k OpenAI, zejména kvůli omezením pro případy použití, zásadám ochrany osobních údajů a příliš vysoké ceně.

Věříme, že rozhraní NLP Cloud API je velmi dobrou alternativou k OpenAI!

Ve společnosti NLP Cloud jsme hrdí na to, že všem našim zákazníkům poskytujeme podporu na vysoké úrovni, a neustále přidáváme další špičkové modely AI, aby naši zákazníci mohli v krátké době realizovat svůj projekt AI.

Chcete si to vyzkoušet? Otestujte NLP Cloud zde!

Julien Salinas
Technický ředitel společnosti NLP Cloud