OpenAI a GPT-3 VS NLP Cloud

Pokyny na používanie a preskúmanie žiadosti

Pred GPT-3 vydávala spoločnosť OpenAI modely AI s otvoreným zdrojovým kódom. GPT a GPT-2 boli modely s otvoreným zdrojovým kódom, ktoré mohol ktokoľvek nasadiť a používať podľa vlastného uváženia. Odtiaľ pochádza slovo "Open" v "OpenAI". Keď však vytvorili GPT-3, spoločnosť OpenAI sa rozhodla ponechať ho ako čiernu skrinku dostupnú len prostredníctvom plateného API. Oficiálne z etických dôvodov.

Odvtedy boli vydané ekvivalenty s otvoreným zdrojovým kódom, ako napríklad GPT-J a GPT-NeoX, ktoré si môžete nainštalovať sami a používať ich podľa vlastného uváženia.

OpenAI je veľmi obmedzujúca, pokiaľ ide o druh aplikácií, ktoré povoľuje. Nemôžete integrovať ich API do produkcie bez toho, aby ste najskôr predložili svoju aplikáciu na validáciu, a presadzujú veľmi prísne "pravidlá používania". Tu je prehľad ich procesu validácie.

Niektoré aplikácie jednoducho nie sú štandardne povolené, napríklad aplikácie založené na "nevedeckých" predpokladoch, parafrázovanie a prepisovanie aplikácií (považované za "plagiátorstvo"), multi-level marketing a ďalšie. Tu je podrobnejší zoznam zo smerníc na používanie OpenAI:

Okrem toho je veľmi pravdepodobné, že mnohé aplikácie umelej inteligencie, ktoré máte na mysli, budú zamietnuté agentúrou OpenAI. Nemôžete napríklad generovať rozsiahly obsah, čo znamená, že nemôžete použiť GPT-3 na napísanie celého článku na blogu za vás. Odmietnuté sú aj mnohé prípady použitia chatbotov. Napríklad nemôžete vytvoriť chatbota, ktorý by fungoval ako spoločník, alebo chatbota, ktorý používa urážky alebo slová pre dospelých. Vaša žiadosť bude s veľkou pravdepodobnosťou zamietnutá aj vtedy, ak sa týka sociálnych médií, zdravotníctva, koučovania, práva a mnohých ďalších. Tu sú niektoré výňatky z usmernení OpenAI o "high-stake" doménach (aplikácie považované za veľmi citlivé, ktoré budú s veľkou pravdepodobnosťou zamietnuté) a o dĺžke textu:

OpenAI od vás požaduje implementáciu "identifikátora používateľa", ktorý bude individuálne identifikovať každého koncového používateľa vašej aplikácie. Na základe toho sa uplatňuje obmedzenie rýchlosti: koncoví používatelia nemôžu vykonať viac ako 60 požiadaviek za minútu.

Mnohé projekty sa kvôli týmto prísnym obmedzeniam jednoducho prerušia.

Žiadne z týchto obmedzení sa v službe NLP Cloud neuplatňuje. Službu NLP Cloud môžete používať na akýkoľvek druh aplikácie bez obmedzení a na jedného koncového používateľa môžete vykonať ľubovoľný počet požiadaviek bez obmedzenia rýchlosti (samozrejme, ak si vyberiete správny plán).

Cenové rozdiely

OpenAI aj NLP Cloud ponúkajú ceny podľa potreby. To znamená, že môžete platiť až po skončení projektu, a to len za počet skutočne spotrebovaných požiadaviek alebo tokenov.

NLP Cloud ponúka aj štandardné balíky platené vopred. Tieto plány vám poskytujú prístup k určitému počtu požiadaviek za minútu. Tieto plány sú cenovo výhodnejšie ako paušálne platby, ak potrebujete vykonať veľký objem požiadaviek.

Pozrite si cenník služby NLP Cloud tu. Pozrite si nižšie uvedený cenník OpenAI:

Urobme jednoduchú simuláciu. GPT-J je ekvivalentom GPT-3 Curie, takže porovnáme obe ceny.

V službe NLP Cloud vás vykonanie 10 požiadaviek za minútu na GPT-J s použitím 800 tokenov stojí 199 USD mesačne (plán Full GPU).

Pri službe OpenAI vás to bude stáť 0,006 x 0,8 x 10 x 60 x 24 x 31 = 2142 USD mesačne.

Rozdiel v cene je veľmi výrazný a pri porovnávaní plánov doladenia a vloženia je ešte dôležitejší!

Dostupné funkcie a modely

OpenAI a NLP Cloud prijali dve veľmi odlišné stratégie: OpenAI vytvára jeden vlastný model (GPT-3), zatiaľ čo NLP Cloud zhromažďuje najlepšiu AI s otvoreným zdrojovým kódom na rovnakej platforme.

To znamená, že v službe NLP Cloud môžete samozrejme používať niektoré konkurenčné modely GPT-3, ako napríklad GPT-J a GPT-NeoX, ale aj mnohé iné modely, napríklad Bart, T5, OpusMT, Distilbert, M2M100, spaCy atď.

Používanie špecializovaných menších modelov je často oveľa úspornejšie a rýchlejšie ako používanie obrovského modelu GPT (aj keď je veľmi univerzálny).

Niekedy sa niektoré prípady použitia jednoducho nedajú pokryť technológiami GPT-3, GPT-J a GPT-NeoX. To je napríklad prípad viacjazyčného prekladu. Pre takýto prípad použitia budete musieť použiť špecializovaný model, ako je napríklad M2M100 od spoločnosti Facebook.

Využívanie špecializovaných modelov je tiež dobrý spôsob, ako znížiť zložitosť. Napríklad vykonanie sumarizácie pomocou GPT-3 si bude vyžadovať pokročilé promptné inžinierstvo, zatiaľ čo pokročilé výsledky môžete veľmi jednoducho získať vďaka špecializovaným vyladeným modelom, ako je napríklad Bart Large CNN od Facebooku.

Ochrana osobných údajov

Medzi OpenAI a NLP Cloud je významný rozdiel, pokiaľ ide o ochranu osobných údajov.

Zásady ochrany osobných údajov služby NLP Cloud sú veľmi jednoduché: žiadne údaje používateľov odoslané do rozhrania API sa neukladajú na serveroch služby NLP Cloud a nikto nemá k týmto údajom prístup.

Na druhej strane spoločnosť OpenAI robí s údajmi svojich zákazníkov veľa vecí. Údaje používateľov sa spracúvajú pomocou interného softvéru a niekedy ich kontrolujú zamestnanci spoločnosti OpenAI. Dôležitejšie je, že tieto údaje sa ukladajú na neobmedzené obdobie a používajú sa na trénovanie a zlepšovanie niektorých modelov umelej inteligencie spoločnosti OpenAI, ako sú napríklad modely sémantického vyhľadávania a klasifikácie. Pozrite si výňatok zo zásad ochrany osobných údajov spoločnosti OpenAI nižšie:

Tieto aspekty ochrany osobných údajov môžu byť pre mnohé podniky kritické, najmä pre tie, ktoré sa zaoberajú odvetviami citlivými na údaje, ako sú zdravotníctvo, právne služby, financie...

Záver

Mnohí zákazníci hľadajú alternatívy k OpenAI, najmä kvôli obmedzeniam v prípadoch použitia, politike ochrany osobných údajov a neúnosným cenám.

Veríme, že rozhranie NLP Cloud API je veľmi dobrou alternatívou k OpenAI!

V spoločnosti NLP Cloud sme hrdí na to, že poskytujeme podporu na vysokej úrovni všetkým našim zákazníkom a neustále pridávame ďalšie špičkové modely AI, aby naši zákazníci mohli v krátkom čase realizovať svoj projekt AI.

Chcete si to vyskúšať? Otestujte NLP Cloud tu!

Julien Salinas
Technický riaditeľ spoločnosti NLP Cloud