OpenAI vs NLP Cloud

Obmedzenia používania

OpenAI je veľmi obmedzená, pokiaľ ide o druh aplikácií, ktoré umožňuje. Do novembra 2022 ste museli pred spustením aplikácie do výroby výslovne požiadať OpenAI o jej preskúmanie a schválenie. Odvtedy sa uvádza toto: "Už nevyžadujeme, aby ste svoje aplikácie registrovali v systéme OpenAI. Namiesto toho budeme na monitorovanie porušovania zásad používať kombináciu automatizovaných a manuálnych metód."

Niektoré aplikácie jednoducho nie sú štandardne povolené, napríklad aplikácie založené na parafrázovaní a prepisovaní (považované za "plagiátorstvo"), multi-level marketing, sexuálne diskusie... Okrem toho často vyžadujú, aby ste koncovým používateľom výslovne oznámili, že v aplikácii používate umelú inteligenciu (to je prípad sumarizácie, generovania správ a všetkého, čo súvisí s lekárskym, právnym a finančným priemyslom). Tu sú zásady používania OpenAI:

V spoločnosti NLP Cloud sme presvedčení, že naši zákazníci by sa mali podľa vlastného uváženia rozhodnúť, ako používať naše modely umelej inteligencie na základe miestnych zákonov a osobnej etiky. Myslíme si, že nie je našou úlohou kontrolovať a filtrovať požiadavky našich zákazníkov.

Ochrana osobných údajov

Medzi OpenAI a NLP Cloud je významný rozdiel, pokiaľ ide o ochranu osobných údajov.

Spoločnosť OpenAI vykonáva mnoho činností na základe údajov zákazníkov. Údaje odoslané agentúre OpenAI sa kontrolujú a používajú na rôzne účely. Najdôležitejšie je, že vaše údaje sa ukladajú na neobmedzené obdobie a používajú sa na trénovanie a zlepšovanie modelov umelej inteligencie spoločnosti OpenAI, ako je napríklad ChatGPT. Pozrite si výňatok zo zásad ochrany osobných údajov spoločnosti OpenAI nižšie:

Tieto aspekty ochrany osobných údajov môžu byť pre mnohé podniky kritické, najmä pre tie, ktoré sa zaoberajú odvetviami citlivými na údaje, ako sú zdravotníctvo, právne služby, financie...

NLP Cloud je v súlade s HIPAA / GDPR / CCPA a pracuje na certifikácii SOC 2. Vaše údaje nevidíme, neukladáme ich a nepoužívame ich na trénovanie vlastných modelov umelej inteligencie.

Cenové rozdiely

OpenAI aj NLP Cloud ponúkajú ceny podľa potreby. To znamená, že môžete platiť až po skončení projektu, a to len za počet skutočne spotrebovaných požiadaviek alebo tokenov.

V NLP Cloud ponúkame aj štandardné balíky platené vopred. Tieto plány vám poskytujú prístup k určitému počtu požiadaviek za minútu. Tieto plány sú cenovo výhodnejšie ako paušálne platby, ak máte veľký objem požiadaviek na vykonanie, pretože nám pomáhajú predvídať vašu spotrebu a podľa toho vopred lepšie škálovať naše služby.

Pozrite si cenník služby NLP Cloud tu.

Pozrite si nižšie uvedený cenník OpenAI:

Urobme jednoduchú simuláciu. ChatDolphin je ekvivalentom ChatGPT (GPT 3.5 Turbo), takže porovnáme obe ceny.

V službe NLP Cloud vás vykonanie 20 požiadaviek za minútu v službe ChatDolphin s použitím 2048 tokenov stojí 699 USD mesačne (plán Enterprise GPU).

V službe OpenAI vás to bude stáť 0,002/1000 x 2048 x 20 x 60 x 24 x 31 = 3 656 USD mesačne.

Rozdiel v cene je veľmi výrazný a v skutočnosti je ešte dôležitejší pri porovnaní ďalších funkcií, ako je jemné ladenie, sémantické vyhľadávanie, vkladanie, prevod reči na text, prevod textu na obraz...

Napríklad 5 požiadaviek na prevod reči na text za minútu v službe Whisper Large, pričom každý zvukový súbor trvá 200 sekúnd, vás bude stáť 699 USD mesačne (plán GPU Enterprise).

V službe OpenAI vás to bude stáť (0,006/60) x 200 x 5 x 60 x 24 x 31 = 4 464 USD/mesiac.

Posledný príklad s generovaním obrázkov. V NLP Cloud používame stabilnú difúziu, ktorá je ekvivalentom OpenAI DALL-E. Vykonanie 5 požiadaviek na generovanie obrázkov za minútu na Stable Diffusion vo formáte 768 x 768 px vás bude stáť 699 USD/mesiac (plán Enterprise GPU).

Pri použití formátu 512 x 512 px (ktorý je nižší ako formát 768 x 768) vás to bude stáť 0,018 x 5 x 60 x 31 x 24 = 4,017 USD/mesiac.

Dostupné funkcie a modely

OpenAI a NLP Cloud prijali dve veľmi odlišné stratégie: OpenAI vytvára niekoľko vlastných modelov (GPT-3, ChatGPT, GPT-4, DALL-E...), zatiaľ čo v NLP Cloud kombinujeme najlepšie modely AI s otvoreným zdrojovým kódom (Bart, MPNet, Stable Diffusion...) s našimi vlastnými modelmi (Dolphin, ChatDolphin, ...) na rovnakej platforme.

To znamená, že v službe NLP Cloud môžete samozrejme používať niektoré konkurenčné modely ChatGPT, ako napríklad GPT-NeoX a ChatDolphin, ale aj mnohé iné modely, napríklad Bart, T5, Distilbert, spaCy atď.

Používanie špecializovaných menších modelov je často oveľa nákladovo efektívnejšie a rýchlejšie ako používanie obrovských generatívnych modelov AI.

Niekedy sa niektoré prípady použitia jednoducho nedajú pokryť bežnými modelmi AI. To je napríklad prípad viacjazyčnej AI. Ak chcete používať AI v 200 jazykoch, môžete použiť viacjazyčný doplnok služby NLP Cloud (bezplatne). OpenAI zatiaľ toľko jazykov neponúka.

Využívanie špecializovaných modelov je tiež dobrý spôsob, ako znížiť zložitosť. Napríklad vykonávanie sumarizácie pomocou GPT-3 alebo ChatGPT si bude vyžadovať určité promptné inžinierstvo, zatiaľ čo pokročilé výsledky môžete veľmi jednoducho získať vďaka špecializovaným predtrénovaným modelom, ako je napríklad Bart Large CNN od Facebooku.

Napokon, služba NLP Cloud ponúka "asynchrónny" režim, čo znamená, že môžete spúšťať dlho bežiace úlohy na pozadí. Je to užitočné napríklad vtedy, ak chcete sumarizovať veľmi rozsiahle dokumenty (až 1 milión tokenov) alebo prepisovať veľmi dlhé zvukové súbory. OpenAI takúto funkciu nenavrhuje.

Spoľahlivosť, kvóta a kvalita podpory

Pri porovnávaní služieb OpenAI a NLP Cloud vám odporúčame, aby ste sa zamerali na 3 ďalšie aspekty: spoľahlivosť API, kvóty a kvalitu podpory.

Spoločnosť OpenAI zaznamenala v posledných mesiacoch mnohé vážne výpadky služieb, najmä od vydania ChatGPT a GPT-4. Nedávno sa tiež stretli s chybami, ktoré viedli ku kritickým narušeniam bezpečnosti, čo vystrašilo mnohých zákazníkov.

Viac informácií o nedávnych bezpečnostných problémoch OpenAI nájdete tu.

V službe NLP Cloud poskytujeme robustnú infraštruktúru a od marca 2020 (spôsobeného požiarom v dátovom centre OVH) sme nezaznamenali žiadny významný výpadok služieb.

Je tiež dôležité poznamenať, že OpenAI automaticky uplatňuje prísne kvóty na nových používateľov. V podstate, ak ste nový používateľ, budete musieť chvíľu počkať a požiadať o ďalšie kvóty pred presunom aplikácie do produkcie. V službe NLP Cloud takéto kvóty neuplatňujeme, takže môžete prejsť do produkcie okamžite.

Nakoniec je dôležité poznamenať, že je vo všeobecnosti dosť ťažké získať rýchlu a podrobnú odpoveď od podpory OpenAI. V spoločnosti NLP Cloud bolo vždy našou stratégiou poskytovať pokročilé odborné znalosti všetkým našim zákazníkom. Takže v prípade akýchkoľvek otázok týkajúcich sa pohotového inžinierstva, výberu modelu, dolaďovania atď. sa na nás neváhajte obrátiť.

Záver

Mnohí zákazníci hľadajú alternatívy k OpenAI, najmä kvôli obmedzeniam v prípadoch použitia, politike ochrany osobných údajov, cenám a narušeniu služieb.

Veríme, že rozhranie NLP Cloud API je veľmi dobrou alternatívou k OpenAI!

V spoločnosti NLP Cloud sme hrdí na to, že poskytujeme podporu na vysokej úrovni všetkým našim zákazníkom a neustále pridávame ďalšie špičkové modely AI, aby naši zákazníci mohli v krátkom čase realizovať svoj projekt AI.

Chcete si to vyskúšať? Otestujte NLP Cloud tu!

Juliette
Marketingový manažér v spoločnosti NLP Cloud