OpenAI en GPT-3 VS NLP Cloud

Richtlijnen voor gebruik en beoordeling van aanvragen

Voor GPT-3, bracht OpenAI open-source AI modellen uit. GPT en GPT-2 waren beide open-source modellen die iedereen naar believen kon inzetten en gebruiken. Vandaar het woord "Open" in "OpenAI". Maar toen ze GPT-3 maakten, besloot OpenAI het als een zwarte doos te houden, alleen beschikbaar via hun betaalde API. Officieel om ethische redenen.

Sindsdien zijn er open-source equivalenten uitgebracht, zoals GPT-J en GPT-NeoX, en die kunt u zelf installeren en gebruiken zoals u dat wilt.

OpenAI is zeer restrictief wat betreft het soort toepassingen dat ze toestaan. U kunt hun API niet in productie integreren zonder uw toepassing eerst ter validatie in te dienen en ze hanteren zeer strikte "gebruiksrichtlijnen". Hier is een overzicht van hun validatieproces.

Sommige toepassingen zijn gewoon standaard niet toegestaan, zoals toepassingen gebaseerd op "onwetenschappelijke" uitgangspunten, parafraseren en herschrijven van toepassingen (beschouwd als "plagiaat"), multi-level marketing, en meer. Hier is een meer gedetailleerde lijst van OpenAI's gebruiksrichtlijnen:

Bovendien is de kans groot dat veel AI-toepassingen die je in gedachten hebt, door OpenAI worden afgewezen. Je kunt bijvoorbeeld geen grote inhoud genereren, wat betekent dat je GPT-3 niet kunt gebruiken om een heel blogartikel voor je te schrijven. Veel chatbot use cases worden ook afgewezen. Je kunt bijvoorbeeld geen chatbot bouwen die als metgezel fungeert of een chatbot die beledigingen of volwassen woorden gebruikt. Je aanvraag zal ook zeer waarschijnlijk worden afgewezen als deze gerelateerd is aan sociale media, gezondheidszorg, coaching, juridisch, en nog veel meer. Hier zijn enkele uittreksels van OpenAI's richtlijnen over "high-stake" domeinen (aanvragen die als zeer gevoelig worden beschouwd en die een grote kans hebben om afgewezen te worden) en over tekstlengte:

OpenAI vraagt u om een "user identifier" te implementeren die elke eindgebruiker van uw applicatie individueel identificeert. Op basis hiervan is een snelheidsbeperking van toepassing: eindgebruikers kunnen niet meer dan 60 verzoeken per minuut doen.

Veel projecten worden gewoon afgebroken vanwege deze strikte beperkingen.

Geen van deze beperkingen worden toegepast door NLP Cloud. U kunt NLP Cloud gebruiken voor elk soort applicatie zonder beperkingen, en u kunt zoveel aanvragen doen als u wilt per eindgebruiker zonder tariefbeperking (zolang u het juiste plan kiest natuurlijk).

Verschillen in prijsstelling

OpenAI en NLP Cloud stellen beide pay-as-you-go prijzen voor. Dit betekent dat u achteraf kunt betalen, alleen voor het aantal verzoeken of tokens dat u daadwerkelijk hebt verbruikt.

NLP Cloud biedt ook standaardpakketten die vooraf worden betaald. Deze plannen geven u toegang tot een specifiek aantal verzoeken per minuut. Deze plannen zijn kosteneffectiever dan pay-as-you-go als u een groot volume aan verzoeken moet uitvoeren.

Bekijk hier de prijzen van NLP Cloud. Zie OpenAI's prijzen hieronder:

Laten we een eenvoudige simulatie maken. GPT-J is gelijkwaardig aan GPT-3 Curie, dus we gaan beide prijzen vergelijken.

Op NLP Cloud kost het doen van 10 verzoeken per minuut op GPT-J, met elk 800 tokens, u $199/maand (Full GPU plan).

Op OpenAI kost het u 0,006 x 0,8 x 10 x 60 x 24 x 31 = $2.142/maand.

Het prijsverschil is zeer aanzienlijk, en het is eigenlijk nog belangrijker bij het vergelijken van plannen voor fijnafstelling en inbedding!

Beschikbare functies en modellen

OpenAI en NLP Cloud hanteren 2 zeer verschillende strategieën: OpenAI maakt één enkel in-house model (GPT-3) terwijl NLP Cloud de beste open-source AI samenbrengt op hetzelfde platform.

Dit betekent dat u op NLP Cloud natuurlijk enkele GPT-3 concurrenten kunt gebruiken zoals GPT-J en GPT-NeoX, maar ook vele andere modellen zoals Bart, T5, OpusMT, Distilbert, M2M100, spaCy, enz.

Het gebruik van gespecialiseerde kleinere modellen is vaak veel kosteneffectiever en veel sneller dan het gebruik van een enorm GPT-model (ook al is dat zeer veelzijdig).

Soms kunnen sommige toepassingen gewoon niet worden gedekt door GPT-3, GPT-J en GPT-NeoX. Dat is bijvoorbeeld het geval bij meertalige vertaling. Voor een dergelijke use-case moet u een specifiek model gebruiken, zoals Facebook's M2M100.

Het gebruik van gespecialiseerde modellen is ook een goede manier om de complexiteit te verminderen. Om bijvoorbeeld samenvattingen te maken met GPT-3 is wat geavanceerde prompt engineering nodig, terwijl je heel eenvoudig geavanceerde resultaten kunt krijgen dankzij speciale fijnafgestemde modellen zoals Facebook's Bart Large CNN.

Gegevensbescherming

Er is een aanzienlijk verschil tussen OpenAI en NLP Cloud als het gaat om de privacy van gegevens.

Het privacybeleid van NLP Cloud is doodsimpel: geen gebruikersgegevens die naar de API worden gestuurd, worden opgeslagen op de servers van NLP Cloud, en niemand heeft toegang tot deze gegevens.

OpenAI daarentegen doet veel dingen met de gegevens van hun klanten. De gegevens van gebruikers worden verwerkt door enkele interne software en soms beoordeeld door OpenAI's werknemers. Belangrijker is dat deze gegevens voor onbeperkte tijd worden opgeslagen, en dat ze worden gebruikt om sommige van OpenAI's AI-modellen, zoals semantische zoek- en classificatiemodellen, te trainen en te verbeteren. Zie hieronder een uittreksel uit het privacybeleid van OpenAI:

Deze privacyoverwegingen kunnen voor veel bedrijven van cruciaal belang zijn, vooral voor bedrijven die te maken hebben met gegevensgevoelige sectoren zoals de gezondheidszorg, de juridische, de financiële...

Conclusie

Veel klanten zijn op zoek naar alternatieven voor OpenAI, vooral vanwege hun gebruiksbeperkingen, privacybeleid en onbetaalbare prijzen.

Wij geloven wel dat de NLP Cloud API een heel goed alternatief is voor OpenAI!

Bij NLP Cloud zijn we er trots op dat we al onze klanten ondersteuning op hoog niveau bieden, en we voegen voortdurend meer geavanceerde AI-modellen toe, zodat onze klanten hun AI-project in een mum van tijd kunnen opleveren.

Wil je het eens proberen? Test NLP Cloud hier!

Julien Salinas
CTO bij NLP Cloud