OpenAI och GPT-3 VS NLP Cloud

Riktlinjer för användning och granskning av ansökningar

Före GPT-3 släppte OpenAI AI-modeller med öppen källkod. GPT och GPT-2 var båda modeller med öppen källkod som alla kunde använda som de ville. Därav ordet "Open" i "OpenAI". Men när de skapade GPT-3 beslutade OpenAI att behålla den som en svart låda som endast var tillgänglig via deras betalda API. Officiellt av etiska skäl.

Sedan dess har motsvarigheter med öppen källkod släppts, till exempel GPT-J och GPT-NeoX, och du kan installera dem själv och använda dem som du vill.

OpenAI är extremt restriktiva när det gäller vilken typ av applikationer de tillåter. Du kan inte integrera deras API i produktionen utan att först skicka in din applikation för validering och de tillämpar mycket strikta "användningsriktlinjer". Här finns en översikt över deras valideringsprocess.

Vissa ansökningar är helt enkelt inte tillåtna som standard, t.ex. ansökningar som bygger på "ovetenskapliga" premisser, parafrasering och omskrivning av ansökningar (betraktas som "plagiat"), marknadsföring på flera nivåer, med mera. Här finns en mer detaljerad lista från OpenAI:s riktlinjer för användning:

Dessutom är det mycket troligt att många AI-tillämpningar som du kanske har i åtanke kommer att avvisas av OpenAI. Du kan till exempel inte generera stort innehåll, vilket innebär att du inte kan använda GPT-3 för att skriva en hel bloggartikel åt dig. Många användningsfall för chatbotar avvisas också. Du kan till exempel inte bygga en chatbot som fungerar som en följeslagare eller en chatbot som använder förolämpningar eller vuxenord. Din ansökan kommer också med stor sannolikhet att avvisas om den är relaterad till sociala medier, hälsovård, coachning, juridik och mycket annat. Här finns några utdrag ur OpenAI:s riktlinjer om "högriskområden" (ansökningar som anses vara mycket känsliga och som med stor sannolikhet kommer att avvisas) och om textlängd:

OpenAI ber dig att implementera en "användaridentifierare" som individuellt identifierar varje slutanvändare av din applikation. Baserat på detta gäller hastighetsbegränsning: slutanvändare kan inte göra mer än 60 förfrågningar per minut.

Många projekt avbryts helt enkelt på grund av dessa strikta begränsningar.

Ingen av dessa begränsningar tillämpas av NLP Cloud. Du kan använda NLP Cloud för alla typer av applikationer utan begränsningar och du kan göra så många förfrågningar som du vill per slutanvändare utan hastighetsbegränsning (så länge du väljer rätt plan förstås).

Skillnader i prissättning

OpenAI och NLP Cloud erbjuder båda priser som bygger på betalning efter användning. Det innebär att du kan betala i efterhand, endast för det antal förfrågningar eller tokens som du faktiskt har använt.

NLP Cloud erbjuder också standardpaket som betalas i förväg. Dessa planer ger dig tillgång till ett visst antal förfrågningar per minut. Dessa planer är mer kostnadseffektiva än pay-as-you-go om du har en stor volym förfrågningar att utföra.

Se NLP Clouds priser här. Se OpenAI:s priser nedan:

Låt oss göra en enkel simulering. GPT-J är likvärdigt med GPT-3 Curie, så vi ska jämföra de båda priserna.

På NLP Cloud kostar 10 förfrågningar per minut på GPT-J, med 800 tokens vardera, 199 USD/månad (Full GPU-plan).

På OpenAI kostar det dig 0,006 x 0,8 x 10 x 60 x 24 x 31 x 24 x 31 = 2 142 USD/månad.

Prisskillnaden är mycket stor, och den är faktiskt ännu viktigare när du jämför finjustering och inbäddningsplaner!

Funktioner och modeller som finns tillgängliga

OpenAI och NLP Cloud har antagit två mycket olika strategier: OpenAI tillverkar en enda intern modell (GPT-3) medan NLP Cloud samlar de bästa AI-modellerna med öppen källkod på samma plattform.

Det innebär att du på NLP Cloud naturligtvis kan använda vissa GPT-3-konkurrenter som GPT-J och GPT-NeoX, men du kan också använda många andra modeller som Bart, T5, OpusMT, Distilbert, M2M100, spaCy osv.

Att använda specialiserade mindre modeller är ofta mycket mer kostnadseffektivt och snabbare än att använda en stor GPT-modell (även om den är mycket mångsidig).

Ibland kan vissa användningsområden helt enkelt inte täckas av GPT-3, GPT-J och GPT-NeoX. Det är till exempel fallet med flerspråkig översättning. För ett sådant användningsfall måste du använda en särskild modell, som Facebooks M2M100.

Att använda specialiserade modeller är också ett bra sätt att minska komplexiteten. Till exempel kräver en sammanfattning med GPT-3 en del avancerad promptteknik, medan du mycket enkelt kan få avancerade resultat tack vare dedikerade finjusterade modeller som Facebooks Bart Large CNN.

Dataintegritet

Det finns en betydande skillnad mellan OpenAI och NLP Cloud när det gäller dataskydd.

NLP Clouds sekretesspolicy är mycket enkel: inga användardata som skickas till API:et lagras på NLP Clouds servrar och ingen har tillgång till dessa data.

OpenAI å andra sidan gör många saker med sina kunders data. Användarnas uppgifter behandlas av en intern programvara och granskas ibland av OpenAI:s anställda. Viktigare är att dessa uppgifter lagras på obegränsad tid och att de används för att träna och förbättra vissa av OpenAI:s AI-modeller, t.ex. semantisk sökning och klassificeringsmodeller. Se ett utdrag ur OpenAI:s integritetspolicy nedan:

Dessa integritetsöverväganden kan vara kritiska för många företag, särskilt de som arbetar med datakänsliga branscher som hälso- och sjukvård, juridik, ekonomi...

Slutsats

Många kunder letar efter alternativ till OpenAI, främst på grund av deras begränsningar i användningsområden, sekretesspolicy för data och oöverkomliga priser.

Vi anser att NLP Cloud API är ett mycket bra alternativ till OpenAI!

På NLP Cloud är vi stolta över att kunna erbjuda support på hög nivå till alla våra kunder, och vi lägger ständigt till fler banbrytande AI-modeller så att våra kunder kan leverera sina AI-projekt på nolltid.

Vill du prova? Testa NLP Cloud här!

Julien Salinas
CTO på NLP Cloud