OpenAI og GPT-3 VS NLP Cloud

Brugsretningslinjer og gennemgang af ansøgninger

Før GPT-3 frigav OpenAI AI-modeller med åben kildekode. GPT og GPT-2 var begge open source-modeller, som alle kunne anvende og bruge efter eget ønske. Deraf ordet "Open" i "OpenAI". Men da de skabte GPT-3, besluttede OpenAI at holde den som en sort boks, der kun var tilgængelig via deres betalte API. Officielt af etiske årsager.

Siden da er der blevet frigivet tilsvarende open source-produkter som GPT-J og GPT-NeoX, og du kan selv installere dem og bruge dem som du vil.

OpenAI er ekstremt restriktive med hensyn til den type applikationer, de tillader. Du kan ikke integrere deres API i produktionen uden at indsende din applikation til validering først, og de håndhæver meget strenge "brugsretningslinjer". Her er en oversigt over deres valideringsproces.

Nogle ansøgninger er simpelthen ikke tilladt som standard, f.eks. ansøgninger baseret på "uvidenskabelige" forudsætninger, parafrasering og omskrivning af ansøgninger (betragtes som "plagiat"), markedsføring på flere niveauer og meget mere. Her er en mere detaljeret liste fra OpenAI's retningslinjer for brug:

Desuden vil mange AI-applikationer, som du måske har i tankerne, med stor sandsynlighed blive afvist af OpenAI. Du kan f.eks. ikke generere stort indhold, hvilket betyder, at du ikke kan bruge GPT-3 til at skrive en hel blogartikel for dig. Mange chatbot-anvendelsestilfælde bliver også afvist. Du kan f.eks. ikke bygge en chatbot, der fungerer som en ledsager, eller en chatbot, der bruger fornærmelser eller voksenord. Din ansøgning vil også med stor sandsynlighed blive afvist, hvis den er relateret til sociale medier, sundhedspleje, coaching, coaching, juridiske spørgsmål og meget mere. Her er nogle uddrag af OpenAI's retningslinjer om "high-stake"-domæner (ansøgninger, der anses for at være meget følsomme, og som med stor sandsynlighed vil blive afvist) og om tekstlængde:

OpenAI beder dig om at implementere en "brugeridentifikator", som skal identificere hver enkelt slutbruger af din applikation individuelt. På baggrund heraf gælder hastighedsbegrænsning: Slutbrugere kan ikke foretage mere end 60 anmodninger pr. minut.

Mange projekter bliver simpelthen afbrudt på grund af disse strenge begrænsninger.

Ingen af disse begrænsninger anvendes af NLP Cloud. Du kan bruge NLP Cloud til enhver form for applikation uden begrænsninger, og du kan lave så mange forespørgsler, som du ønsker pr. slutbruger uden hastighedsbegrænsning (så længe du vælger det rigtige abonnement, selvfølgelig).

Forskelle i prisfastsættelse

OpenAI og NLP Cloud tilbyder begge betaling efter brug-priser. Det betyder, at du kun kan betale efterfølgende for det antal anmodninger eller tokens, du faktisk har brugt.

NLP Cloud tilbyder også standardpakker, der betales på forhånd. Disse abonnementer giver dig adgang til et bestemt antal forespørgsler pr. minut. Disse planer er mere omkostningseffektive end pay-as-you-go, hvis du har en stor mængde forespørgsler, der skal udføres.

Se NLP Clouds priser her. Se OpenAI's priser nedenfor:

Lad os lave en simpel simulering. GPT-J svarer til GPT-3 Curie, så vi sammenligner begge priser.

På NLP Cloud koster 10 forespørgsler pr. minut på GPT-J med 800 tokens hver for 199 $/måned (Full GPU-plan).

På OpenAI koster det dig 0,006 x 0,8 x 10 x 60 x 24 x 31 x 24 x 31 = 2.142 USD/måned.

Prisforskellen er meget betydelig, og den er faktisk endnu vigtigere, når du sammenligner finjusterings- og indlejringsplaner!

Tilgængelige funktioner og modeller

OpenAI og NLP Cloud har valgt to meget forskellige strategier: OpenAI laver en enkelt intern model (GPT-3), mens NLP Cloud samler den bedste AI med åben kildekode på den samme platform.

Det betyder, at du på NLP Cloud naturligvis kan bruge nogle GPT-3-konkurrenter som GPT-J og GPT-NeoX, men du kan også bruge mange andre modeller som Bart, T5, OpusMT, Distilbert, M2M100, spaCy osv.

Det er ofte meget mere omkostningseffektivt og hurtigere at bruge specialiserede mindre modeller end at bruge en stor GPT-model (selv om den er meget alsidig).

Nogle gange er der nogle anvendelsestilfælde, som GPT-3, GPT-J og GPT-NeoX ikke kan dække. Det er f.eks. tilfældet med flersproget oversættelse. Til en sådan brugssag skal du bruge en dedikeret model, som Facebooks M2M100.

Anvendelse af specialiserede modeller er også en god måde at reducere kompleksiteten på. For eksempel vil det kræve avanceret prompt engineering at udføre opsummering med GPT-3, mens du meget enkelt kan få avancerede resultater takket være dedikerede finjusterede modeller som Facebooks Bart Large CNN.

Beskyttelse af personoplysninger

Der er en væsentlig forskel mellem OpenAI og NLP Cloud, når det gælder databeskyttelse.

NLP Clouds fortrolighedspolitik er meget enkel: ingen brugerdata, der sendes til API'et, gemmes på NLP Clouds servere, og ingen har adgang til disse data.

OpenAI på den anden side gør mange ting med deres kunders data. Brugernes data behandles af en intern software og gennemgås nogle gange af OpenAI's medarbejdere. Vigtigere er det, at disse data gemmes i en ubegrænset periode, og de bruges til at træne og forbedre nogle af OpenAI's AI-modeller som f.eks. semantisk søgning og klassifikationsmodeller. Se et uddrag af OpenAI's privatlivspolitik nedenfor:

Disse overvejelser om privatlivets fred kan være kritiske for mange virksomheder, især dem, der beskæftiger sig med data-følsomme brancher som sundhedsvæsenet, juridiske, finansielle...

Konklusion

Mange kunder søger efter alternativer til OpenAI, primært på grund af deres begrænsninger i forbindelse med brug, deres politik for databeskyttelse og deres uoverkommelige prisfastsættelse.

Vi mener, at NLP Cloud API'et er et rigtig godt alternativ til OpenAI!

Hos NLP Cloud er vi stolte af at yde support på højt niveau til alle vores kunder, og vi tilføjer konstant flere avancerede AI-modeller, så vores kunder kan levere deres AI-projekt på ingen tid.

Har du lyst til at prøve? Test NLP Cloud her!

Julien Salinas
CTO hos NLP Cloud