OpenAI og GPT-3 VS NLP-skyen

Retningslinjer for bruk og gjennomgang av søknader

Før GPT-3 pleide OpenAI å frigjøre AI-modeller med åpen kildekode. GPT og GPT-2 var begge modeller med åpen kildekode som alle kunne distribuere og bruke som de ville. Derav ordet "Open" i "OpenAI". Men da de opprettet GPT-3, bestemte OpenAI seg for å beholde den som en svart boks bare tilgjengelig gjennom deres betalte API. Offisielt av etiske grunner.

Siden den gang har det blitt utgitt åpen kildekode-ekvivalenter som GPT-J og GPT-NeoX, og du kan installere dem selv og bruke dem som du vil.

OpenAI er svært restriktive med hensyn til hva slags applikasjoner de tillater. Du kan ikke integrere deres API i produksjonen uten å sende inn søknaden din for validering først, og de håndhever svært strenge "retningslinjer for bruk". Her er en oversikt over valideringsprosessen deres.

Noen søknader er rett og slett ikke tillatt som standard, som søknader basert på "uvitenskapelige" premisser, parafrasering og omskriving av søknader (ansett som "plagiat"), markedsføring på flere nivåer med mer. Her er en mer detaljert liste fra OpenAIs retningslinjer for bruk:

I tillegg vil mange AI-applikasjoner som du kanskje har i tankene, sannsynligvis bli avvist av OpenAI. Du kan for eksempel ikke generere stort innhold, noe som betyr at du ikke kan bruke GPT-3 til å skrive en hel bloggartikkel for deg. Mange chatbot-brukstilfeller blir også avvist. Du kan for eksempel ikke bygge en chatbot som fungerer som en ledsager eller en chatbot som bruker fornærmelser eller voksenord. Det er også svært sannsynlig at søknaden din blir avvist hvis den er relatert til sosiale medier, helsetjenester, coaching, juss og mye mer. Her er noen utdrag fra OpenAIs retningslinjer om "high stake"-domener (søknader som anses som svært sensitive og som sannsynligvis vil bli avvist) og om tekstlengde:

OpenAI ber deg om å implementere en "brukeridentifikator" som skal identifisere hver enkelt sluttbruker av applikasjonen din. Basert på dette gjelder hastighetsbegrensning: sluttbrukere kan ikke gjøre mer enn 60 forespørsler per minutt.

Mange prosjekter blir rett og slett avbrutt på grunn av disse strenge begrensningene.

Ingen av disse begrensningene brukes av NLP Cloud. Du kan bruke NLP Cloud til alle typer applikasjoner uten begrensninger, og du kan gjøre så mange forespørsler du vil per sluttbruker uten hastighetsbegrensning (så lenge du velger riktig plan selvfølgelig).

Prisforskjeller

OpenAI og NLP Cloud foreslår begge pay-as-you-go-priser. Det betyr at du kan betale i etterkant, bare for antall forespørsler eller tokens du faktisk har brukt.

NLP Cloud foreslår også standardpakker som betales på forhånd. Disse planene gir deg tilgang til et bestemt antall forespørsler per minutt. Disse planene er mer kostnadseffektive enn pay-as-you-go hvis du har et stort volum av forespørsler å utføre.

Se NLP Clouds priser her. Se OpenAIs priser nedenfor:

La oss gjøre en enkel simulering. GPT-J tilsvarer GPT-3 Curie, så vi skal sammenligne begge prisene.

På NLP Cloud vil det å gjøre 10 forespørsler per minutt på GPT-J, med 800 tokens hver, koste deg $ 199 / måned (Full GPU-plan).

På OpenAI vil det koste deg 0,006 x 0,8 x 10 x 60 x 24 x 31 = 2 142 dollar per måned.

Prisforskjellen er svært betydelig, og den er faktisk enda viktigere når man sammenligner finjustering og innbygging av planer!

Tilgjengelige funksjoner og modeller

OpenAI og NLP Cloud vedtok to veldig forskjellige strategier: OpenAI lager en enkelt intern modell (GPT-3), mens NLP Cloud samler den beste AI med åpen kildekode på samme plattform.

Det betyr at på NLP Cloud kan du selvfølgelig bruke noen GPT-3-konkurrenter som GPT-J og GPT-NeoX, men du kan også bruke mange andre modeller som Bart, T5, Distilbert, NLLB 200, spaCy, etc.

Å bruke spesialiserte mindre modeller er ofte mye mer kostnadseffektivt og mye raskere enn å bruke en stor GPT-modell (selv om den er veldig allsidig).

Noen ganger kan enkelte brukstilfeller ikke dekkes av GPT-3, GPT-J og GPT-NeoX. Det gjelder for eksempel flerspråklig oversettelse. For et slikt brukstilfelle må du bruke en dedikert modell, som Facebooks M2M100.

Å utnytte spesialiserte modeller er også en god måte å redusere kompleksiteten på. For eksempel vil det å utføre oppsummering med GPT-3 kreve litt avansert spørringsteknikk, mens du veldig enkelt kan få avanserte resultater takket være dedikerte finjusterte modeller som Facebooks Bart Large CNN.

Personvern

Det er en betydelig forskjell mellom OpenAI og NLP Cloud når det gjelder personvern.

NLP Clouds retningslinjer for personvern er svært enkle: Ingen brukerdata som sendes til API-et, lagres på NLP Clouds servere, og ingen har tilgang til disse dataene.

OpenAI på den annen side gjør mange ting med kundenes data. Brukernes data behandles av intern programvare og gjennomgås noen ganger av OpenAIs ansatte. Enda viktigere er at disse dataene lagres i en ubegrenset periode, og at de brukes til å trene og forbedre noen av OpenAIs AI-modeller, som semantiske søke- og klassifiseringsmodeller. Se et utdrag fra OpenAIs personvernerklæring nedenfor:

Disse personvernhensynene kan være kritiske for mange virksomheter, særlig de som arbeider med datasensitive bransjer som helse, jus, finans...

Konklusjon

Mange kunder leter etter alternativer til OpenAI, hovedsakelig på grunn av bruksbegrensninger, personvernregler og uoverkommelige priser.

Vi mener at NLP Cloud API er et veldig godt alternativ til OpenAI!

Hos NLP Cloud er vi stolte av å tilby støtte på høyt nivå til alle våre kunder, og vi legger stadig til flere banebrytende AI-modeller slik at kundene våre kan levere AI-prosjektet på kort tid.

Har du lyst til å prøve? Test NLP Cloud her!

Juliette
Markedssjef hos NLP Cloud