OpenAI ja GPT-3 VS NLP Cloud

Kasutusjuhised ja taotluse läbivaatamine

Enne GPT-3 avaldas OpenAI avatud lähtekoodiga tehisintellekti mudeleid. GPT ja GPT-2 olid mõlemad avatud lähtekoodiga mudelid, mida igaüks võis kasutusele võtta ja kasutada oma äranägemise järgi. Siit ka sõna "Open" sõnas "OpenAI". Kuid kui nad lõid GPT-3, otsustas OpenAI hoida seda musta kastina, mis on kättesaadav ainult nende tasulise API kaudu. Ametlikult eetilistel põhjustel.

Pärast seda on avaldatud avatud lähtekoodiga vasteid, nagu GPT-J ja GPT-NeoX, ning te võite neid ise paigaldada ja kasutada, kuidas soovite.

OpenAI on äärmiselt piirav seoses sellega, milliseid rakendusi nad lubavad. Te ei saa nende API-d tootmisse integreerida, kui te ei ole oma rakendust kõigepealt valideerimiseks esitanud, ning nad kehtestavad väga ranged "kasutusjuhised". Siin on ülevaade nende valideerimisprotsessist.

Mõned taotlused on vaikimisi lihtsalt keelatud, näiteks taotlused, mis põhinevad "ebateaduslikel" eeldustel, taotluste parafraseerimine ja ümberkirjutamine (mida peetakse "plagiaadiks"), mitmetasandiline turundus ja palju muud. Siin on üksikasjalikum loetelu OpenAI kasutusjuhendist:

Lisaks sellele lükkab OpenAI suure tõenäosusega tagasi paljud tehisintellekti rakendused, mis teil võib-olla meeles on. Näiteks ei saa luua suurt sisu, mis tähendab, et te ei saa kasutada GPT-3 terve blogiartikli kirjutamiseks. Ka paljud juturobotite kasutusviisid lükatakse tagasi. Näiteks ei saa luua juturobotit, mis tegutseb kaaslasena, või juturobotit, mis kasutab solvanguid või täiskasvanutele mõeldud sõnu. Teie taotlus lükatakse suure tõenäosusega tagasi ka siis, kui see on seotud sotsiaalmeedia, tervishoiu, treeningu, juriidilise ja paljude muude valdkondadega. Siin on mõned väljavõtted OpenAI suunistest "kõrgete panustega" valdkondade kohta (väga tundlikuks peetavad taotlused, mis suure tõenäosusega lükatakse tagasi) ja teksti pikkuse kohta:

OpenAI palub teil rakendada "kasutaja identifikaatorit", mis tuvastab individuaalselt iga teie rakenduse lõppkasutaja. Selle põhjal kehtib kiiruse piiramine: lõppkasutajad ei saa teha rohkem kui 60 päringut minutis.

Paljud projektid jäetakse nende rangete piirangute tõttu lihtsalt pooleli.

NLP Cloud ei kohalda ühtegi neist piirangutest. Võite kasutada NLP Cloudi mis tahes rakenduste jaoks ilma piiranguteta ja teha nii palju päringuid kui soovite ühe lõppkasutaja kohta ilma kiiruse piiranguteta (kui te muidugi valite õige paketi).

Hinnakujunduse erinevused

OpenAI ja NLP Cloud pakuvad mõlemad tasulisi hindu. See tähendab, et te saate maksta tagantjärele ainult tegelikult tarbitud päringute või žetoonide arvu eest.

NLP Cloud pakub ka standardseid pakette, mis on ette makstud. Need paketid annavad teile juurdepääsu konkreetsele arvule päringutele minutis. Need paketid on kuluefektiivsemad kui järelmaksuga paketid, kui teil on suur hulk taotlusi, mida tuleb täita.

Vaata NLP Cloudi hinnakujundust siit. Vt OpenAI hinnakujundust allpool:

Teeme lihtsa simulatsiooni. GPT-J on samaväärne GPT-3 Curiega, seega võrdleme mõlemaid hindu.

NLP Cloudi puhul maksab 10 päringu tegemine GPT-J-s minutis, kasutades iga kord 800 tokenit, 199 dollarit kuus (Full GPU-plaan).

OpenAI puhul maksab see teile 0,006 x 0,8 x 10 x 60 x 24 x 31 = 2142 dollarit kuus.

Hinnavahe on väga märkimisväärne ja see on tegelikult veelgi olulisem, kui võrrelda peenhäälestus- ja manustamisplaane!

Olemasolevad omadused ja mudelid

OpenAI ja NLP Cloud võtsid vastu 2 väga erinevat strateegiat: OpenAI teeb üheainsa majasisese mudeli (GPT-3), samal ajal kui NLP Cloud koondab parimad avatud lähtekoodiga tehisintellekti mudelid samale platvormile.

See tähendab, et NLP Cloudis saab muidugi kasutada mõningaid GPT-3 konkurente nagu GPT-J ja GPT-NeoX, kuid ka paljusid teisi mudeleid nagu Bart, T5, OpusMT, Distilbert, M2M100, spaCy jne.

Spetsiaalsete väiksemate mudelite kasutamine on sageli palju kuluefektiivsem ja palju kiirem kui suure GPT-mudeli kasutamine (isegi kui see on väga mitmekülgne).

Mõnikord ei ole mõned kasutusjuhud lihtsalt võimalik GPT-3, GPT-J ja GPT-NeoX abil katta. See kehtib näiteks mitmekeelse tõlke puhul. Sellise kasutusjuhtumi jaoks on vaja kasutada spetsiaalset mudelit, näiteks Facebooki M2M100.

Spetsiaalsete mudelite kasutamine on samuti hea viis keerukuse vähendamiseks. Näiteks GPT-3-ga kokkuvõtete tegemine nõuab mõningast arenenud prompt engineeringi, samas kui te võite väga lihtsalt saada täiustatud tulemusi tänu spetsiaalsetele peenhäälestatud mudelitele, nagu Facebooki Bart Large CNN.

Andmekaitse

OpenAI ja NLP Cloudi vahel on oluline erinevus andmete privaatsuse osas.

NLP Cloudi privaatsuspoliitika on väga lihtne: NLP Cloudi serverites ei salvestata API-le saadetud kasutajaandmeid ja kellelgi ei ole nendele andmetele juurdepääsu.

OpenAI seevastu teeb oma klientide andmetega palju asju. Kasutajate andmeid töödeldakse mingi sisemise tarkvaraga ja mõnikord vaatavad OpenAI töötajad neid üle. Veelgi olulisem on see, et neid andmeid säilitatakse piiramatu aja jooksul ning neid kasutatakse mõnede OpenAI tehisintellekti mudelite, näiteks semantilise otsingu ja klassifitseerimismudelite treenimiseks ja täiustamiseks. Vt väljavõtet OpenAI privaatsuspoliitikast allpool:

Need eraelu puutumatuse kaalutlused võivad olla paljude ettevõtete jaoks kriitilise tähtsusega, eriti nende jaoks, kes tegelevad andmetundlike tööstusharudega, nagu tervishoid, õigus- ja rahandus...

Kokkuvõte

Paljud kliendid otsivad alternatiive OpenAI-le, peamiselt nende kasutuspiirangute, andmekaitsepoliitika ja liiga kõrge hinna tõttu.

Me usume, et NLP Cloud API on väga hea alternatiiv OpenAI-le!

NLP Cloudis oleme uhked, et pakume kõrgetasemelist tuge kõigile oma klientidele ning lisame pidevalt uusi tipptasemel tehisintellekti mudeleid, et meie kliendid saaksid oma tehisintellekti projekti kiiresti ellu viia.

Kas soovite proovida? Testi NLP Cloudi siin!

Julien Salinas
NLP Cloudi tehnoloogiajuht