OpenAI și GPT-3 VS NLP Cloud

Orientări de utilizare și revizuirea aplicației

Înainte de GPT-3, OpenAI obișnuia să lanseze modele de inteligență artificială open-source. GPT și GPT-2 erau ambele modele open-source pe care oricine le putea implementa și utiliza după bunul plac. De aici și cuvântul "Open" din "OpenAI". Dar când au creat GPT-3, OpenAI a decis să îl păstreze ca pe o cutie neagră disponibilă doar prin intermediul API-ului lor plătit. În mod oficial, din motive etice.

De atunci, au fost lansați echivalenți open-source, cum ar fi GPT-J și GPT-NeoX, pe care îi puteți instala singuri și utiliza după bunul plac.

OpenAI este extrem de restrictiv în ceea ce privește tipul de aplicații pe care le permite. Nu puteți integra API-ul lor în producție fără a vă trimite mai întâi aplicația pentru validare și aplică "orientări de utilizare" foarte stricte. Iată o prezentare generală a procesului lor de validare.

Unele aplicații nu sunt permise în mod implicit, cum ar fi aplicațiile bazate pe premise "neștiințifice", parafrazarea și rescrierea aplicațiilor (considerate "plagiat"), marketingul pe mai multe niveluri și altele. Iată o listă mai detaliată din ghidurile de utilizare ale OpenAI:

În plus, este foarte probabil ca multe dintre aplicațiile de inteligență artificială pe care le aveți în minte să fie respinse de OpenAI. De exemplu, nu puteți genera conținut de mari dimensiuni, ceea ce înseamnă că nu puteți folosi GPT-3 pentru a scrie un întreg articol de blog pentru dvs. Multe cazuri de utilizare a chatboturilor sunt și ele respinse. De exemplu, nu puteți construi un chatbot care să acționeze ca însoțitor sau un chatbot care folosește insulte sau cuvinte pentru adulți. De asemenea, este foarte probabil ca cererea dvs. să fie respinsă dacă este legată de social media, asistență medicală, coaching, juridic și multe altele. Iată câteva extrase din liniile directoare ale OpenAI cu privire la domeniile "cu miză mare" (aplicații considerate foarte sensibile care au mari șanse de a fi respinse) și la lungimea textului:

OpenAI vă cere să implementați un "identificator de utilizator" care va identifica individual fiecare utilizator final al aplicației dumneavoastră. Pe această bază, se aplică limitarea ratei: utilizatorii finali nu pot face mai mult de 60 de cereri pe minut.

Multe proiecte sunt pur și simplu abandonate din cauza acestor limitări stricte.

Niciuna dintre aceste restricții nu este aplicată de NLP Cloud. Puteți utiliza NLP Cloud pentru orice tip de aplicație fără restricții și puteți face oricâte cereri doriți pentru fiecare utilizator final fără limitare de viteză (atâta timp cât selectați planul potrivit, desigur).

Diferențe de preț

Atât OpenAI, cât și NLP Cloud propun prețuri de tip "pay-as-you-go". Aceasta înseamnă că puteți plăti după ce ați consumat efectiv, doar pentru numărul de cereri sau de jetoane pe care le-ați consumat.

NLP Cloud propune, de asemenea, pachete standard plătite în avans. Aceste planuri vă oferă acces la un anumit număr de cereri pe minut. Aceste planuri sunt mai rentabile decât cele cu plata la minut dacă aveți un volum mare de cereri de efectuat.

Vedeți prețurile NLP Cloud aici. Vedeți mai jos prețurile OpenAI:

Să facem o simulare simplă. GPT-J este echivalent cu GPT-3 Curie, așa că vom compara ambele prețuri.

Pe NLP Cloud, efectuarea a 10 cereri pe minut pe GPT-J, folosind 800 de token-uri fiecare, vă va costa 199 de dolari pe lună (planul Full GPU).

Pe OpenAI, vă va costa 0,006 x 0,8 x 10 x 60 x 24 x 31 = 2.142 USD/lună.

Diferența de preț este foarte semnificativă și, de fapt, este și mai importantă atunci când se compară planurile de ajustare și încorporare!

Caracteristici și modele disponibile

OpenAI și NLP Cloud au adoptat două strategii foarte diferite: OpenAI realizează un singur model intern (GPT-3), în timp ce NLP Cloud reunește cele mai bune inteligențe artificiale open-source pe aceeași platformă.

Aceasta înseamnă că pe NLP Cloud puteți utiliza, desigur, unii concurenți GPT-3, cum ar fi GPT-J și GPT-NeoX, dar puteți utiliza și multe alte modele, cum ar fi Bart, T5, OpusMT, Distilbert, M2M100, spaCy etc.

Utilizarea unor modele specializate mai mici este adesea mult mai rentabilă și mult mai rapidă decât utilizarea unui model GPT imens (chiar dacă este foarte versatil).

Uneori, unele cazuri de utilizare nu pot fi acoperite de GPT-3, GPT-J și GPT-NeoX. Acesta este cazul traducerii multilingve, de exemplu. Pentru un astfel de caz de utilizare, va trebui să utilizați un model dedicat, cum ar fi M2M100 de la Facebook.

Folosirea modelelor specializate este, de asemenea, o modalitate bună de a reduce complexitatea. De exemplu, realizarea rezumării cu GPT-3 va necesita o inginerie promptă avansată, în timp ce puteți obține foarte simplu rezultate avansate datorită modelelor specializate cu reglaj fin, cum ar fi Bart Large CNN de la Facebook.

Confidențialitatea datelor

Există o diferență semnificativă între OpenAI și NLP Cloud în ceea ce privește confidențialitatea datelor.

Politica de confidențialitate a NLP Cloud este extrem de simplă: niciunul dintre datele utilizatorilor trimise către API nu este stocat pe serverele NLP Cloud și nimeni nu are acces la aceste date.

OpenAI, pe de altă parte, face multe lucruri cu datele clienților lor. Datele utilizatorilor sunt procesate de un software intern și, uneori, sunt analizate de angajații OpenAI. Mai important, aceste date sunt stocate pentru o perioadă nelimitată și sunt folosite pentru a antrena și îmbunătăți unele dintre modelele de inteligență artificială ale OpenAI, cum ar fi modelele de căutare semantică și de clasificare. Vedeți mai jos un extras din politica de confidențialitate a OpenAI:

Aceste considerente legate de confidențialitate pot fi esențiale pentru multe întreprinderi, în special pentru cele care se ocupă de industrii sensibile la date, cum ar fi cele din domeniul sănătății, juridic, financiar...

Concluzie

Mulți clienți caută alternative la OpenAI, în principal din cauza restricțiilor privind cazurile de utilizare, a politicii de confidențialitate a datelor și a prețurilor prohibitive.

Credem că NLP Cloud API este o alternativă foarte bună la OpenAI!

La NLP Cloud, suntem mândri să oferim un suport de nivel înalt tuturor clienților noștri și adăugăm în mod constant modele de AI de ultimă generație pentru ca clienții noștri să își poată livra proiectul de AI în cel mai scurt timp.

Doriți să încercați? Testați NLP Cloud aici!

Julien Salinas
CTO la NLP Cloud