API pentru îmbrățișarea feței și AutoTrain: comparație a prețurilor și a caracteristicilor cu NLP Cloud

Prețuri: Îmbrățișarea feței VS NLP Cloud

În primul rând, merită menționat faptul că API-ul NLP Cloud poate fi testat gratuit atunci când este utilizat pe un procesor și pe un GPU (datorită planului gratuit și a planului de plată care oferă 100 000 de jetoane gratuite), în timp ce API-ul Hugging Face poate fi testat gratuit doar pe un procesor (datorită planului gratuit). Este o diferență importantă, deoarece cele mai interesante modele de inteligență artificială bazate pe Transformer rulează mult mai rapid pe un GPU. Unele chiar nu rulează pur și simplu pe un GPU.

Îmbrățișarea feței Prețuri

În ceea ce privește planurile, Hugging Face propune doar prețuri de tip pay-as-you-go (tarifare în funcție de consum), în timp ce NLP Cloud propune atât planuri preplătite, cât și planuri de tip pay-as-you-go. Să presupunem că doriți să efectuați clasificarea textului pe bucăți de text care conțin în medie aproximativ 5k cuvinte, la o rată de 15 cereri pe minut, pe un GPU. Prețul practicat de Hugging Face se bazează pe numărul de caractere, în timp ce cel al NLP Cloud se bazează pe numărul de jetoane. 5k cuvinte sunt mai mult sau mai puțin echivalente cu 15k caractere și cu 3.750 de token-uri. Pe NLP Cloud vă va costa 99 de dolari/lună prin abonarea la Starter GPU Plan, în timp ce pe Hugging Face vă va costa 15k x 15 x 60 x 60 x 24 x 31 x 50 $ / 1M = 500k $/lună (!!!).

După cum puteți vedea, se pare că prețul de plată pentru Hugging Face nu este deloc potrivit pentru o utilizare în producție. Practic, nimeni nu va plăti un astfel de preț pentru clasificarea textului pe un GPU...

În ceea ce privește reglajul fin, nici măcar nu se poate face o comparație, deoarece prețurile AutoTrain de la Hugging Face nu sunt publice. Ne-am înregistrat și am încercat soluția lor AutoTrain, dar tot nu am reușit să găsim un preț clar...

Modele disponibile

Lucrul grozav cu Hugging Face este că ei găzduiesc tone de modele AI pe platforma lor! Cu toate acestea, nu înseamnă că poți folosi efectiv aceste modele. Desigur, le puteți descărca, dar acest lucru nu este același lucru cu utilizarea lor.

Doar o foarte mică parte din modelele Hugging Face sunt disponibile pentru inferență prin intermediul API-ului lor. Dacă încercați să utilizați un model care nu este deja încărcat, va trebui să așteptați câteva minute sau pur și simplu veți primi o eroare. O soluție este să fixați modelele pe care doriți să le utilizați astfel încât să fie întotdeauna disponibile, dar în acest caz trebuie să plătiți încă 5 dolari/lună pentru fiecare model pe un GPU.

În NLP Cloud am ales o strategie diferită: aproximativ 50 de modele AI diferite sunt disponibile în permanență. Selectăm un model atunci când considerăm că este cel mai bun model pentru un anumit caz de utilizare. De exemplu, alegem Bart Large MNLI pentru clasificare, Distilbert pentru analiza sentimentelor, GPT-J pentru detectarea intențiilor etc.

Și mai important: cele mai avansate modele de inteligență artificială, cum ar fi GPT-J, nu sunt disponibile pe API-ul Hugging Face și nu pot fi ajustate pe platforma AutoTrain, în timp ce puteți utiliza și ajusta cu ușurință aceste modele lingvistice mari pe NLP Cloud.

Exemplu de GPT-J API pe NLP Cloud

GPT-J reglaj fin pe NLP Cloud

Suport

Hugging Face oferă asistență numai dacă selectați planul Lab sau Enterprise.

NLP Cloud este complet diferit: oferim cel mai bun suport pe care îl putem oferi oricărui client, indiferent dacă este un client gratuit, un client mic plătit sau un client Enterprise. Credem că un suport bun este esențial atunci când vine vorba de inteligență artificială și de procesarea limbajului natural, deoarece clienții pot avea o mulțime de întrebări tehnice sau de afaceri interesante.

Viteză și fiabilitate

În testele noastre de referință, am observat o latență mai mică pe NLP Cloud API pentru toate modelele pe care le-am testat, fie pe un CPU, fie pe un GPU.

Viteza este esențială pentru un astfel de API de învățare automată, iar faptul că NLP Cloud răspunde mai repede poate face o mare diferență, în funcție de cerințele afacerii dumneavoastră.

În ceea ce privește reglajul fin, nu am putut face o comparație adecvată pentru moment, deoarece majoritatea reglajelor fine pe care le-am lansat pe platforma Hugging Face AutoTrain au eșuat fără un mesaj de eroare explicit.

Concluzie

Utilizatorii compară adesea NLP Cloud cu API-ul Hugging Face și cu platforma AutoTrain.

Credem că API-ul NLP Cloud este mult mai interesant atât din punct de vedere al prețurilor, cât și din punct de vedere al performanței.

De asemenea, suntem foarte mândri să oferim un suport de înaltă calitate tuturor clienților noștri, fără deosebire.

Doriți să încercați? Testați NLP Cloud aici!

Julien Salinas
CTO la NLP Cloud