API za objemanje obraza in AutoTrain: primerjava cen in funkcij z NLP Cloud

Cene: Objemni obraz VS NLP Cloud

Najprej je treba omeniti, da lahko API NLP Cloud brezplačno preizkusite na CPU in GPU (zahvaljujoč brezplačnemu načrtu in načrtu za sprotno plačevanje, ki ponuja 100 tisoč brezplačnih žetonov), medtem ko lahko API Hugging Face brezplačno preizkusite samo na CPU (zahvaljujoč njihovemu brezplačnemu načrtu). Gre za pomembno razliko, saj najzanimivejši modeli umetne inteligence, ki temeljijo na procesorju Transformer, na grafičnem procesorju delujejo veliko hitreje. Nekateri celo ne delujejo na grafičnem procesorju.

Objemanje obraza Cene

Kar zadeva načrte, ponuja storitev Hugging Face samo cene po načelu "plačaj, kolikor porabiš", medtem ko NLP Cloud ponuja tako predplačniške načrte kot načrte po načelu "plačaj, kolikor porabiš". Recimo, da želite na grafičnem procesorju izvajati razvrščanje besedil na delih besedila, ki v povprečju vsebujejo približno 5 tisoč besed, s hitrostjo 15 zahtevkov na minuto. Cenik podjetja Hugging Face temelji na številu znakov, cenik podjetja NLP Cloud pa na številu žetonov. 5k besed je bolj ali manj enakovredno 15k znakov in 3750 žetonom. V oblaku NLP Cloud vas bo z naročnino na načrt GPU Starter stalo 99 dolarjev na mesec, v oblaku Hugging Face pa 15k x 15 x 60 x 24 x 31 x 50 dolarjev / 1M = 500k dolarjev na mesec (!!!).

Kot lahko vidite, se zdi, da cena Hugging Face pay-as-you-go nikakor ni primerna za produkcijsko uporabo. Dobesedno nihče ne bo plačal takšne cene za razvrščanje besedila na grafičnem procesorju...

Kar zadeva fino nastavitev, primerjava sploh ni mogoča, saj cene programa AutoTrain podjetja Hugging Face niso javno objavljene. Registrirali smo se in preizkusili njihovo rešitev AutoTrain, vendar še vedno nismo našli jasnih cen...

Razpoložljivi modeli

Velika stvar pri Hugging Face je, da na svoji platformi gostijo tone modelov umetne inteligence! Vendar to ne pomeni, da lahko te modele dejansko uporabljate. Seveda jih lahko prenesete, vendar to ne pomeni, da jih uporabljate.

Le zelo majhen del modelov podjetja Hugging Face je dejansko na voljo za sklepanje prek njihovega vmesnika API. Če poskušate uporabiti model, ki še ni naložen, boste morali počakati nekaj minut ali pa se bo preprosto pojavila napaka. Rešitev je, da modele, ki jih želite uporabljati, pripnete tako, da so vedno na voljo, vendar morate v tem primeru plačati dodatnih 5 USD na mesec za model na grafičnem procesorju.

V oblaku NLP Cloud smo izbrali drugačno strategijo: ves čas je na voljo približno 50 različnih modelov umetne inteligence. Model izberemo, ko menimo, da je najboljši model za določen primer uporabe. Tako na primer izberemo Bart Large MNLI za klasifikacijo, Distilbert za analizo čustev, GPT-J za zaznavanje namere itd.

Še pomembneje: najnaprednejši modeli umetne inteligence, kot je GPT-J, niso na voljo v vmesniku API Hugging Face in jih ni mogoče natančno prilagoditi na njihovi platformi AutoTrain, medtem ko lahko te velike jezikovne modele preprosto uporabite in natančno prilagodite v oblaku NLP Cloud.

Primer API GPT-J v oblaku NLP

Natančna nastavitev GPT-J v oblaku NLP

Podpora

Storitev Hugging Face nudi podporo le, če izberete načrt Lab ali Enterprise.

NLP Cloud je popolnoma drugačen: vsaki stranki nudimo najboljšo možno podporo, ne glede na to, ali gre za brezplačno stranko, majhno plačljivo stranko ali podjetje. Prepričani smo, da je dobra podpora ključnega pomena, ko gre za umetno inteligenco in obdelavo naravnega jezika, saj imajo lahko stranke na tone zanimivih tehničnih ali poslovnih vprašanj.

Hitrost in zanesljivost

V naših primerjalnih testih smo pri vseh modelih, ki smo jih testirali, opazili manjšo zakasnitev v API NLP Cloud, ne glede na to, ali gre za CPU ali GPU.

Hitrost je za tak API za strojno učenje ključnega pomena in dejstvo, da se NLP Cloud odziva hitreje, lahko glede na vaše poslovne zahteve pomeni veliko razliko.

Kar zadeva fino nastavitev, za zdaj nismo mogli opraviti ustrezne primerjave, saj je bila večina finih nastavitev, ki smo jih izvedli na platformi Hugging Face AutoTrain, neuspešna brez izrecnega sporočila o napaki.

Zaključek

Uporabniki pogosto primerjajo NLP Cloud z vmesnikom API Hugging Face in platformo AutoTrain.

Menimo, da je vmesnik API NLP v oblaku veliko bolj zanimiv tako z vidika cene kot z vidika zmogljivosti.

Ponosni smo tudi na to, da lahko vsem strankam brez izjeme nudimo visokokakovostno podporo.

Želite poskusiti? Preizkusite NLP Cloud tukaj!

Julien Salinas
Tehnični direktor v podjetju NLP Cloud