Sejas apskates API un AutoTrain: cenu un funkciju salīdzinājums ar NLP Cloud

Cenu noteikšana: Sejas apskāviens VS NLP mākonis

Pirmkārt, ir vērts atzīmēt, ka NLP Cloud API var testēt bez maksas, izmantojot CPU un GPU (pateicoties bezmaksas plānam un maksas plānam, kas piedāvā 100 000 bezmaksas žetonu), savukārt Hugging Face API var testēt bez maksas tikai CPU (pateicoties bezmaksas plānam). Tā ir būtiska atšķirība, jo interesantākie uz Transformer balstītie mākslīgā intelekta modeļi darbojas daudz ātrāk uz GPU. Daži pat vienkārši nedarbojas uz GPU.

Sejas apskāviens sejas cenu noteikšana

Runājot par plāniem, pakalpojumā Hugging Face ir piedāvāta tikai maksa pēc patēriņa (cenas, kas atkarīgas no patēriņa), savukārt NLP Cloud piedāvā gan priekšapmaksas plānus, gan maksu pēc patēriņa. Pieņemsim, ka vēlaties veikt teksta klasifikāciju teksta fragmentiem, kas satur vidēji aptuveni 5 000 vārdu, ar ātrumu 15 pieprasījumi minūtē, izmantojot GPU. Uzņēmuma Hugging Face cenu noteikšanas pamatā ir rakstzīmju skaits, savukārt NLP Cloud cenu noteikšanas pamatā ir žetonu skaits. 5k vārdu ir vairāk vai mazāk līdzvērtīgi 15k rakstzīmēm un 3750 žetoniem. NLP Cloud tas maksās 99 ASV dolārus mēnesī, abonējot GPU Starter plānu, savukārt Hugging Face tas maksās 15k x 15 x 15 x 60 x 24 x 24 x 31 x 50 / 1M = 500 tūkstoši ASV dolāru mēnesī (!!!).

Kā redzat, šķiet, ka Hugging Face pay-as-you-go cenu noteikšana nav absolūti piemērota izmantošanai ražošanā. Burtiski neviens nemaksās šādu cenu par teksta klasifikāciju GPU...

Kas attiecas uz smalko regulēšanu, to pat nav iespējams salīdzināt, jo Hugging Face AutoTrain cenas nav publiskotas. Mēs reģistrējāmies un izmēģinājām viņu AutoTrain risinājumu, taču mums joprojām neizdevās atrast skaidru cenu...

Pieejamie modeļi

Lieliskā lieta ar Hugging Face ir tā, ka viņi savā platformā izvieto tonnas mākslīgā intelekta modeļu! Tomēr tas nenozīmē, ka šos modeļus var izmantot. Jūs, protams, varat tos lejupielādēt, bet tas nav tas pats, kas tos izmantot.

Tikai ļoti maza daļa no Hugging Face modeļiem ir faktiski pieejami secinājumiem, izmantojot API. Ja mēģināsiet izmantot modeli, kas vēl nav ielādēts, jums nāksies vai nu gaidīt vairākas minūtes, vai vienkārši saņemt kļūdu. Risinājums ir piespraust modeļus, kurus vēlaties izmantot, lai tie vienmēr būtu pieejami, taču tādā gadījumā jums ir jāmaksā papildu 5 ASV dolāri mēnesī par katru GPU modeli.

NLP mākonī mēs izvēlējāmies atšķirīgu stratēģiju: visu laiku ir pieejami aptuveni 50 dažādi mākslīgā intelekta modeļi. Mēs izvēlamies modeli, ja uzskatām, ka tas ir labākais modelis konkrētam lietojuma gadījumam. Piemēram, mēs izvēlamies Bart Large MNLI klasifikācijai, Distilbert noskaņojuma analīzei, GPT-J nodomu noteikšanai utt.

Vēl svarīgāk: vismodernākie mākslīgā intelekta modeļi, piemēram, GPT-J, nav pieejami pakalpojumā Hugging Face API, un tos nav iespējams precīzi noregulēt platformā AutoTrain, savukārt šos lielos valodas modeļus var viegli izmantot un precīzi noregulēt NLP Cloud.

GPT-J API piemērs par NLP Cloud

GPT-J precizēšana NLP mākoņa vidē

Atbalsts

Hugging Face piedāvā atbalstu tikai tad, ja izvēlaties Lab vai Enterprise plānu.

NLP Cloud ir pilnīgi atšķirīgs: mēs piedāvājam vislabāko iespējamo atbalstu jebkuram klientam neatkarīgi no tā, vai tas ir bezmaksas klients, neliels maksas klients vai uzņēmums. Mēs uzskatām, ka, runājot par mākslīgo intelektu un dabiskās valodas apstrādi, labs atbalsts ir ļoti svarīgs, jo klientiem var rasties daudz interesantu tehnisku vai biznesa jautājumu.

Ātrums un uzticamība

Veicot salīdzinošos testus, mēs novērojām, ka NLP Cloud API visiem testētajiem modeļiem, neatkarīgi no tā, vai tie darbojas ar CPU vai GPU, ir mazāks latentums.

Šādai mašīnmācīšanās API ir ļoti svarīgs ātrums, un tas, ka NLP Cloud reaģē ātrāk, var būt ļoti svarīgi atkarībā no jūsu biznesa prasībām.

Runājot par precīzu regulēšanu, pagaidām mēs nevarējām veikt pienācīgu salīdzinājumu, jo lielākā daļa no precīzās regulēšanas darbībām, ko mēs uzsākām ar Hugging Face AutoTrain platformu, neizdevās bez skaidra kļūdas paziņojuma.

Secinājums

Lietotāji bieži vien salīdzina NLP Cloud ar Interfeisa interfeisa interfeisa saskarni (API) un platformu AutoTrain.

Mēs uzskatām, ka NLP Cloud API ir daudz interesantāks gan no cenu, gan veiktspējas viedokļa.

Mēs arī lepojamies, ka varam piedāvāt augstas kvalitātes atbalstu visiem mūsu klientiem bez izņēmuma.

Vai vēlaties izmēģināt? Pārbaudiet NLP Cloud šeit!

Julien Salinas
NLP Cloud tehniskais direktors