"Hugging Face API" ir "AutoTrain": kainų ir funkcijų palyginimas su "NLP Cloud

"Hugging Face" gerai žinoma dėl savo puikaus darbo kuriant "Python Transformers" biblioteką, ir didele mašinų mokymosi modelių saugykla. Tačiau jie taip pat teikia išvedimo API ir tikslaus derinimo platformą "AutoTrain".

"NLP Cloud" API ir "NLP Cloud" tikslaus derinimo platforma yra tiesioginiai "Hugging Face" API ir "AutoTrain" konkurentai. Palyginkime šių 2 veikėjų kainas ir funkcijas čia!

Kainos: Apkabinti veidą VS NLP debesis

Pirmiausia verta paminėti, kad NLP Cloud API galima nemokamai išbandyti naudojant CPU ir GPU (dėl nemokamo plano ir mokamo plano, pagal kurį siūloma 100 tūkst. nemokamų žetonų), o Hugging Face API galima nemokamai išbandyti tik naudojant CPU (dėl nemokamo plano). Tai svarbus skirtumas, nes įdomiausi "Transformer" pagrįsti dirbtinio intelekto modeliai GPU veikia daug greičiau. Kai kurie net tiesiog neveikia naudojant GPU.

"Hugging Face" kainodara

Kalbant apie planus, "Hugging Face" siūlo tik "pay-as-you-go" kainodarą (kainos nustatymas pagal suvartojimą), o "NLP Cloud" siūlo ir išankstinio mokėjimo, ir "pay-as-you-go" planus. Tarkime, norite atlikti teksto klasifikavimą teksto gabalams, kuriuose vidutiniškai yra apie 5 tūkst. žodžių, 15 užklausų per minutę greičiu, naudodami GPU. "Hugging Face" kainodara pagrįsta simbolių skaičiumi, o "NLP Cloud" - žetonų skaičiumi. 5k žodžių daugiau ar mažiau atitinka 15k simbolių ir 3750 žetonų. NLP debesyje prenumeruojant GPU planą "Starter" tai kainuos 99 USD per mėnesį, o "Hugging Face" - 15 tūkst. x 15 x 60 x 24 x 31 x 50 USD / 1M = 500 tūkst. per mėnesį (!!!).

Kaip matote, atrodo, kad "Hugging Face" mokama kainodara visiškai netinka gamybiniam naudojimui. Niekas neketina mokėti tokios kainos už teksto klasifikavimą GPU...

Kalbant apie smulkų derinimą, net neįmanoma palyginti, nes "Hugging Face" "AutoTrain" kainodara nėra viešai skelbiama. Užsiregistravome ir išbandėme jų "AutoTrain" sprendimą, tačiau taip ir nepavyko rasti jokios aiškios kainos...

Galimi modeliai

Puikus dalykas su "Hugging Face" yra tai, kad jų platformoje yra daugybė dirbtinio intelekto modelių! Tačiau tai nereiškia, kad šiuos modelius iš tikrųjų galite naudoti. Žinoma, galite juos atsisiųsti, bet tai nėra tas pats, kas juos naudoti.

Tik labai maža dalis "Hugging Face" modelių iš tikrųjų yra prieinami išvadoms per jų API. Jei bandysite naudoti dar neįkeltą modelį, teks laukti kelias minutes arba tiesiog gausite klaidą. Išeitis - prisegti norimus naudoti modelius, kad jie visada būtų prieinami, tačiau tokiu atveju už kiekvieną modelį, esantį GPU, reikia mokėti papildomus 5 JAV dolerius per mėnesį.

NLP debesyje pasirinkome kitokią strategiją: nuolat galima naudotis maždaug 50 skirtingų dirbtinio intelekto modelių. Pasirenkame modelį, kai manome, kad jis yra geriausias konkrečiam naudojimo atvejui. Pavyzdžiui, klasifikavimui renkamės Bart Large MNLI, nuotaikų analizei - Distilbert, ketinimų nustatymui - GPT-J ir t. t.

Dar svarbiau: pažangiausi dirbtinio intelekto modeliai, tokie kaip GPT-J, nėra prieinami "Hugging Face API" ir jų negalima tiksliai sureguliuoti "AutoTrain" platformoje, o šiuos didelius kalbos modelius galite lengvai naudoti ir tiksliai sureguliuoti "NLP Cloud".

GPT-J API pavyzdys NLP debesyje

GPT-J derinimas NLP debesyje

Parama

"Hugging Face" teikia palaikymą tik pasirinkus "Lab" arba "Enterprise" planą.

"NLP Cloud" yra visiškai kitokia: mes teikiame geriausią įmanomą pagalbą bet kuriam klientui, nesvarbu, ar tai būtų nemokamas klientas, ar mažas mokamas klientas, ar įmonės klientas. Manome, kad geras palaikymas yra labai svarbus dirbtinio intelekto ir natūralios kalbos apdorojimo srityje, nes klientams gali kilti daugybė įdomių techninių ar verslo klausimų.

Greitis ir patikimumas

Atlikdami lyginamuosius testus pastebėjome, kad visų išbandytų modelių, naudojamų tiek su CPU, tiek su GPU, NLP Cloud API vėlavimas buvo mažesnis.

Tokiai mašininio mokymosi API labai svarbu greitis, o tai, kad "NLP Cloud" reaguoja greičiau, gali būti labai svarbu, atsižvelgiant į jūsų verslo reikalavimus.

Kalbant apie tiksliuosius derinimus, šiuo metu negalėjome atlikti tinkamo palyginimo, nes dauguma tiksliųjų derinimų, kuriuos paleidome "Hugging Face AutoTrain" platformoje, nepavyko be aiškaus klaidos pranešimo.

Išvada

Naudotojai dažnai lygina "NLP Cloud" su "Hugging Face API" ir "AutoTrain" platforma.

Tikrai manome, kad NLP debesies API yra daug įdomesnė tiek kainos, tiek našumo požiūriu.

Taip pat didžiuojamės galėdami pasiūlyti aukštos kokybės pagalbą visiems savo klientams be išimties.

Ar norėtumėte pabandyti? Išbandykite "NLP Cloud" čia!

Julien Salinas
NLP Cloud techninis direktorius