Hugging Face API og AutoTrain: sammenligning af priser og funktioner med NLP Cloud

Prisfastsættelse: Hugging Face VS NLP Cloud: Pris: Hugging Face VS NLP Cloud

For det første er det værd at bemærke, at NLP Cloud API'et kan testes gratis, når det bruges på en CPU og en GPU (takket være den gratis plan og pay-as-you-go-planen, der tilbyder 100.000 gratis tokens), mens Hugging Face API'et kun kan testes gratis på en CPU (takket være deres gratis plan). Det er en vigtig forskel, da de mest interessante Transformer-baserede AI-modeller kører meget hurtigere på en GPU. Nogle kører endda bare ikke på en GPU.

Prisfastsættelse for Hugging Face

Med hensyn til abonnementer tilbyder Hugging Face kun pay-as-you-go prissætning (prissætning baseret på dit forbrug), mens NLP Cloud både tilbyder forudbetalte abonnementer og pay-as-you-go abonnementer. Lad os sige, at du ønsker at udføre tekstklassificering på tekststykker, der gennemsnitligt indeholder omkring 5 000 ord, med en hastighed på 15 anmodninger pr. minut på en GPU. Hugging Face's prisfastsættelse er baseret på antallet af tegn, mens NLP Cloud's er baseret på antallet af tokens. 5k ord svarer mere eller mindre til 15k tegn og til 3.750 tokens. På NLP Cloud koster det dig 99 $/måned ved at abonnere på Starter GPU Plan, mens det på Hugging Face koster dig 15k x 15 x 60 x 60 x 24 x 31 x $50 / 1M = 500k $/måned (!!!).

Som du kan se, ser det ud til, at Hugging Face pay-as-you-go prisfastsættelse absolut ikke er egnet til produktionsbrug. Der er bogstaveligt talt ingen, der vil betale en sådan pris for tekstklassificering på en GPU...

Hvad angår finjustering, er det ikke engang muligt at sammenligne, da Hugging Face's AutoTrain-priser ikke er offentlige. Vi registrerede os og prøvede deres AutoTrain-løsning, men vi kunne stadig ikke finde nogen klar prisfastsættelse...

Tilgængelige modeller

Det fantastiske ved Hugging Face er, at de er vært for masser af AI-modeller på deres platform! Det betyder dog ikke, at du rent faktisk kan bruge disse modeller. Du kan selvfølgelig downloade dem, men det er ikke det samme som at bruge dem.

Kun en meget lille del af Hugging Face's modeller er faktisk tilgængelige for inferens via deres API. Hvis du forsøger at bruge en model, der ikke allerede er indlæst, skal du enten vente i flere minutter eller får simpelthen en fejlmeddelelse. En løsning er at fastgøre de modeller, du ønsker at bruge, så de altid er tilgængelige, men i så fald skal du betale yderligere 5 USD/måned pr. model på en GPU.

I NLP Cloud har vi valgt en anden strategi: Der er hele tiden omkring 50 forskellige AI-modeller til rådighed. Vi vælger en model, når vi mener, at det er den bedste model til en specifik brugssag. Vi vælger f.eks. Bart Large MNLI til klassifikation, Distilbert til sentimentanalyse, GPT-J til intent detection osv.

Endnu vigtigere: De mest avancerede AI-modeller som GPT-J er ikke tilgængelige på Hugging Face API og kan ikke finjusteres på deres AutoTrain-platform, mens du nemt kan bruge og finjustere disse store sprogmodeller på NLP Cloud.

GPT-J API-eksempel på NLP Cloud

GPT-J finjustering i NLP Cloud

Støtte

Hugging Face tilbyder kun support, hvis du vælger deres Lab- eller Enterprise-plan.

NLP Cloud er helt anderledes: Vi tilbyder den bedste support, vi kan, til alle kunder, uanset om det er en gratis kunde, en lille betalt kunde eller en virksomhedskunde. Vi mener, at en god support er afgørende, når det drejer sig om AI og naturlig sprogbehandling, fordi kunderne kan have masser af interessante tekniske eller forretningsmæssige spørgsmål.

Hastighed og pålidelighed

I vores benchmarks bemærkede vi en lavere latenstid på NLP Cloud API'et for alle de modeller, vi testede, uanset om de blev brugt på en CPU eller en GPU.

Hastighed er afgørende for et sådant API til maskinlæring, og det kan gøre en stor forskel, at NLP Cloud reagerer hurtigere, afhængigt af dine forretningskrav.

Hvad angår finjustering, kunne vi ikke foretage en ordentlig sammenligning i øjeblikket, fordi de fleste af de finjusteringer, vi lancerede på Hugging Face AutoTrain-platformen, mislykkedes uden en eksplicit fejlmeddelelse.

Konklusion

Brugere sammenligner ofte NLP Cloud med Hugging Face API og AutoTrain-platformen.

Vi mener, at NLP Cloud API'et er langt mere interessant både ud fra et prissynspunkt og et ydelsessynspunkt.

Vi er også meget stolte af at kunne tilbyde en support af høj kvalitet til alle vores kunder uden forskel.

Har du lyst til at prøve? Test NLP Cloud her!

Julien Salinas
Teknisk direktør hos NLP Cloud