Hugging Face API og AutoTrain: sammenligning av priser og funksjoner med NLP Cloud

Hugging Face er kjent for sitt store arbeid med Python Transformers-biblioteket, og for sitt store repository for maskinlæringsmodeller. Men de tilbyr også et slutnings-API og en finjusteringsplattform kalt AutoTrain.

NLP Clouds API og NLP Clouds finjusteringsplattform er direkte konkurrenter til Hugging Face's API og AutoTrain. La oss sammenligne prisene og funksjonene til disse to aktørene her!

Priser: Hugging Face VS NLP Cloud

For det første er det verdt å merke seg at NLP Cloud API kan testes gratis når den brukes på en CPU og en GPU (takket være gratisplanen og pay-as-you-go-planen som tilbyr 100 XNUMX gratis tokens), mens Hugging Face API bare kan testes gratis på en CPU (takket være deres gratis plan). Det er en viktig forskjell siden de mest interessante Transformer-baserte AI-modellene kjører mye raskere på en GPU. Noen kjører til og med bare ikke på en GPU.

Hugging Face-prising

Når det gjelder planer, foreslår Hugging Face bare pay-as-you-go-priser (priser basert på forbruket ditt), mens NLP Cloud både foreslår forhåndsbetalte planer og pay-as-you-go-planer. La oss si at du vil utføre tekstklassifisering på tekststykker som inneholder rundt 5k ord i gjennomsnitt, med en hastighet på 15 forespørsler per minutt, på en GPU. Hugging Faces priser er basert på antall tegn, mens NLP Clouds er basert på antall tokens. 5k ord tilsvarer mer eller mindre 15k tegn og 3,750 tokens. På NLP Cloud vil det koste deg $ 99 / måned ved å abonnere på Starter GPU-planen, mens det på Hugging Face vil koste deg 15k x 15 x 60 x 24 x 31 x $ 50 / 1M = $ 500k / måned (!!!).

Som du kan se, ser det ut til at Hugging Face pay-as-you-go-prising absolutt ikke er egnet for produksjonsbruk. Bokstavelig talt kommer ingen til å betale en slik pris for tekstklassifisering på en GPU ...

Når det gjelder finjustering, er det ikke engang mulig å sammenligne ettersom Hugging Faces AutoTrain-priser ikke er offentlige. Vi registrerte oss og prøvde AutoTrain-løsningen deres, men vi klarte fortsatt ikke å finne noen klare priser...

Tilgjengelige modeller

Det flotte med Hugging Face er at de er vert for tonnevis av AI-modeller på plattformen deres! Det betyr imidlertid ikke at du faktisk kan bruke disse modellene. Du kan selvfølgelig laste dem ned, men dette er ikke det samme som å bruke dem.

Bare en veldig liten brøkdel av Hugging Faces modeller er faktisk tilgjengelige for inferens gjennom deres API. Hvis du prøver å bruke en modell som ikke allerede er lastet inn, må du enten vente i flere minutter, eller bare få en feil. En løsning er å feste modellene du vil bruke slik at de alltid er tilgjengelige, men i så fall må du betale ytterligere $ 5 / måned per modell på en GPU.

På NLP Cloud valgte vi en annen strategi: rundt 50 forskjellige AI-modeller er tilgjengelige hele tiden. Vi velger en modell når vi tror det er den beste modellen for et bestemt bruksområde. For eksempel velger vi Bart Large MNLI for klassifisering, Distilbert for sentimentanalyse, GPT-J for intensjonsdeteksjon osv.

Enda viktigere: de mest avanserte AI-modellene som GPT-J er ikke tilgjengelige på Hugging Face API, og kan ikke finjusteres på AutoTrain-plattformen, mens du enkelt kan bruke og finjustere disse store språkmodellene på NLP Cloud.

GPT-J API-eksempel på NLP Cloud

GPT-J finjustering på NLP-skyen

Støtte

Hugging Face tilbyr bare støtte hvis du velger deres Lab- eller Enterprise-abonnement.

NLP Cloud er helt annerledes: vi tilbyr den beste støtten vi kan til enhver kunde, enten det er en gratis kunde, en liten betalt kunde eller en Enterprise-kunde. Vi mener at en god støtte er avgjørende når det gjelder AI og naturlig språkbehandling fordi kundene kan ha mange interessante tekniske eller forretningsmessige spørsmål.

Hastighet og pålitelighet

I våre benchmarks la vi merke til en lavere ventetid på NLP Cloud API for alle modellene vi testet, enten på en CPU eller en GPU.

Hastighet er avgjørende for en slik maskinlærings-API, og det faktum at NLP Cloud reagerer raskere kan utgjøre en stor forskjell, avhengig av dine forretningsbehov.

Når det gjelder finjustering, var vi ikke i stand til å gjøre en skikkelig sammenligning for øyeblikket fordi de fleste finjusteringene vi lanserte på Hugging Face AutoTrain-plattformen mislyktes uten eksplisitt feilmelding.

Konklusjon

Brukere sammenligner ofte NLP Cloud med Hugging Face API og AutoTrain-plattformen.

Vi tror at NLP Cloud API er mye mer interessant både fra et prissynspunkt og fra et ytelsessynspunkt.

Vi er også veldig stolte av å tilby støtte av høy kvalitet til alle våre kunder uten forskjell.

Har du lyst til å prøve? Test NLP Cloud her!

Juliette
Markedssjef hos NLP Cloud