Hugging Face API en AutoTrain: vergelijking van prijzen en functies met NLP Cloud

Prijsstelling: Knuffel Gezicht VS NLP Cloud

Ten eerste is het vermeldenswaard dat de NLP Cloud API gratis kan worden getest bij gebruik op een CPU en een GPU (dankzij het gratis plan en het pay-as-you-go plan dat 100k gratis tokens biedt), terwijl de Hugging Face API alleen gratis kan worden getest op een CPU (dankzij hun gratis plan). Het is een belangrijk verschil omdat de meest interessante op Transformer gebaseerde AI-modellen veel sneller lopen op een GPU. Sommige draaien zelfs gewoon niet op een GPU.

Knuffel gezicht prijzen

In termen van plannen, Hugging Face stelt alleen pay-as-you-go prijzen voor (prijzen op basis van uw verbruik), terwijl NLP Cloud zowel pre-paid plannen als pay-as-you-go plannen voorstelt. Laten we zeggen dat u tekstclassificatie wilt uitvoeren op stukken tekst die gemiddeld ongeveer 5k woorden bevatten, met een snelheid van 15 verzoeken per minuut, op een GPU. De prijsstelling van Hugging Face is gebaseerd op het aantal karakters, terwijl die van NLP Cloud gebaseerd is op het aantal tokens. 5k woorden zijn min of meer gelijk aan 15k tekens en aan 3.750 tokens. Op NLP Cloud kost het u $99/maand als u zich abonneert op het Starter GPU Plan, terwijl het u op Hugging Face 15k x 15 x 60 x 24 x 31 x $50 / 1M = $500k/maand (!!!) kost.

Zoals u kunt zien, lijkt de pay-as-you-go prijsstelling van Hugging Face absoluut niet geschikt voor productiegebruik. Letterlijk niemand gaat zo'n prijs betalen voor tekstclassificatie op een GPU...

Wat de fijnafstelling betreft, is het zelfs niet mogelijk om te vergelijken, aangezien de prijzen van Hugging Face's AutoTrain niet openbaar zijn. We hebben ons geregistreerd en hun AutoTrain oplossing uitgeprobeerd, maar we konden nog steeds geen duidelijke prijsstelling vinden...

Beschikbare modellen

Het grote ding met Hugging Face is dat zij tonnen AI modellen op hun platform hosten! Dit betekent echter niet dat je deze modellen ook daadwerkelijk kunt gebruiken. Je kunt ze natuurlijk downloaden, maar dit is niet hetzelfde als ze gebruiken.

Slechts een zeer klein deel van de modellen van Hugging Face is daadwerkelijk beschikbaar voor inferentie via hun API. Als je een model probeert te gebruiken dat nog niet geladen is, zul je ofwel enkele minuten moeten wachten, ofwel gewoon een foutmelding krijgen. Een oplossing is om de modellen die u wilt gebruiken vast te zetten zodat ze altijd beschikbaar zijn, maar in dat geval moet u $5/maand extra betalen per model op een GPU.

Op NLP Cloud hebben we voor een andere strategie gekozen: er zijn altijd zo'n 50 verschillende AI-modellen beschikbaar. We selecteren een model wanneer we denken dat het het beste model is voor een specifieke use-case. We kiezen bijvoorbeeld Bart Large MNLI voor classificatie, Distilbert voor sentimentanalyse, GPT-J voor intentiedetectie, enz.

Belangrijker nog: de meest geavanceerde AI-modellen zoals GPT-J zijn niet beschikbaar op de Hugging Face API, en kunnen niet worden afgesteld op hun AutoTrain-platform, terwijl u deze grote taalmodellen gemakkelijk kunt gebruiken en afstellen op NLP Cloud.

GPT-J API-voorbeeld op NLP Cloud

GPT-J fijnafstemming op NLP Cloud

Steun

Hugging Face biedt alleen ondersteuning als u kiest voor hun Lab of Enterprise plan.

NLP Cloud is compleet anders: we bieden de beste ondersteuning die we kunnen aan elke klant, of het nu een gratis klant, een kleine betaalde klant of een Enterprise klant is. Wij geloven dat een goede ondersteuning van cruciaal belang is als het gaat om AI en natuurlijke taalverwerking, omdat klanten tal van interessante technische of zakelijke vragen kunnen hebben.

Snelheid en Betrouwbaarheid

In onze benchmarks zagen we een lagere latency op de NLP Cloud API voor alle modellen die we testten, zowel op een CPU als op een GPU.

Snelheid is van cruciaal belang voor een dergelijke API voor machinaal leren, en het feit dat NLP Cloud sneller reageert kan een groot verschil maken, afhankelijk van uw zakelijke vereisten.

Wat de fijnafstelling betreft, konden wij momenteel geen goede vergelijking maken omdat de meeste fijnafstellingen die wij op het Hugging Face AutoTrain platform hebben uitgevoerd, zonder expliciete foutmelding mislukten.

Conclusie

Gebruikers vergelijken NLP Cloud vaak met de Hugging Face API en het AutoTrain-platform.

Wij denken dat de NLP Cloud API veel interessanter is, zowel vanuit het oogpunt van de prijs als vanuit het oogpunt van de prestaties.

Wij zijn er ook zeer trots op dat wij al onze klanten zonder onderscheid een hoogwaardige ondersteuning kunnen bieden.

Wil je het eens proberen? Test NLP Cloud hier!

Julien Salinas
CTO bij NLP Cloud