Rozhraní API Hugging Face a AutoTrain: srovnání cen a funkcí s NLP Cloud

Ceny: Objetí tváře VS NLP Cloud

Nejprve je třeba poznamenat, že rozhraní NLP Cloud API lze testovat zdarma při použití na CPU a GPU (díky bezplatnému plánu a plánu pay-as-you-go, který nabízí 100 tisíc tokenů zdarma), zatímco rozhraní Hugging Face API lze testovat zdarma pouze na CPU (díky jejich bezplatnému plánu). Je to důležitý rozdíl, protože nejzajímavější modely AI založené na Transformeru běží na GPU mnohem rychleji. Některé dokonce na GPU prostě neběží.

Objímání obličeje Ceny

Co se týče tarifů, Hugging Face nabízí pouze ceny podle spotřeby, zatímco NLP Cloud nabízí jak předplacené tarify, tak tarify podle spotřeby. Řekněme, že chcete provádět klasifikaci textu na částech textu, které obsahují v průměru kolem 5 tisíc slov, rychlostí 15 požadavků za minutu, na grafickém procesoru. Ceny služby Hugging Face jsou založeny na počtu znaků, zatímco ceny služby NLP Cloud jsou založeny na počtu tokenů. Pět tisíc slov víceméně odpovídá 15 tisícům znaků a 3 750 tokenům. Na NLP Cloud vás to bude stát 99 dolarů měsíčně při předplatném plánu GPU Starter, zatímco na Hugging Face vás to bude stát 15k x 15 x 60 x 24 x 31 x 50 dolarů / 1M = 500k dolarů měsíčně (!!!).

Jak vidíte, zdá se, že cena Hugging Face pay-as-you-go se absolutně nehodí pro produkční použití. Doslova nikdo nebude platit takovou cenu za klasifikaci textu na GPU...

Co se týče jemného doladění, není to ani možné porovnat, protože ceny služby AutoTrain společnosti Hugging Face nejsou veřejné. Zaregistrovali jsme se a vyzkoušeli jejich řešení AutoTrain, ale přesto se nám nepodařilo najít žádné jasné ceny...

Dostupné modely

Skvělé na Hugging Face je, že na své platformě hostí spoustu modelů s umělou inteligencí! To však neznamená, že tyto modely můžete skutečně používat. Můžete si je samozřejmě stáhnout, ale to není totéž jako jejich používání.

Pouze velmi malá část modelů Hugging Face je skutečně k dispozici pro odvozování prostřednictvím jejich API. Pokud se pokusíte použít model, který ještě není načtený, budete muset buď několik minut čekat, nebo se prostě zobrazí chyba. Řešením je připnout si modely, které chcete používat, aby byly vždy k dispozici, ale v takovém případě musíte zaplatit dalších 5 USD/měsíc za každý model na GPU.

U služby NLP Cloud jsme zvolili jinou strategii: neustále je k dispozici přibližně 50 různých modelů umělé inteligence. Model vybíráme, když si myslíme, že je pro konkrétní případ použití nejlepší. Vybíráme například Bart Large MNLI pro klasifikaci, Distilbert pro analýzu sentimentu, GPT-J pro detekci záměrů atd.

A co je ještě důležitější: nejpokročilejší modely umělé inteligence, jako je GPT-J, nejsou k dispozici v rozhraní API služby Hugging Face a nelze je doladit na jejich platformě AutoTrain, zatímco tyto rozsáhlé jazykové modely můžete snadno používat a dolaďovat na platformě NLP Cloud.

Příklad rozhraní GPT-J API v NLP Cloud

Jemné doladění GPT-J na platformě NLP Cloud

Podpora

Služba Hugging Face nabízí podporu pouze v případě, že si vyberete plán Lab nebo Enterprise.

NLP Cloud je úplně jiný: nabízíme nejlepší možnou podporu každému zákazníkovi, ať už je to bezplatný zákazník, malý placený zákazník nebo podnik. Jsme přesvědčeni, že dobrá podpora je v oblasti umělé inteligence a zpracování přirozeného jazyka zásadní, protože zákazníci mohou mít spoustu zajímavých technických nebo obchodních otázek.

Rychlost a spolehlivost

V našich srovnávacích testech jsme u všech testovaných modelů, ať už na CPU nebo GPU, zaznamenali nižší latenci u rozhraní NLP Cloud API.

Rychlost je pro takové rozhraní API pro strojové učení zásadní a skutečnost, že NLP Cloud reaguje rychleji, může mít v závislosti na vašich obchodních požadavcích velký význam.

Co se týče jemného doladění, nemohli jsme prozatím provést řádné srovnání, protože většina jemných doladění, která jsme spustili na platformě Hugging Face AutoTrain, selhala bez výslovného chybového hlášení.

Závěr

Uživatelé často srovnávají NLP Cloud s rozhraním API Hugging Face a platformou AutoTrain.

Domníváme se, že rozhraní API NLP Cloud je mnohem zajímavější jak z hlediska ceny, tak z hlediska výkonu.

Jsme také velmi hrdí na to, že můžeme všem našim zákazníkům bez rozdílu nabídnout vysoce kvalitní podporu.

Chcete si to vyzkoušet? Otestujte NLP Cloud zde!

Julien Salinas
Technický ředitel společnosti NLP Cloud