Rozhranie API Hugging Face a AutoTrain: porovnanie cien a funkcií s NLP Cloud

Ceny: Objatie tváre VS NLP Cloud

Po prvé, stojí za zmienku, že rozhranie API služby NLP Cloud je možné testovať bezplatne, ak sa používa na CPU a GPU (vďaka bezplatnému plánu a platenému plánu, ktorý ponúka 100 000 bezplatných tokenov), zatiaľ čo rozhranie API služby Hugging Face je možné testovať bezplatne len na CPU (vďaka ich bezplatnému plánu). Je to dôležitý rozdiel, pretože najzaujímavejšie modely AI založené na Transformeri bežia na GPU oveľa rýchlejšie. Niektoré dokonca na GPU jednoducho nebežia.

Objímanie tváre Cenotvorba

Pokiaľ ide o plány, spoločnosť Hugging Face navrhuje len ceny podľa spotreby, zatiaľ čo NLP Cloud navrhuje predplatené plány aj plány podľa spotreby. Povedzme, že chcete vykonávať klasifikáciu textu na častiach textu, ktoré obsahujú v priemere približne 5 000 slov, rýchlosťou 15 požiadaviek za minútu, na GPU. Cenník spoločnosti Hugging Face je založený na počte znakov, zatiaľ čo cenník spoločnosti NLP Cloud je založený na počte tokenov. Päťtisíc slov sa viac-menej rovná 15-tisíc znakom a 3750 tokenom. V službe NLP Cloud vás to bude stáť 99 USD/mesiac pri predplatení plánu GPU Starter, zatiaľ čo v službe Hugging Face vás to bude stáť 15k x 15 x 60 x 24 x 31 x 50 USD / 1M = 500k USD/mesiac (!!!).

Ako vidíte, zdá sa, že platené ceny Hugging Face sa absolútne nehodia na výrobné použitie. Doslova nikto nebude platiť takúto cenu za klasifikáciu textu na GPU...

Pokiaľ ide o jemné doladenie, nie je možné ho ani porovnať, pretože ceny systému AutoTrain od spoločnosti Hugging Face nie sú zverejnené. Zaregistrovali sme sa a vyskúšali ich riešenie AutoTrain, ale stále sa nám nepodarilo nájsť žiadne jasné ceny...

Dostupné modely

Skvelé na Hugging Face je to, že na svojej platforme hostí množstvo modelov s umelou inteligenciou! To však neznamená, že tieto modely môžete skutočne používať. Môžete si ich samozrejme stiahnuť, ale to nie je to isté ako ich používanie.

Len veľmi malá časť modelov Hugging Face je skutočne k dispozícii na odvodzovanie prostredníctvom ich API. Ak sa pokúsite použiť model, ktorý ešte nie je načítaný, budete musieť buď niekoľko minút čakať, alebo sa jednoducho zobrazí chyba. Riešením je pripnúť modely, ktoré chcete používať, aby boli vždy k dispozícii, ale v takom prípade musíte zaplatiť ďalších 5 USD/mesiac za model na GPU.

V službe NLP Cloud sme zvolili inú stratégiu: neustále je k dispozícii približne 50 rôznych modelov AI. Model vyberáme vtedy, keď si myslíme, že je to najlepší model pre konkrétny prípad použitia. Napríklad vyberáme Bart Large MNLI na klasifikáciu, Distilbert na analýzu sentimentu, GPT-J na detekciu zámerov atď.

A čo je dôležitejšie: najpokročilejšie modely AI, ako napríklad GPT-J, nie sú k dispozícii v rozhraní API Hugging Face a nie je možné ich doladiť na ich platforme AutoTrain, zatiaľ čo tieto veľké jazykové modely môžete ľahko používať a dolaďovať v službe NLP Cloud.

Príklad rozhrania API GPT-J v službe NLP Cloud

Dolaďovanie GPT-J v službe NLP Cloud

Podpora

Služba Hugging Face ponúka podporu len vtedy, ak si vyberiete plán Lab alebo Enterprise.

NLP Cloud je úplne iný: ponúkame najlepšiu možnú podporu každému zákazníkovi, či už ide o bezplatného zákazníka, malého plateného zákazníka alebo zákazníka podniku. Sme presvedčení, že dobrá podpora je pri umelej inteligencii a spracovaní prirodzeného jazyka rozhodujúca, pretože zákazníci môžu mať množstvo zaujímavých technických alebo obchodných otázok.

Rýchlosť a spoľahlivosť

V našich porovnávacích testoch sme zaznamenali nižšiu latenciu na rozhraní NLP Cloud API pre všetky testované modely, či už na CPU alebo GPU.

Rýchlosť je pre takéto API strojového učenia rozhodujúca a skutočnosť, že NLP Cloud reaguje rýchlejšie, môže mať veľký význam v závislosti od vašich obchodných požiadaviek.

Pokiaľ ide o jemné doladenie, nemohli sme momentálne vykonať riadne porovnanie, pretože väčšina jemných doladení, ktoré sme spustili na platforme Hugging Face AutoTrain, zlyhala bez explicitného chybového hlásenia.

Záver

Používatelia často porovnávajú službu NLP Cloud s API Hugging Face a platformou AutoTrain.

Sme presvedčení, že rozhranie API služby NLP Cloud je oveľa zaujímavejšie z hľadiska ceny aj výkonu.

Sme tiež veľmi hrdí na to, že môžeme ponúknuť vysokokvalitnú podporu všetkým našim zákazníkom bez rozdielu.

Chcete si to vyskúšať? Otestujte NLP Cloud tu!

Julien Salinas
Technický riaditeľ spoločnosti NLP Cloud