Hugging Face API és AutoTrain: árképzés és funkciók összehasonlítása az NLP Clouddal

Az Hugging Face jól ismert a Python Transformers könyvtáron végzett nagyszerű munkájáról, és a nagy gépi tanulási modellek tárházáról. De egy következtetési API-t is biztosítanak és egy AutoTrain nevű finomhangoló platformot.

Az NLP Cloud API-ja és az NLP Cloud finomhangoló platformja közvetlen versenytársai a Hugging Face API-jának és az AutoTrainnek. Hasonlítsuk össze itt e 2 szereplő árazását és funkcióit!

Árképzés: NLP Cloud: Ölelő arc VS NLP Cloud

Először is, érdemes megjegyezni, hogy az NLP Cloud API ingyenesen tesztelhető CPU-n és GPU-n (az ingyenes tervnek és a 100 ezer ingyenes tokent kínáló pay-as-you-go tervnek köszönhetően), míg az Hugging Face API csak CPU-n tesztelhető ingyenesen (az ingyenes tervnek köszönhetően). Ez egy fontos különbség, mivel a legérdekesebb Transformer-alapú AI modellek sokkal gyorsabban futnak GPU-n. Sőt, némelyik egyszerűen nem is fut GPU-n.

Ölelő arc árképzés
Ölelő arc árképzés

A tervezetek tekintetében az Hugging Face csak a pay-as-you-go árazást javasolja (a fogyasztáson alapuló árazás), míg az NLP Cloud mind az előre fizetett, mind a pay-as-you-go tervezeteket. Tegyük fel, hogy egy GPU-n szeretnénk szövegosztályozást végezni olyan szövegdarabokon, amelyek átlagosan körülbelül 5k szót tartalmaznak, percenkénti 15 kéréses sebességgel. A Hugging Face árazása a karakterek számán alapul, míg az NLP Cloudé a tokenek számán. Az 5k szó nagyjából 15k karakternek és 3750 tokennek felel meg. Az NLP Cloudon 99 $/hóba kerül a Starter GPU Plan előfizetésével, míg az Hugging Face-en 15k x 15 x 15 x 60 x 24 x 31 x $50 / 1M = 500k $/hó (!!!).

Mint látható, úgy tűnik, hogy a Hugging Face fizetős árazása egyáltalán nem alkalmas termelési célú felhasználásra. Szó szerint senki sem fog ilyen árat fizetni egy GPU-n történő szövegosztályozásért...

Ami a finomhangolást illeti, nem is lehet összehasonlítani, mivel az Hugging Face AutoTrain árazása nem nyilvános. Regisztráltuk és kipróbáltuk az AutoTrain megoldásukat, de mégsem találtunk egyértelmű árképzést...

Elérhető modellek

A Hugging Face nagyszerűsége az, hogy rengeteg AI modellt tárolnak a platformjukon! Ez azonban nem jelenti azt, hogy ezeket a modelleket ténylegesen használhatod is. Természetesen letöltheted őket, de ez nem ugyanaz, mintha használnád őket.

A Hugging Face modelljeinek csak egy nagyon kis része érhető el az API-n keresztül. Ha olyan modellt próbálsz használni, amely még nincs betöltve, akkor vagy több percet kell várnod, vagy egyszerűen hibaüzenetet kapsz. A megoldás az, hogy a használni kívánt modelleket kitűzzük, hogy mindig rendelkezésre álljanak, de ebben az esetben további 5 dollár/hó díjat kell fizetni modellenként egy GPU-n.

Az NLP Cloudon más stratégiát választottunk: körülbelül 50 különböző mesterséges intelligencia-modell áll folyamatosan rendelkezésre. Akkor választunk ki egy modellt, amikor úgy gondoljuk, hogy az a legjobb modell egy adott felhasználási esethez. Például a Bart Large MNLI-t választjuk osztályozáshoz, a Distilbert-et hangulatelemzéshez, a GPT-J-t szándékfelismeréshez stb.

Ami még fontosabb: a legfejlettebb AI modellek, mint például a GPT-J, nem érhetők el a Hugging Face API-n, és nem lehet finomhangolni őket az AutoTrain platformon, míg az NLP Cloudon könnyen használhatod és finomhangolhatod ezeket a nagy nyelvi modelleket.

GPT-J API példa az NLP Cloud-on
GPT-J API példa az NLP Cloud-on
GPT-J finomhangolás az NLP Cloudon
GPT-J finomhangolás az NLP Cloudon

Támogatás

Az Hugging Face csak akkor nyújt támogatást, ha a Lab vagy Enterprise csomagot választja.

Az NLP Cloud teljesen más: a lehető legjobb támogatást nyújtjuk minden ügyfelünknek, legyen az ingyenes ügyfél, kis fizetős ügyfél vagy vállalati ügyfél. Hisszük, hogy a jó támogatás kritikus fontosságú, ha az AI-ról és a természetes nyelvi feldolgozásról van szó, mert az ügyfeleknek rengeteg érdekes technikai vagy üzleti kérdésük lehet.

Sebesség és megbízhatóság

A benchmarkjainkban az NLP Cloud API-nál alacsonyabb késleltetést tapasztaltunk az összes tesztelt modell esetében, akár CPU-n, akár GPU-n használtuk.

A sebesség kritikus egy ilyen gépi tanulási API esetében, és az a tény, hogy az NLP Cloud gyorsabban reagál, nagy különbséget jelenthet az Ön üzleti követelményeitől függően.

Ami a finomhangolást illeti, egyelőre nem tudtunk megfelelő összehasonlítást végezni, mivel a legtöbb finomhangolás, amelyet az Hugging Face AutoTrain platformon indítottunk, kifejezett hibaüzenet nélkül sikertelen volt.

Következtetés

A felhasználók gyakran hasonlítják az NLP Cloudot az Hugging Face API-hoz és az AutoTrain platformhoz.

Úgy véljük, hogy az NLP Cloud API sokkal érdekesebb mind árképzési, mind teljesítménybeli szempontból.

Arra is nagyon büszkék vagyunk, hogy megkülönböztetés nélkül magas színvonalú támogatást nyújtunk minden ügyfelünknek.

Szeretné kipróbálni? Teszteld az NLP Cloudot itt!

Julien Salinas
CTO az NLP Cloud-nál