API Hugging Face i AutoTrain: porównanie cen i funkcji z NLP Cloud

Wycena: Hugging Face VS NLP Cloud

Po pierwsze, warto zauważyć, że API NLP Cloud może być testowane za darmo na CPU i GPU (dzięki darmowemu planowi i planowi pay-as-you-go, który oferuje 100 tys. darmowych tokenów), podczas gdy API Hugging Face może być testowane za darmo tylko na CPU (dzięki darmowemu planowi). Jest to istotna różnica, ponieważ najbardziej interesujące modele sztucznej inteligencji oparte na Transformerach działają znacznie szybciej na GPU. Niektóre z nich po prostu nie działają na GPU.

Cena za uścisk na twarzy

Jeśli chodzi o plany, Hugging Face proponuje wyłącznie plany pay-as-you-go (ceny zależne od zużycia), natomiast NLP Cloud proponuje zarówno plany pre-paid, jak i plany pay-as-you-go. Załóżmy, że chcesz przeprowadzić klasyfikację tekstu na fragmentach tekstu zawierających średnio około 5 tys. słów, z szybkością 15 zapytań na minutę, na procesorze graficznym. Ceny w usłudze Hugging Face są oparte na liczbie znaków, natomiast w usłudze NLP Cloud - na liczbie tokenów. 5 tys. słów odpowiada mniej więcej 15 tys. znaków i 3750 tokenom. W NLP Cloud będzie Cię to kosztowało 99$/miesiąc przy subskrypcji Starter GPU Plan, podczas gdy w Hugging Face będzie Cię to kosztowało 15k x 15 x 60 x 24 x 31 x 50$ / 1M = 500k$/miesiąc (!!!).

Jak widać, wydaje się, że cena usługi Hugging Face w trybie pay-as-you-go absolutnie nie nadaje się do zastosowań produkcyjnych. Dosłownie nikt nie będzie płacił takiej ceny za klasyfikację tekstu na GPU...

Jeśli chodzi o precyzyjne dostrajanie, nie ma nawet możliwości porównania, ponieważ ceny AutoTrain firmy Hugging Face nie są jawne. Zarejestrowaliśmy się i wypróbowaliśmy ich rozwiązanie AutoTrain, ale nie udało nam się znaleźć żadnych jasnych cen...

Dostępne modele

Wspaniałą rzeczą w Hugging Face jest to, że na ich platformie znajdują się tony modeli AI! Nie oznacza to jednak, że możesz z nich korzystać. Oczywiście możesz je pobrać, ale to nie to samo, co ich używanie.

Tylko niewielka część modeli Hugging Face jest faktycznie dostępna do wnioskowania poprzez API. Jeśli spróbujesz użyć modelu, który nie jest jeszcze załadowany, będziesz musiał poczekać kilka minut lub po prostu otrzymasz błąd. Rozwiązaniem jest przypięcie modeli, których chcesz użyć, aby były zawsze dostępne, ale w takim przypadku musisz zapłacić dodatkowe 5 USD/miesiąc za model na GPU.

W NLP Cloud wybraliśmy inną strategię: przez cały czas dostępnych jest około 50 różnych modeli sztucznej inteligencji. Wybieramy model, gdy uważamy, że jest on najlepszy dla konkretnego przypadku użycia. Na przykład wybieramy Bart Large MNLI do klasyfikacji, Distilbert do analizy sentymentu, GPT-J do wykrywania intencji itd.

Co ważniejsze: najbardziej zaawansowane modele sztucznej inteligencji, takie jak GPT-J, nie są dostępne w interfejsie API Hugging Face i nie można ich dostrajać na platformie AutoTrain, podczas gdy w chmurze NLP można z łatwością używać i dostrajać te duże modele językowe.

Przykład API GPT-J w chmurze NLP

Dostrajanie GPT-J w chmurze NLP

Wsparcie

Serwis Hugging Face oferuje pomoc techniczną tylko w przypadku wybrania planu Lab lub Enterprise.

W NLP Cloud jest zupełnie inaczej: oferujemy najlepsze możliwe wsparcie dla każdego klienta, niezależnie od tego, czy jest to klient darmowy, mały klient płatny, czy też klient korporacyjny. Wierzymy, że dobre wsparcie ma kluczowe znaczenie, jeśli chodzi o AI i przetwarzanie języka naturalnego, ponieważ klienci mogą mieć mnóstwo interesujących pytań technicznych lub biznesowych.

Szybkość i niezawodność

W naszych benchmarkach zauważyliśmy niższe opóźnienia w interfejsie API chmury NLP dla wszystkich testowanych modeli, zarówno na CPU, jak i na GPU.

Szybkość działania ma kluczowe znaczenie w przypadku interfejsu API uczenia maszynowego, a fakt, że NLP Cloud reaguje szybciej, może mieć duże znaczenie, w zależności od wymagań biznesowych.

Jeśli chodzi o dostrajanie, na razie nie mogliśmy przeprowadzić odpowiedniego porównania, ponieważ większość dostrojeń, które uruchomiliśmy na platformie Przytul Buźkę AutoTrain, zakończyła się niepowodzeniem bez wyraźnego komunikatu o błędzie.

Wniosek

Użytkownicy często porównują NLP Cloud do API Hugging Face i platformy AutoTrain.

Uważamy, że interfejs API NLP Cloud jest znacznie bardziej interesujący zarówno z punktu widzenia cen, jak i wydajności.

Jesteśmy również bardzo dumni z tego, że oferujemy wysokiej jakości wsparcie dla wszystkich naszych klientów bez wyjątku.

Czy chciałbyś spróbować? Przetestuj Chmurę NLP tutaj!

Julien Salinas
CTO w NLP Cloud