Hugging Face API und AutoTrain: Preis- und Funktionsvergleich mit NLP Cloud

Preisgestaltung: Gesicht umarmen VS NLP Cloud

Zunächst ist es erwähnenswert, dass die NLP Cloud API kostenlos getestet werden kann, wenn sie auf einer CPU und einer GPU verwendet wird (dank des kostenlosen Plans und des Pay-as-you-go-Plans, der 100k kostenlose Token bietet), während die Hugging Face API nur auf einer CPU kostenlos getestet werden kann (dank ihres kostenlosen Plans). Dies ist ein wichtiger Unterschied, da die interessantesten Transformer-basierten KI-Modelle auf einem Grafikprozessor viel schneller laufen. Einige laufen sogar gar nicht auf einem Grafikprozessor.

Gesicht umarmen Preisgestaltung

Was die Tarife angeht, so bietet Hugging Face nur eine Abrechnung nach Verbrauch an, während NLP Cloud sowohl Prepaid- als auch Abrechnungstarife anbietet. Nehmen wir an, Sie möchten Textklassifizierungen für Textstücke mit durchschnittlich 5k Wörtern bei einer Rate von 15 Anfragen pro Minute auf einer GPU durchführen. Die Preisgestaltung von Hugging Face basiert auf der Anzahl der Zeichen, die von NLP Cloud auf der Anzahl der Token. 5k Wörter entsprechen mehr oder weniger 15k Zeichen und 3.750 Token. Bei NLP Cloud kostet Sie der Starter GPU Plan $99/Monat, während Sie bei Hugging Face 15k x 15 x 60 x 24 x 31 x $50 / 1M = $500k/Monat (!!!) bezahlen.

Wie Sie sehen können, ist die Umlagefinanzierung von Hugging Face für den Produktionseinsatz absolut ungeeignet. Buchstäblich niemand wird einen solchen Preis für die Textklassifizierung auf einer GPU bezahlen...

Was die Feinabstimmung betrifft, so ist es nicht einmal möglich, einen Vergleich anzustellen, da die Preise von Hugging Face AutoTrain nicht öffentlich sind. Wir haben uns registriert und ihre AutoTrain-Lösung ausprobiert, aber wir konnten immer noch keine klaren Preise finden...

Verfügbare Modelle

Das Tolle an Hugging Face ist, dass sie tonnenweise KI-Modelle auf ihrer Plattform hosten! Das bedeutet jedoch nicht, dass Sie diese Modelle auch tatsächlich verwenden können. Du kannst sie natürlich herunterladen, aber das ist nicht dasselbe wie sie zu benutzen.

Nur ein sehr kleiner Teil der Modelle von Hugging Face ist tatsächlich über die API für Inferenzen verfügbar. Wenn Sie versuchen, ein Modell zu verwenden, das noch nicht geladen ist, müssen Sie entweder mehrere Minuten warten oder erhalten einfach eine Fehlermeldung. Eine Lösung besteht darin, die Modelle, die Sie verwenden möchten, zu pinnen, so dass sie immer verfügbar sind, aber in diesem Fall müssen Sie zusätzliche $5/Monat pro Modell auf einer GPU bezahlen.

Bei NLP Cloud haben wir eine andere Strategie gewählt: Rund 50 verschiedene KI-Modelle sind ständig verfügbar. Wir wählen ein Modell aus, wenn wir glauben, dass es das beste Modell für einen bestimmten Anwendungsfall ist. Zum Beispiel wählen wir Bart Large MNLI für die Klassifizierung, Distilbert für die Stimmungsanalyse, GPT-J für die Absichtserkennung, usw.

Noch wichtiger ist, dass die fortschrittlichsten KI-Modelle wie GPT-J auf der Hugging Face API nicht verfügbar sind und auf der AutoTrain-Plattform nicht feinabgestimmt werden können, während Sie diese großen Sprachmodelle auf der NLP Cloud problemlos verwenden und feinabstimmen können.

GPT-J API Beispiel auf NLP Cloud

GPT-J-Feinabstimmung in der NLP-Cloud

Unterstützung

Hugging Face bietet nur Support, wenn Sie sich für den Lab- oder Enterprise-Tarif entscheiden.

NLP Cloud ist völlig anders: Wir bieten jedem Kunden den bestmöglichen Support, egal ob es sich um einen kostenlosen Kunden, einen kleinen zahlenden Kunden oder einen Unternehmenskunden handelt. Wir glauben, dass ein guter Support entscheidend ist, wenn es um KI und natürliche Sprachverarbeitung geht, denn Kunden können eine Menge interessanter technischer oder geschäftlicher Fragen haben.

Geschwindigkeit und Verlässlichkeit

In unseren Benchmarks konnten wir bei allen getesteten Modellen eine geringere Latenz bei der NLP Cloud API feststellen, unabhängig davon, ob sie auf einer CPU oder einem Grafikprozessor laufen.

Geschwindigkeit ist für eine solche API für maschinelles Lernen von entscheidender Bedeutung, und die Tatsache, dass NLP Cloud schneller reagiert, kann je nach Ihren Geschäftsanforderungen einen großen Unterschied ausmachen.

Was die Feinabstimmung betrifft, so konnten wir im Moment keinen richtigen Vergleich anstellen, da die meisten Feinabstimmungen, die wir auf der Hugging Face AutoTrain-Plattform gestartet haben, ohne explizite Fehlermeldung fehlgeschlagen sind.

Schlussfolgerung

Benutzer vergleichen NLP Cloud oft mit der Hugging Face API und der AutoTrain-Plattform.

Wir glauben, dass die NLP Cloud API sowohl aus preislicher als auch aus leistungsbezogener Sicht viel interessanter ist.

Wir sind auch sehr stolz darauf, allen unseren Kunden eine qualitativ hochwertige Unterstützung zu bieten, ohne Unterschied.

Möchten Sie es einmal ausprobieren? Testen Sie NLP Cloud hier!

Julien Salinas
CTO bei NLP Cloud