Hugging Face API ve AutoTrain: NLP Cloud ile fiyatlandırma ve özellik karşılaştırması

Fiyatlandırma Hugging Face VS NLP Cloud

Öncelikle, NLP Cloud API'sinin bir CPU ve bir GPU'da kullanıldığında ücretsiz olarak test edilebildiğini (ücretsiz plan ve 100 bin ücretsiz jeton sunan kullandıkça öde planı sayesinde), Hugging Face API'sinin ise yalnızca bir CPU'da ücretsiz olarak test edilebildiğini (ücretsiz planları sayesinde) belirtmek gerekir. Bu önemli bir fark çünkü en ilginç Transformer tabanlı yapay zeka modelleri GPU üzerinde çok daha hızlı çalışıyor. Hatta bazıları GPU üzerinde çalışmıyor.

Kucaklayan Yüz Fiyatlandırması

Planlar açısından, Hugging Face yalnızca kullandıkça öde fiyatlandırması (tüketiminize göre fiyatlandırma) önerirken, NLP Cloud hem ön ödemeli planlar hem de kullandıkça öde planları önermektedir. Diyelim ki bir GPU üzerinde dakikada 15 istek hızında, ortalama 5 bin kelime içeren metin parçaları üzerinde metin sınıflandırması yapmak istiyorsunuz. Hugging Face'in fiyatlandırması karakter sayısına dayanırken, NLP Cloud'unki token sayısına dayanıyor. 5 bin kelime aşağı yukarı 15 bin karaktere ve 3.750 token'a eşdeğerdir. NLP Cloud'da Başlangıç GPU Planına abone olmak size ayda 99$'a mal olurken, Hugging Face'de 15k x 15 x 60 x 24 x 31 x 50$ / 1M = ayda 500$'a mal olacaktır (!!!).

Gördüğünüz gibi, Hugging Face'in kullandıkça öde fiyatlandırması kesinlikle bir üretim kullanımı için uygun değil gibi görünüyor. Kelimenin tam anlamıyla hiç kimse bir GPU'da metin sınıflandırması için böyle bir fiyat ödemeyecektir...

İnce ayar söz konusu olduğunda, Hugging Face'in AutoTrain fiyatlandırması kamuya açık olmadığı için karşılaştırma yapmak bile mümkün değil. AutoTrain çözümlerine kayıt olduk ve denedik, ancak yine de net bir fiyatlandırma bulamadık...

Mevcut Modeller

Hugging Face ile ilgili harika olan şey, platformlarında tonlarca AI modeli barındırmaları! Ancak bu, bu modelleri gerçekten kullanabileceğiniz anlamına gelmez. Elbette onları indirebilirsiniz, ancak bu onları kullanmakla aynı şey değildir.

Hugging Face'in modellerinin yalnızca çok küçük bir kısmı API'leri aracılığıyla çıkarım için kullanılabilir. Zaten yüklü olmayan bir modeli kullanmaya çalışırsanız ya birkaç dakika beklemeniz ya da hata almanız gerekir. Bir çözüm, kullanmak istediğiniz modelleri her zaman kullanılabilir olacak şekilde sabitlemektir, ancak bu durumda bir GPU'daki model başına ayda ek 5 $ ödemeniz gerekir.

NLP Cloud'da farklı bir strateji seçtik: yaklaşık 50 farklı AI modeli her zaman kullanılabilir. Belirli bir kullanım durumu için en iyi model olduğunu düşündüğümüzde bir model seçiyoruz. Örneğin sınıflandırma için Bart Large MNLI'yi, duygu analizi için Distilbert'i, niyet tespiti için GPT-J'yi vb. seçiyoruz.

Daha da önemlisi: GPT-J gibi en gelişmiş AI modelleri Hugging Face API'sinde mevcut değildir ve AutoTrain platformunda ince ayar yapılamazken, bu büyük dil modellerini NLP Cloud'da kolayca kullanabilir ve ince ayar yapabilirsiniz.

NLP Cloud üzerinde GPT-J API örneği

NLP Cloud üzerinde GPT-J ince ayarı

Destek

Hugging Face yalnızca Lab veya Enterprise planlarını seçerseniz destek sunar.

NLP Cloud tamamen farklıdır: ister ücretsiz bir müşteri, ister küçük ücretli bir müşteri veya Kurumsal bir müşteri olsun, her müşteriye elimizden gelen en iyi desteği sunuyoruz. Yapay zeka ve doğal dil işleme söz konusu olduğunda iyi bir desteğin kritik öneme sahip olduğuna inanıyoruz çünkü müşterilerin tonlarca ilginç teknik veya ticari sorusu olabilir.

Hız ve Güvenilirlik

Karşılaştırmalarımızda, ister CPU ister GPU üzerinde olsun, test ettiğimiz tüm modeller için NLP Cloud API'sinde daha düşük bir gecikme olduğunu fark ettik.

Hız, böyle bir makine öğrenimi API'si için kritik öneme sahiptir ve NLP Cloud'un daha hızlı yanıt vermesi, iş gereksinimlerinize bağlı olarak büyük bir fark yaratabilir.

İnce ayarlar söz konusu olduğunda, Hugging Face AutoTrain platformunda başlattığımız ince ayarların çoğu açık bir hata mesajı olmadan başarısız olduğu için şimdilik düzgün bir karşılaştırma yapamadık.

Sonuç

Kullanıcılar genellikle NLP Cloud'u Hugging Face API ve AutoTrain platformuyla karşılaştırır.

NLP Cloud API'sinin hem fiyatlandırma açısından hem de performans açısından çok daha ilgi çekici olduğuna inanıyoruz.

Ayrıca, ayrım gözetmeksizin tüm müşterilerimize yüksek kalitede destek sunmaktan gurur duyuyoruz.

Denemek ister misiniz? NLP Cloud'u burada test edin!

Julien Salinas
NLP Cloud'da CTO