Hugging Face APIとAutoTrain：NLP Cloudとの価格と機能の比較

Hugging Faceは、Python Transformersライブラリの素晴らしい仕事でよく知られています。 とその大きな機械学習モデルのリポジトリでよく知られています。しかし、彼らは推論APIも提供している。 やAutoTrainと呼ばれるファインチューニングプラットフォームも提供している。

NLPクラウドのAPIとNLPクラウドの微調整プラットフォームは、ハギングフェイスのAPIとAutoTrainの直接の競合です。 ここでは、この2つのアクターの価格と機能を比較してみましょう

価格についてハグ面 VS NLPクラウド

まず注目すべきは、NLP Cloud APIはCPUとGPUで使用した場合、無料でテストできるのに対し、Hugging Face APIはCPUでのみ無料でテストできることです（無料プランと100k無料トークンを提供する有料プランのおかげです）。 最も興味深いTransformerベースのAIモデルは、GPU上ではるかに高速に動作するため、これは重要な違いです。GPUでは動作しないものもあります。

ハギングフェイスの価格設定
ハギングフェイスの価格設定

プランについては、ハギング・フェイスは従量課金（使用量に応じた価格設定）のみ、NLPクラウドはプリペイドプランと従量課金の両方を提案している。 例えば、平均5kワード程度のテキストを、1分間に15回のリクエストで、GPUでテキスト分類を行いたい場合を考えてみましょう。Hugging Faceの価格は文字数で、NLP Cloudのものはトークン数で決まります。 5kワードは15k文字、トークンは3,750個にほぼ相当します。NLPクラウドではスターターGPUプランで$99/月、Hugging Faceでは15k x 15 x 60 x 24 x 31 x $50 / 1M = $500k/月（！！）かかります。

ご覧の通り、ハギング・フェイスの従量課金制は、プロダクションユースには絶対に向かないようです。GPUでのテキスト分類にこんな値段を払う人は、文字通りいないでしょう...。

微調整に関しては、Hugging FaceのAutoTrainの価格設定が公開されていないため、比較することすらできません。登録し、AutoTrainソリューションを試してみましたが、やはり明確な価格設定は見つかりませんでした...。

対応機種

Hugging Faceの素晴らしいところは、彼らがプラットフォーム上で大量のAIモデルをホストしていることです！しかし、これらのモデルを実際に使用できるわけではありません。しかし、それはあなたがこれらのモデルを実際に使用できることを意味するものではありません。もちろん、ダウンロードすることはできますが、これはそれらを使用することとは同じではありません。

Hugging Faceのモデルのうち、APIを通じて実際に推論が可能なのはごく一部です。もし、まだロードされていないモデルを使おうとすると、数分待たされるか、単にエラーが出るだけでしょう。 解決策としては、使用したいモデルを固定し、常に使用できるようにすることですが、その場合、GPU上のモデルごとに月々5ドルを追加で支払う必要があります。

NLPクラウドでは、異なる戦略を選びました。約50種類のAIモデルを常時利用することができます。私たちは、特定のユースケースに最適と思われるモデルを選択します。例えば、分類にはBart Large MNLIを、感情分析にはDistilbertを、意図検出にはGPT-Jを、などです。

さらに重要なのは、GPT-Jのような最も高度なAIモデルはHugging Face APIでは利用できず、同社のAutoTrainプラットフォームで微調整することもできませんが、NLP Cloudではこれらの大規模言語モデルを簡単に利用し、微調整することができることです。

NLPクラウド上のGPT-J API例
NLPクラウド上のGPT-J API例
NLPクラウド上でのGPT-Jの微調整
NLPクラウド上でのGPT-Jの微調整

サポート

Hugging Faceは、LabプランまたはEnterpriseプランを選択した場合のみ、サポートを提供します。

NLPクラウドは全く違います。無料のお客様であろうと、少額の有償のお客様であろうと、企業のお客様であろうと、私たちができる最高のサポートを提供します。 AIや自然言語処理に関しては、技術的な質問やビジネス上の質問が数多く寄せられるため、良いサポートが重要だと考えています。

スピードと信頼性

ベンチマークでは、CPUでもGPUでも、テストしたすべてのモデルで、NLP Cloud APIのレイテンシーが低くなっていることがわかりました。

このような機械学習APIではスピードが重要であり、NLPクラウドが速く反応することは、ビジネス要件によっては大きな違いとなる。

微調整に関しては、Hugging Face AutoTrainのプラットフォームで起動した微調整のほとんどが明確なエラーメッセージなしに失敗したため、今のところ適切な比較はできていません。

結論

ユーザーはよくNLPクラウドをHugging Face APIやAutoTrainプラットフォームと比較します。

NLP Cloud APIは、価格面でも性能面でも、より興味深いものだと考えています。

また、すべてのお客様に分け隔てなく質の高いサポートを提供できることも、私たちの大きな誇りです。

試してみませんか？ NLPクラウドのテストはこちら

Julien Salinas
NLP CloudのCTO。