正在为人工智能或全栈开发而苦恼?我们的专家将为您提供指导:量身定制的建议、技术整合等。联系我们 [email protected].

Hugging Face API和AutoTrain:与NLP Cloud的价格和功能比较

Hugging Face因其在Python Transformers库上的出色工作而闻名。 以及其大型机器学习模型库而闻名。但他们也提供了一个推理API 和一个名为AutoTrain的微调平台。

NLP Cloud的API和NLP Cloud的微调平台是Hugging Face的API和AutoTrain的直接竞争对手。 让我们在这里比较一下这2个演员的价格和功能!

价格。拥抱的脸VS NLP云

首先,值得注意的是,NLP Cloud API在CPU和GPU上使用时可以免费测试(得益于免费计划和提供10万免费代币的现收现付计划),而Hugging Face API只能在CPU上免费测试(得益于其免费计划)。 这是一个重要的区别,因为最有趣的基于变形金刚的人工智能模型在GPU上运行得更快。有些甚至不在GPU上运行。

拥抱的脸定价
拥抱的脸定价

在计划方面,Hugging Face只提出了现收现付的定价(根据你的消费来定价),而NLP Cloud则同时提出了预付计划和现收现付计划。 假设你想在GPU上对平均包含5千字左右的文本片段进行文本分类,速度为每分钟15个请求。Hugging Face的定价是基于字符数的,而NLP Cloud的定价是基于代币数的。 5千字或多或少相当于15千字和3750个代币。在NLP云上,订阅入门GPU计划将花费你99美元/月,而在Hugging Face上,它将花费你15k x 15 x 60 x 24 x 31 x 50 / 1M = 500k/月(!!!)。

正如你所看到的,似乎Hugging Face现收现付的定价绝对不适合生产使用。从字面上看,没有人会为GPU上的文本分类支付这样的价格......

就微调而言,由于Hugging Face的AutoTrain定价不公开,所以根本无法比较。我们注册并尝试了他们的AutoTrain解决方案,但我们仍然无法找到任何明确的定价...

可用型号

Hugging Face的伟大之处在于,他们在自己的平台上托管了大量的AI模型!但这并不意味着你可以真正使用这些模型。然而,这并不意味着你可以真正使用这些模型。你当然可以下载它们,但这与使用它们是不同的。

只有很小一部分Hugging Face的模型实际上可以通过其API进行推理。如果你试图使用一个尚未加载的模型,你将不得不等待数分钟,或者干脆得到一个错误。 一个解决方案是钉住你想使用的模型,使它们始终可用,但在这种情况下,你必须在GPU上为每个模型支付额外的5美元/月。

在NLP云上,我们选择了一个不同的策略:大约有50个不同的人工智能模型一直可用。当我们认为一个模型是特定用例的最佳模型时,我们会选择它。例如,我们选择Bart Large MNLI进行分类,Distilbert进行情感分析,GPT-J进行意图检测,等等。

更重要的是:像GPT-J这样最先进的人工智能模型在抱团取暖的API上是没有的,也不能在他们的AutoTrain平台上进行微调,而你可以在NLP Cloud上轻松使用和微调这些大型语言模型。

NLP云上的GPT-J API实例
NLP云上的GPT-J API实例
在NLP云上对GPT-J进行微调
在NLP云上对GPT-J进行微调

支持

只有当你选择他们的实验室或企业计划时,抱抱团才会提供支持。

NLP Cloud完全不同:我们为任何客户提供最好的支持,无论是免费客户、小型付费客户,还是企业客户。 我们相信,当涉及到人工智能和自然语言处理时,良好的支持是至关重要的,因为客户可能有大量有趣的技术或商业问题。

速度和可靠性

在我们的基准测试中,我们注意到,无论是在CPU还是GPU上,我们测试的所有模型在NLP Cloud API上的延迟都比较低。

速度对于这样的机器学习API来说至关重要,NLP Cloud的响应速度更快,这一点可以带来很大的不同,这取决于你的业务要求。

就微调而言,我们暂时无法进行适当的比较,因为我们在抱团取暖平台上启动的大部分微调都失败了,没有明确的错误信息。

总结

用户经常将NLP Cloud与Hugging Face API和AutoTrain平台进行比较。

我们确实认为,无论是从定价的角度还是从性能的角度来看,NLP Cloud API都更有意义。

我们也非常自豪地向所有客户无差别地提供高质量的支持。

你想试一试吗? 在这里测试NLP Cloud!

Julien Salinas
NLP Cloud的首席技术官