Hugging Face API e AutoTrain: comparação de preços e características com a NLP Cloud

Fixação de preços: Rosto de Abraço VS NLP Cloud

Em primeiro lugar, vale a pena notar que a NLP Cloud API pode ser testada gratuitamente quando utilizada num CPU e numa GPU (graças ao plano gratuito e ao plano pay-as-you-go que oferece 100k fichas grátis), enquanto que a Hugging Face API só pode ser testada gratuitamente num CPU (graças ao seu plano gratuito). É uma diferença importante, uma vez que os modelos mais interessantes de IA baseados em Transformer funcionam muito mais rapidamente numa GPU. Alguns não correm mesmo numa GPU.

Preços de abraçar o rosto

Em termos de planos, Hugging Face propõe apenas o preço por encomenda (preço baseado no seu consumo) enquanto que NLP Cloud propõe tanto planos pré-pagos como planos de pagamento por encomenda. Digamos que quer efectuar uma classificação de texto em pedaços de texto que contenham em média cerca de 5k palavras, a uma taxa de 15 pedidos por minuto, numa GPU. O preço do Hugging Face é baseado no número de caracteres, enquanto o do NLP Cloud é baseado no número de fichas. 5k palavras são mais ou menos equivalentes a 15k caracteres e a 3.750 fichas. Em NLP Cloud custará $99/mês ao subscrever o Plano Starter GPU, enquanto que em Hugging Face custará 15k x 15 x 60 x 24 x 31 x $50 / 1M = $500k/mês (!!!).

Como se pode ver, parece que o preço de abraçar a cara pague-se à medida que se vai gastando não é absolutamente adequado para uma utilização de produção. Literalmente, ninguém vai pagar tal preço pela classificação de texto num GPU.

No que diz respeito à afinação, nem sequer é possível comparar, uma vez que o preço do AutoTrain Hugging Face não é público. Registámos e tentámos a sua solução AutoTrain, mas ainda não conseguimos encontrar um preço claro...

Modelos disponíveis

A grande coisa com o Hugging Face é que eles hospedam toneladas de modelos de IA na sua plataforma! No entanto, isso não significa que se possa realmente utilizar estes modelos. Claro que pode descarregá-los, mas isto não é o mesmo que utilizá-los.

Apenas uma fracção muito pequena dos modelos da Hugging Face está realmente disponível para inferência através do seu API. Se tentar utilizar um modelo que ainda não esteja carregado, terá de esperar vários minutos, ou simplesmente obter um erro. Uma solução é fixar os modelos que pretende utilizar para que estejam sempre disponíveis, mas nesse caso terá de pagar mais $5/mês por modelo numa GPU.

Na NLP Cloud escolhemos uma estratégia diferente: cerca de 50 modelos diferentes de IA estão disponíveis o tempo todo. Seleccionamos um modelo quando pensamos que é o melhor modelo para um caso de uso específico. Por exemplo, escolhemos Bart Large MNLI para classificação, Distilbert para análise de sentimento, GPT-J para detecção de intenção, etc.

Mais importante: os modelos AI mais avançados como o GPT-J não estão disponíveis no Hugging Face API, e não podem ser afinados na sua plataforma AutoTrain, enquanto que pode facilmente usar e afinar estes modelos de linguagem grande na NLP Cloud.

Exemplo API GPT-J na NLP Cloud

GPT-J afinação na NLP Cloud

Apoio

O Hugging Face só oferece apoio se seleccionar o seu laboratório ou plano da empresa.

NLP Cloud é completamente diferente: oferecemos o melhor apoio possível a qualquer cliente, quer seja um cliente livre, um pequeno cliente pago, ou um cliente empresarial. Acreditamos que um bom apoio é crítico quando se trata de processamento de IA e linguagem natural, porque os clientes podem ter toneladas de questões técnicas ou comerciais interessantes.

Rapidez e Fiabilidade

Nas nossas referências, notámos uma menor latência na NLP Cloud API para todos os modelos que testámos, seja num CPU ou numa GPU.

A velocidade é fundamental para uma tal API de aprendizagem de máquinas, e o facto de a NLP Cloud responder mais rapidamente pode fazer uma grande diferença, dependendo dos requisitos do seu negócio.

No que diz respeito ao aperfeiçoamento, não conseguimos fazer uma comparação adequada por enquanto porque a maioria dos aperfeiçoamentos que lançámos na plataforma Hugging Face AutoTrain falharam sem mensagem de erro explícita.

Conclusão

Os utilizadores comparam frequentemente a NLP Cloud com a plataforma Hugging Face API e AutoTrain.

Acreditamos que a NLP Cloud API é muito mais interessante tanto do ponto de vista de preços como do ponto de vista de desempenho.

Estamos também muito orgulhosos de oferecer um apoio de alta qualidade a todos os nossos clientes sem distinção.

Gostaria de experimentar? Teste aqui a Nuvem de PNL!

Julien Salinas
CTO em NLP Cloud