Hugging Face API y AutoTrain: comparación de precios y características con NLP Cloud

Precios: Hugging Face VS NLP Cloud

En primer lugar, cabe destacar que la API de NLP Cloud puede probarse gratuitamente cuando se utiliza en una CPU y una GPU (gracias al plan gratuito y al plan de pago por uso que ofrece 100k tokens gratuitos), mientras que la API de Hugging Face solo puede probarse gratuitamente en una CPU (gracias a su plan gratuito). Es una diferencia importante, ya que los modelos de IA más interesantes basados en Transformer se ejecutan mucho más rápido en una GPU. Algunos incluso no se ejecutan en una GPU.

En cuanto a los planes, Hugging Face solo propone precios de pago por uso (precios basados en tu consumo) mientras que NLP Cloud propone tanto planes de prepago como de pago por uso. Supongamos que quiere realizar una clasificación de textos que contengan unas 5.000 palabras de media, a un ritmo de 15 peticiones por minuto, en una GPU. El precio de Hugging Face se basa en el número de caracteres, mientras que el de NLP Cloud se basa en el número de tokens. 5k palabras equivalen más o menos a 15k caracteres y a 3.750 tokens. En NLP Cloud te costará 99$/mes suscribiéndote al Plan GPU Starter, mientras que en Hugging Face te costará 15k x 15 x 60 x 24 x 31 x 50$ / 1M = 500k/mes (!!!).

Como puedes ver, parece que el precio de Hugging Face de pago no es en absoluto adecuado para un uso de producción. Literalmente, nadie va a pagar ese precio por la clasificación de textos en una GPU...

En cuanto a la puesta a punto, ni siquiera es posible comparar, ya que los precios del AutoTrain de Hugging Face no son públicos. Nos registramos y probamos su solución AutoTrain, pero seguimos sin encontrar un precio claro...

Modelos disponibles

Lo mejor de Hugging Face es que alberga toneladas de modelos de IA en su plataforma. Sin embargo, esto no significa que puedas utilizar estos modelos. Por supuesto, puedes descargarlos, pero esto no es lo mismo que usarlos.

Sólo una fracción muy pequeña de los modelos de Hugging Face está realmente disponible para la inferencia a través de su API. Si intentas utilizar un modelo que no está cargado, tendrás que esperar varios minutos o simplemente obtendrás un error. Una solución es fijar los modelos que quieres utilizar para que estén siempre disponibles, pero en ese caso tienes que pagar 5 dólares adicionales al mes por modelo en una GPU.

En NLP Cloud optamos por una estrategia diferente: hay unos 50 modelos de IA diferentes disponibles todo el tiempo. Seleccionamos un modelo cuando creemos que es el mejor para un caso de uso específico. Por ejemplo, elegimos Bart Large MNLI para la clasificación, Distilbert para el análisis de sentimientos, GPT-J para la detección de intenciones, etc.

Y lo que es más importante: los modelos de IA más avanzados, como el GPT-J, no están disponibles en la API de Hugging Face, y no se pueden ajustar en su plataforma AutoTrain, mientras que se pueden utilizar y ajustar fácilmente estos grandes modelos lingüísticos en NLP Cloud.

Soporte

Hugging Face sólo ofrece soporte si seleccionas su plan Lab o Enterprise.

NLP Cloud es completamente diferente: ofrecemos el mejor soporte posible a cualquier cliente, ya sea un cliente gratuito, un pequeño cliente de pago o un cliente empresarial. Creemos que un buen soporte es fundamental cuando se trata de IA y procesamiento del lenguaje natural porque los clientes pueden tener toneladas de preguntas técnicas o de negocio interesantes.

Velocidad y fiabilidad

En nuestras pruebas comparativas, hemos observado una menor latencia en la API de NLP Cloud para todos los modelos que hemos probado, ya sea en una CPU o en una GPU.

La velocidad es fundamental para una API de aprendizaje automático de este tipo, y el hecho de que NLP Cloud responda más rápido puede suponer una gran diferencia, en función de los requisitos de su negocio.

En cuanto a la puesta a punto, por el momento no hemos podido hacer una comparación adecuada porque la mayoría de las puestas a punto que lanzamos en la plataforma Hugging Face AutoTrain fallaron sin un mensaje de error explícito.

Conclusión

Los usuarios suelen comparar NLP Cloud con la API Hugging Face y la plataforma AutoTrain.

Creemos que la API de NLP Cloud es mucho más interesante tanto desde el punto de vista del precio como del rendimiento.

También estamos muy orgullosos de ofrecer una asistencia de alta calidad a todos nuestros clientes sin distinción.

¿Le gustaría probarlo? ¡Pruebe NLP Cloud aquí!

Julien Salinas
CTO en NLP Cloud