OpenAI y GPT-3 VS NLP Cloud

Directrices de uso y revisión de la solicitud

Antes de GPT-3, OpenAI solía publicar modelos de IA de código abierto. GPT y GPT-2 eran modelos de código abierto que cualquiera podía desplegar y utilizar a su antojo. De ahí la palabra "Open" en "OpenAI". Pero cuando crearon GPT-3, OpenAI decidió mantenerlo como una caja negra sólo disponible a través de su API de pago. Oficialmente, por razones éticas.

Desde entonces, se han publicado equivalentes de código abierto como GPT-J y GPT-NeoX, y puedes instalarlos por ti mismo y utilizarlos como quieras.

OpenAI es extremadamente restrictiva en cuanto al tipo de aplicaciones que permite. No se puede integrar su API en la producción sin enviar su aplicación para la validación en primer lugar y se aplican muy estrictas "directrices de uso". Aquí tienes una visión general de su proceso de validación.

Algunas aplicaciones simplemente no están permitidas por defecto, como las aplicaciones basadas en premisas "no científicas", las aplicaciones de parafrasear y reescribir (consideradas como "plagio"), el marketing multinivel, y más. Aquí hay una lista más detallada de las directrices de uso de OpenAI:

Además, es muy probable que muchas de las aplicaciones de IA que puedas tener en mente sean rechazadas por OpenAI. Por ejemplo, no se puede generar contenido de gran tamaño, lo que significa que no se puede utilizar GPT-3 para escribir un artículo de blog completo para usted. Muchos casos de uso de chatbot también son rechazados. Por ejemplo, no puedes construir un chatbot que actúe como acompañante o un chatbot que utilice insultos o palabras para adultos. También es muy probable que tu solicitud sea rechazada si está relacionada con las redes sociales, la sanidad, el coaching, el ámbito legal y mucho más. Aquí tienes algunos extractos de las directrices de OpenAI sobre los dominios "high-stake" (aplicaciones consideradas como muy sensibles que tienen muchas probabilidades de ser rechazadas) y sobre la longitud del texto:

OpenAI te pide que implementes un "identificador de usuario" que va a identificar individualmente a cada usuario final de tu aplicación. En base a esto, se aplica la limitación de velocidad: los usuarios finales no pueden hacer más de 60 peticiones por minuto.

Muchos proyectos simplemente se abortan debido a estas estrictas limitaciones.

NLP Cloud no aplica ninguna de estas restricciones. Puede utilizar NLP Cloud para cualquier tipo de aplicación sin restricciones, y puede realizar tantas solicitudes como desee por usuario final sin limitación de tarifa (siempre que seleccione el plan adecuado, por supuesto).

Diferencias de precios

Tanto OpenAI como NLP Cloud proponen precios de pago por uso. Esto significa que puedes pagar a posteriori, solo por el número de peticiones o tokens que hayas consumido realmente.

NLP Cloud también propone paquetes estándar que se pagan por adelantado. Estos planes le dan acceso a un número específico de peticiones por minuto. Estos planes son más rentables que los de pago por adelantado si tiene un gran volumen de peticiones que realizar.

Consulte los precios de NLP Cloud aquí. Consulta los precios de OpenAI a continuación:

Hagamos una simple simulación. El GPT-J es equivalente al GPT-3 Curie, así que vamos a comparar ambos precios.

En NLP Cloud, hacer 10 peticiones por minuto en GPT-J, utilizando 800 tokens cada una, le costará 199 dólares al mes (plan de GPU completa).

En OpenAI, le costará 0,006 x 0,8 x 10 x 60 x 24 x 31 = 2.142 $/mes.

La diferencia de precio es muy significativa, y en realidad es aún más importante cuando se comparan los planes de ajuste e incrustación.

Características y modelos disponibles

OpenAI y NLP Cloud han adoptado dos estrategias muy diferentes: OpenAI crea un único modelo interno (GPT-3) mientras que NLP Cloud reúne la mejor IA de código abierto en la misma plataforma.

Esto significa que en NLP Cloud puede utilizar, por supuesto, algunos competidores de GPT-3 como GPT-J y GPT-NeoX, pero también puede utilizar muchos otros modelos como Bart, T5, OpusMT, Distilbert, M2M100, spaCy, etc.

Utilizar modelos especializados más pequeños suele ser mucho más rentable y mucho más rápido que utilizar un enorme modelo GPT (aunque sea muy versátil).

A veces, algunos casos de uso no pueden ser cubiertos por GPT-3, GPT-J y GPT-NeoX. Es el caso de la traducción multilingüe, por ejemplo. Para ese caso de uso, tendrá que utilizar un modelo dedicado, como el M2M100 de Facebook.

Aprovechar los modelos especializados también es una buena manera de disminuir la complejidad. Por ejemplo, realizar un resumen con GPT-3 requerirá algo de ingeniería rápida avanzada, mientras que se pueden obtener resultados avanzados de forma muy sencilla gracias a modelos dedicados y ajustados, como el Bart Large CNN de Facebook.

Privacidad de los datos

Hay una diferencia significativa entre OpenAI y NLP Cloud cuando se trata de la privacidad de los datos.

La política de privacidad de NLP Cloud es muy simple: ningún dato del usuario enviado a la API se almacena en los servidores de NLP Cloud, y nadie tiene acceso a estos datos.

Por otro lado, OpenAI hace muchas cosas con los datos de sus clientes. Los datos de los usuarios son procesados por un software interno y a veces son revisados por los empleados de OpenAI. Lo más importante es que estos datos se almacenan durante un período ilimitado, y se utilizan para entrenar y mejorar algunos de los modelos de IA de OpenAI, como la búsqueda semántica y los modelos de clasificación. Vea un extracto de la política de privacidad de OpenAI a continuación:

Estas consideraciones sobre la privacidad pueden ser fundamentales para muchas empresas, especialmente las que se ocupan de sectores sensibles a los datos como el sanitario, el jurídico, el financiero...

Conclusión

Muchos clientes buscan alternativas a OpenAI, principalmente por sus restricciones de uso, su política de privacidad de datos y su precio prohibitivo.

Creemos que la API de NLP Cloud es una muy buena alternativa a OpenAI.

En NLP Cloud, estamos orgullosos de proporcionar un soporte de alto nivel a todos nuestros clientes, y estamos constantemente añadiendo más modelos de IA de vanguardia para que nuestros clientes puedan entregar su proyecto de IA en poco tiempo.

¿Le gustaría probarlo? ¡Pruebe NLP Cloud aquí!

Julien Salinas
CTO en NLP Cloud