OpenAI et GPT-3 VS NLP Cloud

Directives d'utilisation et examen des demandes

Avant GPT-3, OpenAI avait l'habitude de publier des modèles d'IA open-source. GPT et GPT-2 étaient tous deux des modèles open-source que chacun pouvait déployer et utiliser à sa guise. D'où le mot "Open" dans "OpenAI". Mais lorsqu'ils ont créé GPT-3, OpenAI a décidé de le garder comme une boîte noire uniquement disponible via leur API payante. Officiellement pour des raisons éthiques.

Depuis, des équivalents open-source ont été publiés comme GPT-J et GPT-NeoX, et vous pouvez les installer vous-même et les utiliser comme bon vous semble.

OpenAI est extrêmement restrictif quant au type d'applications qu'il autorise. Vous ne pouvez pas intégrer leur API en production sans soumettre votre application à une validation préalable et ils appliquent des "directives d'utilisation" très strictes. Voici un aperçu de leur processus de validation.

Certaines applications ne sont tout simplement pas autorisées par défaut, comme les applications basées sur des prémisses "non scientifiques", les applications de paraphrase et de réécriture (considérées comme du "plagiat"), le marketing multi-niveaux, etc. Voici une liste plus détaillée tirée des directives d'utilisation d'OpenAI :

En outre, de nombreuses applications d'IA que vous pourriez avoir à l'esprit sont très susceptibles d'être rejetées par OpenAI. Par exemple, vous ne pouvez pas générer de contenu volumineux, ce qui signifie que vous ne pouvez pas utiliser GPT-3 pour écrire un article de blog entier pour vous. De nombreux cas d'utilisation de chatbot sont également rejetés. Par exemple, vous ne pouvez pas construire un chatbot qui agit comme un compagnon ou un chatbot qui utilise des insultes ou des mots pour adultes. Votre demande a également de fortes chances d'être rejetée si elle est liée aux médias sociaux, aux soins de santé, au coaching, au droit, et bien plus encore. Voici quelques extraits des directives d'OpenAI concernant les domaines à "fort enjeu" (applications considérées comme très sensibles qui ont de fortes chances d'être rejetées) et la longueur des textes :

OpenAI vous demande de mettre en place un "identifiant utilisateur" qui va identifier individuellement chaque utilisateur final de votre application. Sur cette base, la limitation du débit s'applique : les utilisateurs finaux ne peuvent pas faire plus de 60 demandes par minute.

De nombreux projets sont tout simplement abandonnés en raison de ces limitations strictes.

Aucune de ces restrictions n'est appliquée par NLP Cloud. Vous pouvez utiliser NLP Cloud pour n'importe quel type d'application sans restrictions, et vous pouvez faire autant de demandes que vous voulez par utilisateur final sans limitation de tarif (à condition de choisir le bon plan bien sûr).

Différences de prix

OpenAI et NLP Cloud proposent tous deux des prix "pay-as-you-go". Cela signifie que vous pouvez payer après coup, uniquement pour le nombre de requêtes ou de jetons que vous avez réellement consommés.

NLP Cloud propose également des forfaits standard payés à l'avance. Ces forfaits vous donnent accès à un nombre spécifique de demandes par minute. Ces plans sont plus rentables que le paiement à l'acte si vous avez un grand volume de demandes à effectuer.

Voir les tarifs de NLP Cloud ici. Voir les tarifs d'OpenAI ci-dessous :

Faisons une simulation simple. Le TPG-J est équivalent au TPG-3 Curie, nous allons donc comparer les deux prix.

Sur NLP Cloud, faire 10 demandes par minute sur GPT-J, en utilisant 800 jetons chacun, vous coûtera 199 $/mois (plan Full GPU).

Sur OpenAI, cela vous coûtera 0,006 x 0,8 x 10 x 60 x 24 x 31 = 2 142 $/mois.

La différence de prix est très importante, et elle l'est encore plus lorsqu'on compare les plans de réglage fin et d'intégration !

Caractéristiques et modèles disponibles

OpenAI et NLP Cloud ont adopté deux stratégies très différentes : OpenAI fabrique un seul modèle interne (GPT-3) tandis que NLP Cloud rassemble les meilleures IA open-source sur la même plateforme.

Cela signifie que sur NLP Cloud, vous pouvez bien sûr utiliser certains concurrents de GPT-3 comme GPT-J et GPT-NeoX, mais vous pouvez également utiliser de nombreux autres modèles comme Bart, T5, OpusMT, Distilbert, M2M100, spaCy, etc.

L'utilisation de petits modèles spécialisés est souvent beaucoup plus rentable et beaucoup plus rapide que l'utilisation d'un énorme modèle TPG (même s'il est très polyvalent).

Parfois, certains cas d'utilisation ne peuvent tout simplement pas être couverts par GPT-3, GPT-J et GPT-NeoX. C'est le cas de la traduction multilingue par exemple. Pour un tel cas d'utilisation, vous devrez utiliser un modèle dédié, comme le M2M100 de Facebook.

L'utilisation de modèles spécialisés est également un bon moyen de réduire la complexité. Par exemple, l'exécution d'un résumé avec GPT-3 nécessitera un peu d'ingénierie rapide avancée, alors que vous pouvez très simplement obtenir des résultats avancés grâce à des modèles spécialisés à réglage fin comme le Bart Large CNN de Facebook.

Confidentialité des données

Il existe une différence significative entre OpenAI et NLP Cloud en ce qui concerne la confidentialité des données.

La politique de confidentialité de NLP Cloud est très simple : aucune donnée utilisateur envoyée à l'API n'est stockée sur les serveurs de NLP Cloud, et personne n'a accès à ces données.

OpenAI, de son côté, fait beaucoup de choses avec les données de ses clients. Les données des utilisateurs sont traitées par un logiciel interne et parfois examinées par les employés d'OpenAI. Plus important encore, ces données sont stockées pendant une période illimitée et sont utilisées pour former et améliorer certains des modèles d'IA d'OpenAI, comme les modèles de recherche sémantique et de classification. Voir ci-dessous un extrait de la politique de confidentialité d'OpenAI :

Ces considérations relatives à la protection de la vie privée peuvent s'avérer cruciales pour de nombreuses entreprises, en particulier celles qui travaillent dans des secteurs sensibles aux données tels que les soins de santé, le droit, la finance...

Conclusion

De nombreux clients recherchent des alternatives à OpenAI, principalement en raison de leurs restrictions en matière de cas d'utilisation, de leur politique de confidentialité des données et de leur prix prohibitif.

Nous pensons que l'API NLP Cloud est une très bonne alternative à OpenAI !

Chez NLP Cloud, nous sommes fiers de fournir un support de haut niveau à tous nos clients, et nous ajoutons constamment des modèles d'IA de pointe afin que nos clients puissent réaliser leur projet d'IA en un rien de temps.

Voulez-vous faire un essai ? Testez NLP Cloud ici !

Julien Salinas
Directeur technique de NLP Cloud