OpenAI vs NLP Cloud

Restrições de utilização

A OpenAI é muito restritiva quanto ao tipo de aplicações que permite. Até novembro de 2022, você tinha que pedir explicitamente à OpenAI para revisar e aprovar seu aplicativo antes de entrar em produção. Desde então, aqui está o que eles dizem: "Já não exigimos que registe as suas aplicações na OpenAI. Em vez disso, usaremos uma combinação de métodos automatizados e manuais para monitorar violações de políticas."

Algumas aplicações simplesmente não são permitidas por defeito, como as aplicações baseadas em paráfrase e reescrita (consideradas como "plágio"), marketing multinível, discussões sexuais... Além disso, muitas vezes exigem que diga explicitamente aos seus utilizadores finais que está a utilizar IA na sua aplicação (é o caso da sumarização, geração de notícias e qualquer coisa relacionada com as indústrias médica, jurídica e financeira). Aqui estão as políticas de utilização da OpenAI:

Na NLP Cloud, acreditamos que os nossos clientes devem usar o seu melhor discernimento para decidir como utilizar os nossos modelos de IA com base nas suas leis locais e na sua ética pessoal. Pensamos que não é nosso papel inspeccionar e filtrar os pedidos dos nossos clientes.

Privacidade dos dados

Existe uma diferença significativa entre a OpenAI e a NLP Cloud no que respeita à privacidade dos dados.

A OpenAI faz muitas coisas com os dados dos clientes. Os dados enviados para a OpenAI são analisados e utilizados para todo o tipo de coisas. A parte mais importante é que os seus dados são armazenados por um período ilimitado e utilizados para treinar e melhorar os modelos de IA da OpenAI, como o ChatGPT. Veja abaixo um extracto da política de privacidade da OpenAI:

Estas considerações de privacidade podem ser críticas para muitas empresas, especialmente para as que lidam com sectores sensíveis aos dados, como os cuidados de saúde, jurídico, financeiro...

O NLP Cloud é compatível com HIPAA / GDPR / CCPA e está trabalhando na certificação SOC 2. Não podemos ver os seus dados, não os armazenamos e não utilizamos os seus dados para treinar os nossos próprios modelos de IA.

Diferenças de preços

Tanto a OpenAI como a NLP Cloud propõem preços "pay-as-you-go". Isto significa que pode pagar após o facto, apenas pelo número de pedidos ou tokens que realmente consumiu.

Na NLP Cloud, propomos igualmente pacotes standard pagos à cabeça. Estes planos dão-lhe acesso a um número específico de pedidos por minuto. Estes planos são mais rentáveis do que o pagamento por utilização se tiver um grande volume de pedidos a efectuar, pois ajudam-nos a prever o seu consumo e a dimensionar melhor o nosso serviço com antecedência.

Veja os preços do NLP Cloud aqui.

Veja os preços da OpenAI abaixo:

Vamos fazer uma simulação simples. ChatDolphin é equivalente a ChatGPT (GPT 3.5 Turbo), por isso vamos comparar os dois preços.

No NLP Cloud, efectuar 20 pedidos por minuto no ChatDolphin, utilizando 2048 tokens cada, custar-lhe-á $699/mês (plano GPU Enterprise).

No OpenAI, custar-lhe-á 0,002/1000 x 2048 x 20 x 60 x 24 x 31 = $3.656/mês.

A diferença de preço é muito significativa e, na verdade, é ainda mais importante quando se comparam outras funcionalidades como o ajuste fino, a pesquisa semântica, as incorporações, a conversão de voz em texto, a conversão de texto em imagem...

Por exemplo, fazer 5 pedidos de voz para texto por minuto no Whisper Large, cada ficheiro de áudio com a duração de 200 segundos, custará 699 dólares por mês (plano GPU Enterprise).

Na OpenAI custar-lhe-á (0,006/60) x 200 x 5 x 60 x 24 x 31 = $4.464/mês.

Um último exemplo com a geração de imagens. Na NLP Cloud, utilizamos o Stable Diffusion, que é equivalente ao OpenAI DALL-E. Fazer 5 pedidos de geração de imagens por minuto no Stable Diffusion no formato 768 x 768 px custar-lhe-á 699 dólares/mês (plano Enterprise GPU).

No OpenAI, utilizando o formato 512 x 512 px (que é inferior a 768 x 768), custar-lhe-á 0,018 x 5 x 60 x 31 x 24 = $4.017/mês.

Características e modelos disponíveis

A OpenAI e a NLP Cloud adoptaram duas estratégias muito diferentes: A OpenAI constrói um par de modelos internos (GPT-3, ChatGPT, GPT-4, DALL-E...) enquanto na NLP Cloud misturamos os melhores modelos de IA de código aberto (Bart, MPNet, Stable Diffusion...) com os nossos próprios modelos internos (Dolphin, ChatDolphin, ...) na mesma plataforma.

Isto significa que, no NLP Cloud, pode, obviamente, utilizar alguns concorrentes do ChatGPT, como o GPT-NeoX e o ChatDolphin, mas também pode utilizar muitos outros modelos, como o Bart, o T5, o Distilbert, o spaCy, etc.

A utilização de modelos especializados mais pequenos é frequentemente muito mais económica e muito mais rápida do que a utilização de grandes modelos de IA generativa.

Por vezes, alguns casos de utilização não podem ser cobertos por modelos de IA normais. É o caso da IA multilingue, por exemplo. Se quiser utilizar a IA em 200 línguas, pode utilizar o addon multilingue do NLP Cloud (gratuito). De momento, a OpenAI não propõe tantas línguas.

Aproveitar modelos especializados também é uma boa maneira de diminuir a complexidade. Por exemplo, a sumarização com o GPT-3 ou o ChatGPT exigirá alguma engenharia rápida, ao passo que pode obter resultados avançados de forma muito simples graças a modelos pré-treinados dedicados, como o Bart Large CNN do Facebook.

Por último, o NLP Cloud propõe um modo "assíncrono", o que significa que pode activar tarefas em segundo plano de longa duração. É útil, por exemplo, se quiser resumir documentos muito grandes (até 1 milhão de tokens) ou transcrever ficheiros de áudio muito longos. O OpenAI não propõe esta funcionalidade.

Fiabilidade, quota e qualidade do apoio

Ao comparar o OpenAI e o NLP Cloud, recomendamos que tenha em conta 3 aspectos adicionais: fiabilidade da API, quota e qualidade do suporte.

A OpenAI tem sofrido muitas interrupções de serviço graves nos últimos meses, especialmente desde o lançamento do ChatGPT e do GPT-4. A empresa também enfrentou bugs que levaram a violações críticas de segurança recentemente, o que assustou muitos clientes.

Saiba mais sobre os recentes problemas de segurança da OpenAI aqui.

Na NLP Cloud, fornecemos uma infraestrutura robusta e não enfrentámos qualquer interrupção de serviço significativa desde março de 2020 (causada por um incêndio num datacenter da OVH).

Além disso, é importante notar que o OpenAI aplica automaticamente quotas severas aos novos utilizadores. Basicamente, se for um novo utilizador, terá de esperar algum tempo e solicitar quotas adicionais antes de passar a sua aplicação para a produção. Na NLP Cloud, não aplicamos essas quotas, pelo que pode entrar em produção instantaneamente.

Por último, é importante notar que, em geral, é bastante difícil obter uma resposta rápida e elaborada do apoio da OpenAI. Na NLP Cloud, a nossa estratégia tem sido sempre a de fornecer conhecimentos avançados a todos os nossos clientes. Assim, para qualquer questão relacionada com engenharia rápida, selecção de modelos, afinação, etc., não hesite em contactar-nos.

Conclusão

Muitos clientes estão à procura de alternativas à OpenAI, principalmente devido às suas restrições em termos de casos de utilização, política de privacidade de dados, preços e interrupções de serviço.

Acreditamos que a NLP Cloud API é uma excelente alternativa à OpenAI!

Na NLP Cloud, orgulhamo-nos de fornecer um apoio de alto nível a todos os nossos clientes e estamos constantemente a adicionar mais modelos de IA de ponta para que os nossos clientes possam entregar o seu projecto de IA em pouco tempo.

Gostaria de experimentar? Teste o NLP Cloud aqui!

Juliette
Director de marketing na NLP Cloud