OpenAI vs NLP Cloud

Restrizioni d'uso

OpenAI è molto restrittivo per quanto riguarda il tipo di applicazioni consentite. Fino al novembre 2022 era necessario chiedere esplicitamente a OpenAI di rivedere e approvare la propria applicazione prima di metterla in produzione. Da allora, ecco cosa dicono: "Non richiediamo più la registrazione delle applicazioni presso OpenAI. Utilizzeremo invece una combinazione di metodi automatici e manuali per monitorare le violazioni delle policy".

Alcune applicazioni non sono semplicemente consentite per impostazione predefinita, come le applicazioni basate sulla parafrasi e la riscrittura (considerate "plagio"), il marketing multilivello, le discussioni sessuali... Inoltre, spesso richiedono di comunicare esplicitamente agli utenti finali che si sta utilizzando l'IA nella propria applicazione (è il caso della sintesi, della generazione di notizie e di tutto ciò che riguarda i settori medico, legale e finanziario). Ecco le politiche di utilizzo di OpenAI:

Noi di NLP Cloud crediamo che i nostri clienti debbano usare il loro miglior giudizio per decidere come utilizzare i nostri modelli di intelligenza artificiale in base alle leggi locali e alla loro etica personale. Riteniamo che non sia nostro compito ispezionare e filtrare le richieste dei nostri clienti.

Privacy dei dati

Esiste una differenza significativa tra OpenAI e NLP Cloud per quanto riguarda la privacy dei dati.

OpenAI fa molte cose con i dati dei clienti. I dati inviati a OpenAI vengono esaminati e utilizzati per ogni tipo di scopo. La cosa più importante è che i vostri dati vengono conservati per un periodo illimitato e utilizzati per addestrare e migliorare i modelli di intelligenza artificiale di OpenAI, come ChatGPT. Di seguito è riportato un estratto dell'informativa sulla privacy di OpenAI:

Queste considerazioni sulla privacy possono essere fondamentali per molte aziende, soprattutto per quelle che si occupano di settori sensibili ai dati come quello sanitario, legale, finanziario...

NLP Cloud è conforme alle norme HIPAA / GDPR / CCPA e sta lavorando per ottenere la certificazione SOC 2. Non possiamo vedere i vostri dati, non li conserviamo e non li utilizziamo per addestrare i nostri modelli di intelligenza artificiale.

Differenze di prezzo

OpenAI e NLP Cloud propongono entrambi prezzi pay-as-you-go. Ciò significa che si può pagare a posteriori, solo per il numero di richieste o di token effettivamente consumati.

NLP Cloud propone anche pacchetti standard pagati in anticipo. Questi piani vi danno accesso a un numero specifico di richieste al minuto. Questi piani sono più convenienti del pay-as-you-go se avete un grande volume di richieste da eseguire, perché ci aiutano a prevedere il vostro consumo e a scalare meglio il nostro servizio in anticipo.

Consultate i prezzi di NLP Cloud qui.

Vedere i prezzi di OpenAI qui di seguito:

Facciamo una semplice simulazione. ChatDolphin è equivalente a ChatGPT (GPT 3.5 Turbo), quindi confronteremo i due prezzi.

Su NLP Cloud, effettuare 20 richieste al minuto su ChatDolphin, utilizzando 2048 token ciascuno, costerà 699 dollari al mese (piano GPU Enterprise).

Su OpenAI, vi costerà 0,002/1000 x 2048 x 20 x 60 x 24 x 31 = 3.656 dollari al mese.

La differenza di prezzo è molto significativa ed è ancora più importante se si confrontano altre funzioni come la messa a punto, la ricerca semantica, le incorporazioni, la sintesi vocale, il text-to-image...

Ad esempio, effettuare 5 richieste speech-to-text al minuto su Whisper Large, ogni file audio della durata di 200 secondi, costerà 699 dollari al mese (piano GPU Enterprise).

Su OpenAI vi costerà (0,006/60) x 200 x 5 x 60 x 24 x 31 = 4.464 dollari al mese.

Un ultimo esempio con la generazione di immagini. In NLP Cloud utilizziamo Stable Diffusion, che è equivalente a OpenAI DALL-E. Eseguire 5 richieste di generazione di immagini al minuto su Stable Diffusion in formato 768 x 768 px costa 699 dollari al mese (piano GPU Enterprise).

Su OpenAI, utilizzando il formato 512 x 512 px (che è inferiore a 768 x 768), vi costerà 0,018 x 5 x 60 x 31 x 24 = 4.017 dollari al mese.

Caratteristiche e modelli disponibili

OpenAI e NLP Cloud hanno adottato due strategie molto diverse: OpenAI costruisce un paio di modelli interni (GPT-3, ChatGPT, GPT-4, DALL-E...) mentre NLP Cloud mescola i migliori modelli di IA open-source (Bart, MPNet, Stable Diffusion...) con i propri modelli interni (Dolphin, ChatDolphin...) sulla stessa piattaforma.

Ciò significa che su NLP Cloud è possibile utilizzare alcuni concorrenti di ChatGPT come GPT-NeoX e ChatDolphin, ma anche molti altri modelli come Bart, T5, Distilbert, spaCy, ecc.

L'utilizzo di modelli specializzati di piccole dimensioni è spesso molto più conveniente e veloce rispetto all'utilizzo di enormi modelli generativi di IA.

A volte, alcuni casi d'uso non possono essere coperti dai normali modelli di IA. È il caso, ad esempio, dell'IA multilingue. Se volete usare l'IA in 200 lingue, potete usare l'addon multilingue di NLP Cloud (gratuito). OpenAI non propone un numero così elevato di lingue per il momento.

Anche l'utilizzo di modelli specializzati è un buon modo per ridurre la complessità. Ad esempio, l'esecuzione di riassunti con GPT-3 o ChatGPT richiede un po' di ingegneria immediata, mentre è possibile ottenere risultati avanzati in modo molto semplice grazie a modelli dedicati pre-addestrati, come Bart Large CNN di Facebook.

Infine, NLP Cloud propone una modalità "asincrona", che consente di attivare lavori in background di lunga durata. È utile, ad esempio, se si desidera riassumere documenti molto grandi (fino a 1 milione di token) o trascrivere file audio molto lunghi. OpenAI non propone questa funzione.

Affidabilità, quota e qualità dell'assistenza

Nel confrontare OpenAI e NLP Cloud vi invitiamo a considerare altri tre aspetti: l'affidabilità dell'API, la quota e la qualità del supporto.

OpenAI ha subito molte gravi interruzioni del servizio negli ultimi mesi, soprattutto dopo il rilascio di ChatGPT e GPT-4. Di recente, inoltre, ha dovuto affrontare bug che hanno portato a gravi violazioni della sicurezza, spaventando molti clienti.

Per saperne di più sui recenti problemi di sicurezza di OpenAI, cliccate qui.

Noi di NLP Cloud forniamo un'infrastruttura robusta e non abbiamo affrontato alcuna interruzione significativa del servizio dal marzo 2020 (causata da un incendio in un datacenter OVH).

Inoltre, è importante notare che OpenAI applica automaticamente quote severe ai nuovi utenti. In pratica, se siete un nuovo utente, dovrete aspettare un po' e richiedere quote aggiuntive prima di spostare la vostra applicazione in produzione. In NLP Cloud non applichiamo tali quote, quindi potete andare in produzione immediatamente.

Infine, è importante notare che in generale è piuttosto difficile ottenere una risposta pronta ed elaborata dal supporto di OpenAI. In NLP Cloud, la nostra strategia è sempre stata quella di fornire competenze avanzate a tutti i nostri clienti. Quindi, per qualsiasi domanda relativa all'ingegneria immediata, alla selezione dei modelli, alla messa a punto, ecc. non esitate a contattarci.

Conclusione

Molti clienti sono alla ricerca di alternative a OpenAI, soprattutto a causa delle restrizioni sui casi d'uso, della politica sulla privacy dei dati, dei prezzi e delle interruzioni del servizio.

Riteniamo che l'API NLP Cloud sia un'ottima alternativa a OpenAI!

Noi di NLP Cloud siamo orgogliosi di fornire un'assistenza di alto livello a tutti i nostri clienti e aggiungiamo costantemente modelli di IA all'avanguardia per consentire ai nostri clienti di realizzare i loro progetti di IA in pochissimo tempo.

Volete provare? Testate NLP Cloud qui!

Juliette
Responsabile marketing presso NLP Cloud