Hugging Face API e AutoTrain: prezzi e funzionalità a confronto con NLP Cloud

Prezzi: Faccia da abbracciare VS NLP Cloud

Innanzitutto, vale la pena notare che l'API NLP Cloud può essere testata gratuitamente se utilizzata su CPU e GPU (grazie al piano gratuito e al piano pay-as-you-go che offre 100k token gratuiti), mentre l'API Hugging Face può essere testata gratuitamente solo su CPU (grazie al piano gratuito). Si tratta di una differenza importante, poiché i modelli AI più interessanti basati su Transformer funzionano molto più velocemente su una GPU. Alcuni addirittura non funzionano su GPU.

In termini di piani, Hugging Face propone solo tariffe pay-as-you-go (tariffe basate sul consumo), mentre NLP Cloud propone sia piani prepagati che pay-as-you-go. Supponiamo di voler eseguire una classificazione di testo su pezzi di testo che contengono in media circa 5k parole, a una velocità di 15 richieste al minuto, su una GPU. Il prezzo di Hugging Face si basa sul numero di caratteri, mentre quello di NLP Cloud si basa sul numero di token. 5k parole equivalgono più o meno a 15k caratteri e a 3.750 token. Su NLP Cloud vi costerà 99$/mese abbonandovi al piano GPU Starter, mentre su Hugging Face vi costerà 15k x 15 x 60 x 24 x 31 x 50$ / 1M = 500k$/mese (!!!).

Come si può vedere, sembra che il prezzo a consumo di Hugging Face non sia assolutamente adatto a un uso produttivo. Nessuno pagherà un prezzo simile per la classificazione del testo su una GPU...

Per quanto riguarda la messa a punto, non è possibile fare un confronto perché i prezzi di AutoTrain di Hugging Face non sono pubblici. Ci siamo registrati e abbiamo provato la loro soluzione AutoTrain, ma non siamo riusciti a trovare alcun prezzo chiaro...

Modelli disponibili

Il bello di Hugging Face è che ospita tonnellate di modelli AI sulla sua piattaforma! Tuttavia, ciò non significa che si possano effettivamente utilizzare questi modelli. Naturalmente è possibile scaricarli, ma questo non significa utilizzarli.

Solo una minima parte dei modelli di Hugging Face è effettivamente disponibile per l'inferenza attraverso l'API. Se si tenta di utilizzare un modello che non è già stato caricato, si dovrà attendere per diversi minuti o si otterrà semplicemente un errore. Una soluzione è quella di bloccare i modelli che si desidera utilizzare in modo che siano sempre disponibili, ma in questo caso è necessario pagare un supplemento di 5 dollari al mese per ogni modello su GPU.

Su NLP Cloud abbiamo scelto una strategia diversa: sono sempre disponibili circa 50 modelli AI diversi. Selezioniamo un modello quando riteniamo che sia il migliore per un caso d'uso specifico. Ad esempio, scegliamo Bart Large MNLI per la classificazione, Distilbert per l'analisi del sentiment, GPT-J per il rilevamento delle intenzioni, ecc.

Ancora più importante: i modelli AI più avanzati, come GPT-J, non sono disponibili su Hugging Face API e non possono essere messi a punto sulla loro piattaforma AutoTrain, mentre è possibile utilizzare e mettere a punto facilmente questi modelli linguistici di grandi dimensioni su NLP Cloud.

Supporto

Hugging Face offre assistenza solo se si sceglie il piano Lab o Enterprise.

NLP Cloud è completamente diverso: offriamo il miglior supporto possibile a qualsiasi cliente, sia esso un cliente gratuito, un piccolo cliente a pagamento o un'azienda. Crediamo che un buon supporto sia fondamentale quando si parla di IA e di elaborazione del linguaggio naturale, perché i clienti possono avere tonnellate di domande tecniche o commerciali interessanti.

Velocità e affidabilità

Nei nostri benchmark, abbiamo notato una latenza inferiore sull'API NLP Cloud per tutti i modelli testati, sia su CPU che su GPU.

La velocità è fondamentale per un'API di apprendimento automatico di questo tipo e il fatto che NLP Cloud risponda più velocemente può fare una grande differenza, a seconda delle esigenze aziendali.

Per quanto riguarda la messa a punto, per il momento non siamo stati in grado di fare un confronto adeguato perché la maggior parte delle messe a punto che abbiamo lanciato sulla piattaforma Hugging Face AutoTrain è fallita senza un messaggio di errore esplicito.

Conclusione

Gli utenti spesso paragonano NLP Cloud all'API Hugging Face e alla piattaforma AutoTrain.

Riteniamo che l'API NLP Cloud sia molto più interessante sia dal punto di vista dei prezzi che delle prestazioni.

Siamo inoltre molto orgogliosi di offrire un'assistenza di alta qualità a tutti i nostri clienti, senza distinzioni.

Volete provare? Testate NLP Cloud qui!

Julien Salinas
CTO di NLP Cloud