Hugging Face API και AutoTrain: σύγκριση τιμών και χαρακτηριστικών με το NLP Cloud

Τιμολόγηση: NLP Cloud

Κατ' αρχάς, αξίζει να σημειωθεί ότι το NLP Cloud API μπορεί να δοκιμαστεί δωρεάν όταν χρησιμοποιείται σε CPU και GPU (χάρη στο δωρεάν πρόγραμμα και το πρόγραμμα pay-as-you-go που προσφέρει 100k δωρεάν tokens), ενώ το Hugging Face API μπορεί να δοκιμαστεί δωρεάν μόνο σε CPU (χάρη στο δωρεάν πρόγραμμα). Πρόκειται για μια σημαντική διαφορά, δεδομένου ότι τα πιο ενδιαφέροντα μοντέλα τεχνητής νοημοσύνης που βασίζονται στο Transformer τρέχουν πολύ πιο γρήγορα σε GPU. Ορισμένα μάλιστα απλά δεν τρέχουν σε GPU.

Τιμολόγηση αγκαλιάζοντας το πρόσωπο

Όσον αφορά τα προγράμματα, το Hugging Face προτείνει μόνο τιμολόγηση pay-as-you-go (τιμολόγηση βάσει της κατανάλωσής σας), ενώ το NLP Cloud προτείνει τόσο προπληρωμένα προγράμματα όσο και προγράμματα pay-as-you-go. Ας υποθέσουμε ότι θέλετε να εκτελέσετε ταξινόμηση κειμένου σε κομμάτια κειμένου που περιέχουν κατά μέσο όρο περίπου 5k λέξεις, με ρυθμό 15 αιτήσεων ανά λεπτό, σε μια GPU. Η τιμολόγηση του Hugging Face βασίζεται στον αριθμό των χαρακτήρων, ενώ αυτή του NLP Cloud βασίζεται στον αριθμό των tokens. Οι 5k λέξεις αντιστοιχούν λίγο-πολύ σε 15k χαρακτήρες και σε 3.750 tokens. Στο NLP Cloud θα σας κοστίσει 99 δολάρια/μήνα με την εγγραφή σας στο Starter GPU Plan, ενώ στο Hugging Face θα σας κοστίσει 15k x 15 x 60 x 24 x 31 x $50 / 1M = 500k δολάρια/μήνα (!!!).

Όπως μπορείτε να δείτε, φαίνεται ότι η τιμολόγηση του Hugging Face pay-as-you-go δεν είναι απολύτως κατάλληλη για παραγωγική χρήση. Κυριολεκτικά κανείς δεν πρόκειται να πληρώσει μια τέτοια τιμή για την ταξινόμηση κειμένου σε μια GPU...

Όσον αφορά τη λεπτομερή ρύθμιση, δεν είναι καν δυνατή η σύγκριση, καθώς η τιμολόγηση του AutoTrain της Hugging Face δεν είναι δημόσια. Καταχωρηθήκαμε και δοκιμάσαμε τη λύση AutoTrain, αλλά δεν μπορέσαμε να βρούμε καμία σαφή τιμολόγηση...

Διαθέσιμα μοντέλα

Το σπουδαίο με το Hugging Face είναι ότι φιλοξενούν τόνους μοντέλων AI στην πλατφόρμα τους! Ωστόσο, αυτό δεν σημαίνει ότι μπορείτε πραγματικά να χρησιμοποιήσετε αυτά τα μοντέλα. Μπορείτε φυσικά να τα κατεβάσετε, αλλά αυτό δεν είναι το ίδιο με τη χρήση τους.

Μόνο ένα πολύ μικρό μέρος των μοντέλων του Hugging Face είναι πραγματικά διαθέσιμα για συμπερασμό μέσω του API τους. Αν προσπαθήσετε να χρησιμοποιήσετε ένα μοντέλο που δεν έχει ήδη φορτωθεί, θα πρέπει είτε να περιμένετε αρκετά λεπτά είτε απλά να λάβετε ένα σφάλμα. Μια λύση είναι να καρφιτσώσετε τα μοντέλα που θέλετε να χρησιμοποιήσετε ώστε να είναι πάντα διαθέσιμα, αλλά σε αυτή την περίπτωση θα πρέπει να πληρώσετε επιπλέον 5 δολάρια/μήνα ανά μοντέλο σε μια GPU.

Στο NLP Cloud επιλέξαμε μια διαφορετική στρατηγική: περίπου 50 διαφορετικά μοντέλα τεχνητής νοημοσύνης είναι διαθέσιμα συνεχώς. Επιλέγουμε ένα μοντέλο όταν πιστεύουμε ότι είναι το καλύτερο μοντέλο για μια συγκεκριμένη περίπτωση χρήσης. Για παράδειγμα, επιλέγουμε το Bart Large MNLI για ταξινόμηση, το Distilbert για ανάλυση συναισθήματος, το GPT-J για ανίχνευση προθέσεων κ.λπ.

Και το πιο σημαντικό: τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης, όπως το GPT-J, δεν είναι διαθέσιμα στο Hugging Face API και δεν μπορούν να ρυθμιστούν στην πλατφόρμα AutoTrain, ενώ μπορείτε εύκολα να χρησιμοποιήσετε και να ρυθμίσετε αυτά τα μεγάλα γλωσσικά μοντέλα στο NLP Cloud.

Παράδειγμα GPT-J API στο NLP Cloud

Λεπτομερής ρύθμιση του GPT-J στο NLP Cloud

Υποστήριξη

Το Hugging Face προσφέρει υποστήριξη μόνο αν επιλέξετε το πακέτο Lab ή Enterprise.

Το NLP Cloud είναι τελείως διαφορετικό: προσφέρουμε την καλύτερη δυνατή υποστήριξη σε κάθε πελάτη, είτε πρόκειται για δωρεάν πελάτη, είτε για μικρό πελάτη επί πληρωμή, είτε για πελάτη Enterprise. Πιστεύουμε ότι μια καλή υποστήριξη είναι κρίσιμη όταν πρόκειται για την τεχνητή νοημοσύνη και την επεξεργασία φυσικής γλώσσας, επειδή οι πελάτες μπορεί να έχουν τόνους ενδιαφέρουσες τεχνικές ή επιχειρηματικές ερωτήσεις.

Ταχύτητα και αξιοπιστία

Στα benchmarks μας, παρατηρήσαμε χαμηλότερη καθυστέρηση στο NLP Cloud API για όλα τα μοντέλα που δοκιμάσαμε, είτε σε CPU είτε σε GPU.

Η ταχύτητα είναι ζωτικής σημασίας για ένα τέτοιο API μηχανικής μάθησης και το γεγονός ότι το NLP Cloud ανταποκρίνεται ταχύτερα μπορεί να κάνει μεγάλη διαφορά, ανάλογα με τις επιχειρηματικές σας απαιτήσεις.

Όσον αφορά τη λεπτομερή ρύθμιση, δεν μπορέσαμε να κάνουμε μια σωστή σύγκριση προς το παρόν, επειδή οι περισσότερες από τις λεπτομερείς ρυθμίσεις που ξεκινήσαμε στην πλατφόρμα Hugging Face AutoTrain απέτυχαν χωρίς ρητό μήνυμα σφάλματος.

Συμπέρασμα

Οι χρήστες συχνά συγκρίνουν το NLP Cloud με το Hugging Face API και την πλατφόρμα AutoTrain.

Πιστεύουμε ότι το NLP Cloud API είναι πολύ πιο ενδιαφέρον τόσο από άποψη τιμών όσο και από άποψη επιδόσεων.

Είμαστε επίσης πολύ περήφανοι που προσφέρουμε υποστήριξη υψηλής ποιότητας σε όλους τους πελάτες μας χωρίς διακρίσεις.

Θα θέλατε να δοκιμάσετε; Δοκιμάστε το NLP Cloud εδώ!

Julien Salinas
CTO στο NLP Cloud