OpenAI και GPT-3 VS NLP Cloud

Οδηγίες χρήσης και αναθεώρηση της αίτησης

Πριν από το GPT-3, το OpenAI συνήθιζε να κυκλοφορεί μοντέλα τεχνητής νοημοσύνης ανοικτού κώδικα. Το GPT και το GPT-2 ήταν και τα δύο μοντέλα ανοικτού κώδικα που ο καθένας μπορούσε να αναπτύξει και να χρησιμοποιήσει όπως ήθελε. Εξ ου και η λέξη "Open" στο "OpenAI". Αλλά όταν δημιούργησαν το GPT-3, η OpenAI αποφάσισε να το κρατήσει ως ένα μαύρο κουτί διαθέσιμο μόνο μέσω του πληρωμένου API της. Επισήμως για ηθικούς λόγους.

Έκτοτε, έχουν κυκλοφορήσει ισοδύναμα ανοικτού κώδικα, όπως τα GPT-J και GPT-NeoX, τα οποία μπορείτε να εγκαταστήσετε μόνοι σας και να τα χρησιμοποιήσετε όπως θέλετε.

Το OpenAI είναι εξαιρετικά περιοριστικό ως προς το είδος των εφαρμογών που επιτρέπει. Δεν μπορείτε να ενσωματώσετε το API τους στην παραγωγή χωρίς να υποβάλετε πρώτα την εφαρμογή σας για επικύρωση και επιβάλλουν πολύ αυστηρές "οδηγίες χρήσης". Ακολουθεί μια επισκόπηση της διαδικασίας επικύρωσής τους.

Ορισμένες εφαρμογές απλώς δεν επιτρέπονται εξ ορισμού, όπως οι εφαρμογές που βασίζονται σε "αντιεπιστημονικές" παραδοχές, οι παραφράσεις και οι επανεγγραφές (που θεωρούνται "λογοκλοπή"), το πολυεπίπεδο μάρκετινγκ και άλλα. Ακολουθεί ένας πιο λεπτομερής κατάλογος από τις οδηγίες χρήσης του OpenAI:

Επιπλέον, πολλές εφαρμογές τεχνητής νοημοσύνης που μπορεί να έχετε στο μυαλό σας είναι πολύ πιθανό να απορριφθούν από το OpenAI. Για παράδειγμα, δεν μπορείτε να δημιουργήσετε μεγάλο περιεχόμενο, πράγμα που σημαίνει ότι δεν μπορείτε να χρησιμοποιήσετε το GPT-3 για να γράψει ένα ολόκληρο άρθρο σε blog για εσάς. Πολλές περιπτώσεις χρήσης chatbot απορρίπτονται επίσης. Για παράδειγμα, δεν μπορείτε να δημιουργήσετε ένα chatbot που λειτουργεί ως σύντροφος ή ένα chatbot που χρησιμοποιεί προσβολές ή λέξεις για ενήλικες. Η αίτησή σας είναι επίσης πολύ πιθανό να απορριφθεί εάν σχετίζεται με τα μέσα κοινωνικής δικτύωσης, την υγειονομική περίθαλψη, την προπόνηση, τη νομική και πολλά άλλα. Ακολουθούν ορισμένα αποσπάσματα των οδηγιών του OpenAI σχετικά με τους τομείς "υψηλού κινδύνου" (εφαρμογές που θεωρούνται πολύ ευαίσθητες και είναι πολύ πιθανό να απορριφθούν) και σχετικά με το μήκος του κειμένου:

Το OpenAI σας ζητά να εφαρμόσετε ένα "αναγνωριστικό χρήστη" που θα ταυτοποιεί ξεχωριστά κάθε τελικό χρήστη της εφαρμογής σας. Με βάση αυτό, ισχύει ο περιορισμός του ρυθμού: οι τελικοί χρήστες δεν μπορούν να κάνουν περισσότερες από 60 αιτήσεις ανά λεπτό.

Πολλά έργα απλά ματαιώνονται εξαιτίας αυτών των αυστηρών περιορισμών.

Κανένας από αυτούς τους περιορισμούς δεν εφαρμόζεται από το NLP Cloud. Μπορείτε να χρησιμοποιήσετε το NLP Cloud για κάθε είδους εφαρμογή χωρίς περιορισμούς και μπορείτε να κάνετε όσες αιτήσεις θέλετε ανά τελικό χρήστη χωρίς περιορισμό ρυθμού (εφόσον φυσικά επιλέξετε το σωστό πακέτο).

Διαφορές τιμολόγησης

Τόσο το OpenAI όσο και το NLP Cloud προτείνουν τιμές pay-as-you-go. Αυτό σημαίνει ότι μπορείτε να πληρώσετε εκ των υστέρων, μόνο για τον αριθμό των αιτήσεων ή των tokens που πραγματικά καταναλώσατε.

Το NLP Cloud προτείνει επίσης τυποποιημένα πακέτα που πληρώνονται εκ των προτέρων. Αυτά τα πακέτα σας δίνουν πρόσβαση σε συγκεκριμένο αριθμό αιτήσεων ανά λεπτό. Αυτά τα πακέτα είναι πιο οικονομικά αποδοτικά από το pay-as-you-go αν έχετε να εκτελέσετε μεγάλο όγκο αιτημάτων.

Δείτε τις τιμές του NLP Cloud εδώ. Δείτε τις τιμές του OpenAI παρακάτω:

Ας κάνουμε μια απλή προσομοίωση. Το GPT-J είναι ισοδύναμο με το GPT-3 Curie, οπότε θα συγκρίνουμε τις δύο τιμές.

Στο NLP Cloud, η πραγματοποίηση 10 αιτημάτων ανά λεπτό στο GPT-J, με χρήση 800 tokens το καθένα, θα σας κοστίσει 199 δολάρια/μήνα (πακέτο Full GPU).

Στο OpenAI, θα σας κοστίσει 0,006 x 0,8 x 10 x 60 x 24 x 31 = 2.142 δολάρια/μήνα.

Η διαφορά στην τιμή είναι πολύ σημαντική και είναι ακόμη πιο σημαντική όταν συγκρίνετε τα σχέδια τελειοποίησης και ενσωμάτωσης!

Διαθέσιμα χαρακτηριστικά και μοντέλα

Το OpenAI και το NLP Cloud υιοθέτησαν 2 πολύ διαφορετικές στρατηγικές: Το OpenAI κατασκευάζει ένα μόνο εσωτερικό μοντέλο (GPT-3), ενώ το NLP Cloud συγκεντρώνει την καλύτερη τεχνητή νοημοσύνη ανοικτού κώδικα στην ίδια πλατφόρμα.

Αυτό σημαίνει ότι στο NLP Cloud μπορείτε φυσικά να χρησιμοποιήσετε ορισμένους ανταγωνιστές του GPT-3, όπως το GPT-J και το GPT-NeoX, αλλά μπορείτε επίσης να χρησιμοποιήσετε πολλά άλλα μοντέλα, όπως τα Bart, T5, OpusMT, Distilbert, M2M100, spaCy κ.λπ.

Η χρήση εξειδικευμένων μικρότερων μοντέλων είναι συχνά πολύ πιο αποδοτική και πολύ πιο γρήγορη από τη χρήση ενός τεράστιου μοντέλου GPT (ακόμη και αν είναι πολύ ευέλικτο).

Μερικές φορές, ορισμένες περιπτώσεις χρήσης δεν μπορούν να καλυφθούν από τα GPT-3, GPT-J και GPT-NeoX. Αυτή είναι η περίπτωση της πολύγλωσσης μετάφρασης, για παράδειγμα. Για μια τέτοια περίπτωση χρήσης, θα πρέπει να χρησιμοποιήσετε ένα ειδικό μοντέλο, όπως το M2M100 του Facebook.

Η αξιοποίηση εξειδικευμένων μοντέλων είναι επίσης ένας καλός τρόπος για τη μείωση της πολυπλοκότητας. Για παράδειγμα, η εκτέλεση της σύνοψης με το GPT-3 θα απαιτήσει κάποια προηγμένη μηχανική προτροπής, ενώ μπορείτε πολύ απλά να έχετε προηγμένα αποτελέσματα χάρη σε ειδικά ρυθμισμένα μοντέλα, όπως το Bart Large CNN του Facebook.

Απόρρητο δεδομένων

Υπάρχει σημαντική διαφορά μεταξύ του OpenAI και του NLP Cloud όσον αφορά την προστασία της ιδιωτικής ζωής των δεδομένων.

Η πολιτική απορρήτου του NLP Cloud είναι εξαιρετικά απλή: τα δεδομένα των χρηστών που αποστέλλονται στο API δεν αποθηκεύονται στους διακομιστές του NLP Cloud και κανείς δεν έχει πρόσβαση σε αυτά τα δεδομένα.

Από την άλλη πλευρά, η OpenAI κάνει πολλά πράγματα με τα δεδομένα των πελατών της. Τα δεδομένα των χρηστών υποβάλλονται σε επεξεργασία από κάποιο εσωτερικό λογισμικό και μερικές φορές εξετάζονται από τους υπαλλήλους της OpenAI. Το πιο σημαντικό είναι ότι τα δεδομένα αυτά αποθηκεύονται για απεριόριστο χρονικό διάστημα και χρησιμοποιούνται για την εκπαίδευση και τη βελτίωση ορισμένων μοντέλων τεχνητής νοημοσύνης της OpenAI, όπως η σημασιολογική αναζήτηση και τα μοντέλα ταξινόμησης. Δείτε ένα απόσπασμα από την πολιτική απορρήτου της OpenAI παρακάτω:

Αυτά τα ζητήματα προστασίας της ιδιωτικής ζωής μπορεί να είναι κρίσιμα για πολλές επιχειρήσεις, ιδίως για εκείνες που ασχολούνται με ευαίσθητους κλάδους δεδομένων, όπως η υγειονομική περίθαλψη, η νομική, η χρηματοοικονομική...

Συμπέρασμα

Πολλοί πελάτες αναζητούν εναλλακτικές λύσεις για το OpenAI, κυρίως λόγω των περιορισμών στις περιπτώσεις χρήσης, της πολιτικής απορρήτου δεδομένων και της απαγορευτικής τιμολόγησης.

Πιστεύουμε ότι το NLP Cloud API είναι μια πολύ καλή εναλλακτική λύση στο OpenAI!

Στο NLP Cloud, είμαστε υπερήφανοι που παρέχουμε υψηλού επιπέδου υποστήριξη σε όλους τους πελάτες μας και προσθέτουμε συνεχώς περισσότερα μοντέλα AI αιχμής, προκειμένου οι πελάτες μας να υλοποιήσουν το έργο τους AI σε χρόνο μηδέν.

Θα θέλατε να δοκιμάσετε; Δοκιμάστε το NLP Cloud εδώ!

Julien Salinas
CTO στο NLP Cloud