OpenAI vs NLP Cloud

Ograniczenia użytkowania

OpenAI bardzo restrykcyjnie podchodzi do rodzaju dozwolonych aplikacji. Do listopada 2022 r. trzeba było wyraźnie poprosić OpenAI o sprawdzenie i zatwierdzenie aplikacji przed jej uruchomieniem. Od tego czasu, oto co mówią: "Nie wymagamy już rejestracji aplikacji w OpenAI. Zamiast tego będziemy korzystać z kombinacji zautomatyzowanych i ręcznych metod monitorowania naruszeń zasad".

Niektóre aplikacje są po prostu domyślnie niedozwolone, na przykład aplikacje oparte na parafrazowaniu i przepisywaniu (uważane za "plagiat"), marketing wielopoziomowy, dyskusje seksualne ... Co więcej, często wymagają one wyraźnego poinformowania użytkowników końcowych o korzystaniu ze sztucznej inteligencji w aplikacji (dotyczy to podsumowań, generowania wiadomości i wszystkiego, co jest związane z branżą medyczną, prawną i finansową). Oto zasady użytkowania OpenAI:

W NLP Cloud uważamy, że nasi klienci powinni kierować się własnym osądem przy podejmowaniu decyzji o sposobie korzystania z naszych modeli AI w oparciu o lokalne przepisy i etykę osobistą. Uważamy, że nie jest naszą rolą kontrolowanie i filtrowanie żądań naszych klientów.

Prywatność danych

Istnieje znacząca różnica między OpenAI a NLP Cloud, jeśli chodzi o prywatność danych.

OpenAI robi wiele rzeczy na podstawie danych klientów. Dane przesyłane do OpenAI są sprawdzane i wykorzystywane do różnych celów. Najważniejszą częścią jest to, że dane użytkownika są przechowywane przez nieograniczony czas i wykorzystywane do szkolenia i ulepszania modeli sztucznej inteligencji OpenAI, takich jak ChatGPT. Zobacz fragment polityki prywatności OpenAI poniżej:

Te względy prywatności mogą mieć kluczowe znaczenie dla wielu firm, zwłaszcza tych zajmujących się branżami wrażliwymi na dane, takimi jak opieka zdrowotna, prawo, finanse...

NLP Cloud jest zgodne z HIPAA / RODO / CCPA i pracuje nad certyfikatem SOC 2. Nie widzimy Twoich danych, nie przechowujemy ich i nie wykorzystujemy ich do trenowania naszych własnych modeli AI.

Różnice w cenach

Zarówno OpenAI, jak i NLP Cloud proponują ceny pay-as-you-go. Oznacza to, że możesz zapłacić po fakcie, tylko za liczbę żądań lub tokenów, które faktycznie wykorzystałeś.

W NLP Cloud proponujemy również standardowe pakiety płatne z góry. Plany te zapewniają dostęp do określonej liczby żądań na minutę. Plany te są bardziej opłacalne niż pay-as-you-go, jeśli masz dużą liczbę żądań do wykonania, ponieważ pomagają nam przewidzieć zużycie i lepiej skalować nasze usługi z wyprzedzeniem.

Zobacz cennik NLP Cloud tutaj.

Cennik OpenAI znajduje się poniżej:

Zróbmy prostą symulację. ChatDolphin jest odpowiednikiem ChatGPT (GPT 3.5 Turbo), więc porównamy obie ceny.

W NLP Cloud wykonanie 20 żądań na minutę w ChatDolphin, przy użyciu 2048 tokenów każde, będzie kosztować 699 USD miesięcznie (plan GPU Enterprise).

W przypadku OpenAI będzie to kosztować 0,002/1000 x 2048 x 20 x 60 x 24 x 31 = 3 656 USD miesięcznie.

Różnica w cenie jest bardzo znacząca, a w rzeczywistości jest jeszcze ważniejsza, gdy porównamy inne funkcje, takie jak dostrajanie, wyszukiwanie semantyczne, osadzanie, zamiana mowy na tekst, zamiana tekstu na obraz...

Przykładowo, wykonanie 5 żądań zamiany mowy na tekst na minutę w usłudze Whisper Large, przy czym każdy plik audio trwa 200 sekund, będzie kosztować 699 USD/miesiąc (plan GPU Enterprise).

W OpenAI będzie to kosztować (0,006/60) x 200 x 5 x 60 x 24 x 31 = 4 464 USD miesięcznie.

Ostatni przykład z generowaniem obrazu. W NLP Cloud używamy Stable Diffusion, który jest odpowiednikiem OpenAI DALL-E. Wykonanie 5 żądań generowania obrazu na minutę w Stable Diffusion w formacie 768 x 768 px będzie kosztować 699 USD miesięcznie (plan GPU Enterprise).

W OpenAI, przy użyciu formatu 512 x 512 px (który jest niższy niż 768 x 768), będzie to kosztować 0,018 x 5 x 60 x 31 x 24 = 4 017 USD miesięcznie.

Dostępne funkcje i modele

OpenAI i NLP Cloud przyjęły 2 bardzo różne strategie: OpenAI buduje kilka własnych modeli (GPT-3, ChatGPT, GPT-4, DALL-E...), podczas gdy w NLP Cloud łączymy najlepsze modele AI typu open-source (Bart, MPNet, Stable Diffusion...) z naszymi własnymi modelami wewnętrznymi (Dolphin, ChatDolphin, ...) na tej samej platformie.

Oznacza to, że w NLP Cloud możesz oczywiście korzystać z niektórych konkurentów ChatGPT, takich jak GPT-NeoX i ChatDolphin, ale możesz także korzystać z wielu innych modeli, takich jak Bart, T5, Distilbert, spaCy itp.

Korzystanie z wyspecjalizowanych mniejszych modeli jest często znacznie bardziej opłacalne i szybsze niż korzystanie z ogromnych generatywnych modeli AI.

Czasami niektóre przypadki użycia po prostu nie mogą być objęte zwykłymi modelami sztucznej inteligencji. Tak jest na przykład w przypadku wielojęzycznej sztucznej inteligencji. Jeśli chcesz korzystać ze sztucznej inteligencji w 200 językach, możesz skorzystać z wielojęzycznego dodatku NLP Cloud (bezpłatnie). OpenAI na razie nie proponuje tylu języków.

Wykorzystanie wyspecjalizowanych modeli jest również dobrym sposobem na zmniejszenie złożoności. Na przykład wykonanie podsumowania za pomocą GPT-3 lub ChatGPT będzie wymagało pewnej szybkiej inżynierii, podczas gdy można bardzo łatwo uzyskać zaawansowane wyniki dzięki dedykowanym wstępnie wytrenowanym modelom, takim jak Bart Large CNN Facebooka.

Wreszcie, NLP Cloud oferuje tryb "asynchroniczny", co oznacza, że można uruchamiać długie zadania w tle. Jest to przydatne na przykład w przypadku podsumowywania bardzo dużych dokumentów (do 1 miliona tokenów) lub transkrypcji bardzo długich plików audio. OpenAI nie proponuje takiej funkcji.

Niezawodność, limit i jakość wsparcia

Porównując OpenAI i NLP Cloud zachęcamy do przyjrzenia się 3 dodatkowym aspektom: niezawodności API, kwotom i jakości wsparcia.

OpenAI doświadczyło wielu poważnych przerw w świadczeniu usług w ostatnich miesiącach, zwłaszcza od czasu wydania ChatGPT i GPT-4. Ostatnio napotkali również błędy, które doprowadziły do krytycznych naruszeń bezpieczeństwa, co przestraszyło wielu klientów.

Więcej informacji na temat ostatnich błędów w zabezpieczeniach OpenAI można znaleźć tutaj.

W NLP Cloud zapewniamy solidną infrastrukturę i nie mieliśmy do czynienia z żadną znaczącą przerwą w świadczeniu usług od marca 2020 r. (spowodowaną pożarem w centrum danych OVH).

Należy również pamiętać, że OpenAI automatycznie stosuje surowe limity dla nowych użytkowników. Zasadniczo, jeśli jesteś nowym użytkownikiem, będziesz musiał poczekać chwilę i ubiegać się o dodatkowe kwoty przed przeniesieniem aplikacji do produkcji. W NLP Cloud nie stosujemy takich kwot, więc możesz natychmiast przejść do produkcji.

Na koniec należy zauważyć, że generalnie dość trudno jest uzyskać szybką i szczegółową odpowiedź od wsparcia OpenAI. W NLP Cloud naszą strategią zawsze było dostarczanie zaawansowanej wiedzy wszystkim naszym klientom. Dlatego w przypadku jakichkolwiek pytań związanych z szybką inżynierią, wyborem modelu, dostrajaniem itp. nie wahaj się z nami skontaktować.

Wnioski

Wielu klientów szuka alternatyw dla OpenAI, głównie ze względu na ograniczenia dotyczące przypadków użycia, politykę prywatności danych, ceny i zakłócenia w świadczeniu usług.

Wierzymy, że NLP Cloud API jest bardzo dobrą alternatywą dla OpenAI!

W NLP Cloud z dumą zapewniamy wsparcie na wysokim poziomie wszystkim naszym klientom i stale dodajemy bardziej zaawansowane modele AI, aby nasi klienci mogli szybko zrealizować swój projekt AI.

Chcesz spróbować? Przetestuj NLP Cloud tutaj!

Juliette
Menedżer ds. marketingu w NLP Cloud