OpenAI и GPT-3 VS NLP Cloud

Насоки за използване и преглед на заявленията

Преди GPT-3 OpenAI пускаше модели на ИИ с отворен код. GPT и GPT-2 бяха модели с отворен код, които всеки можеше да разгърне и използва по свое усмотрение. Оттук идва и думата "Open" в "OpenAI". Но когато създадоха GPT-3, OpenAI решиха да го запазят като черна кутия, достъпна само чрез платения им API. Официално по етични причини.

Оттогава са публикувани еквиваленти с отворен код като GPT-J и GPT-NeoX, които можете да инсталирате сами и да използвате по свое усмотрение.

OpenAI са изключително рестриктивни по отношение на видовете приложения, които позволяват. Не можете да интегрирате техния API в производството, без първо да подадете приложението си за валидиране, и те налагат много строги "насоки за използване". Ето преглед на техния процес на валидиране.

Някои приложения просто не са разрешени по подразбиране, като например приложенията, основани на "ненаучни" предпоставки, приложенията за перифразиране и пренаписване (считани за "плагиатство"), маркетинга на много нива и други. Ето по-подробен списък от насоките за използване на OpenAI:

Освен това много приложения за изкуствен интелект, които може да имате предвид, е много вероятно да бъдат отхвърлени от OpenAI. Например не можете да генерирате голямо съдържание, което означава, че не можете да използвате GPT-3, за да напише вместо вас цяла статия в блог. Много случаи на използване на чатботове също се отхвърлят. Например не можете да създадете чатбот, който действа като придружител, или чатбот, който използва обиди или думи за възрастни. Много е вероятно заявката ви да бъде отхвърлена и ако е свързана със социални медии, здравеопазване, коучинг, право и много други. Ето някои извадки от насоките на OpenAI относно домейните с "висок залог" (приложения, считани за много чувствителни, които е много вероятно да бъдат отхвърлени) и относно дължината на текста:

OpenAI изисква от вас да въведете "потребителски идентификатор", който ще идентифицира индивидуално всеки краен потребител на вашето приложение. Въз основа на това се прилага ограничаване на скоростта: крайните потребители не могат да правят повече от 60 заявки в минута.

Много проекти просто се прекратяват поради тези строги ограничения.

Нито едно от тези ограничения не се прилага от NLP Cloud. Можете да използвате NLP Cloud за всякакъв вид приложения без ограничения и можете да правите колкото искате заявки за краен потребител без ограничение на скоростта (стига да изберете правилния план, разбира се).

Разлики в ценообразуването

OpenAI и NLP Cloud предлагат цени за плащане по време на работа. Това означава, че можете да платите след това само за броя на заявките или токените, които действително сте използвали.

NLP Cloud предлага и стандартни пакети, които се заплащат предварително. Тези планове ви дават достъп до определен брой заявки в минута. Тези планове са по-рентабилни от плащането наведнъж, ако трябва да изпълнявате голям обем заявки.

Вижте цените на NLP Cloud тук. Вижте цените на OpenAI по-долу:

Нека направим проста симулация. GPT-J е еквивалентен на GPT-3 Curie, така че ще сравним двете цени.

В облака NLP Cloud извършването на 10 заявки в минута за GPT-J, като всяка от тях използва 800 токена, ще ви струва 199 долара на месец (план Full GPU).

В OpenAI това ще ви струва 0,006 x 0,8 x 10 x 60 x 24 x 31 = 2142 долара на месец.

Разликата в цената е много съществена и всъщност е още по-важна при сравняване на плановете за фина настройка и вграждане!

Налични функции и модели

OpenAI и NLP Cloud приеха две много различни стратегии: OpenAI създава един-единствен вътрешен модел (GPT-3), докато NLP Cloud събира най-добрите изкуствени интелекти с отворен код на една и съща платформа.

Това означава, че в NLP Cloud, разбира се, можете да използвате някои конкуренти на GPT-3 като GPT-J и GPT-NeoX, но можете да използвате и много други модели като Bart, T5, OpusMT, Distilbert, M2M100, spaCy и др.

Използването на специализирани по-малки модели често е много по-рентабилно и по-бързо, отколкото използването на огромен GPT модел (дори и да е много гъвкав).

Понякога някои случаи на употреба просто не могат да бъдат обхванати от GPT-3, GPT-J и GPT-NeoX. Такъв е случаят с многоезичния превод например. За такъв случай на употреба ще трябва да използвате специален модел, като M2M100 на Facebook.

Използването на специализирани модели също е добър начин за намаляване на сложността. Например, извършването на обобщаване с GPT-3 ще изисква напреднал инженеринг на подкана, докато можете много просто да получите напреднали резултати благодарение на специализирани фино настроени модели като Bart Large CNN на Facebook.

Поверителност на данните

Има съществена разлика между OpenAI и NLP Cloud, когато става въпрос за поверителност на данните.

Политиката за поверителност на NLP Cloud е изключително проста: никакви потребителски данни, изпратени към API, не се съхраняват на сървърите на NLP Cloud и никой няма достъп до тези данни.

От друга страна, OpenAI правят много неща с данните на своите клиенти. Данните на потребителите се обработват от вътрешен софтуер и понякога се преглеждат от служители на OpenAI. По-важното е, че тези данни се съхраняват за неограничен период от време и се използват за обучение и подобряване на някои от моделите на изкуствения интелект на OpenAI, като например моделите за семантично търсене и класификация. Вижте извлечение от политиката за поверителност на OpenAI по-долу:

Тези съображения за защита на личните данни могат да бъдат от решаващо значение за много предприятия, особено за тези, които се занимават с чувствителни към данните отрасли като здравеопазване, право, финанси...

Заключение

Много клиенти търсят алтернативи на OpenAI, най-вече поради ограниченията на случаите на употреба, политиката за поверителност на данните и прекалено високите цени.

Вярваме, че NLP Cloud API е много добра алтернатива на OpenAI!

В NLP Cloud се гордеем, че предоставяме високо ниво на поддръжка на всички наши клиенти, и постоянно добавяме още авангардни модели на ИИ, за да могат нашите клиенти да изпълнят проекта си за ИИ за нула време.

Искате ли да опитате? Тествайте NLP Cloud тук!

Julien Salinas
Технически директор в NLP Cloud