OpenAI та GPT-3 проти хмари NLP

Керівництво по застосуванню та огляд застосування

До GPT-3 OpenAI випускала моделі ШІ з відкритим вихідним кодом. GPT і GPT-2 були моделями з відкритим вихідним кодом, які будь-хто міг розгортати і використовувати на свій розсуд. Звідси і слово "Open" в назві OpenAI. Але коли вони створили GPT-3, OpenAI вирішили зберегти його як чорний ящик, доступний тільки через їх платний API. Офіційно з етичних міркувань.

З тих пір були випущені еквіваленти з відкритим вихідним кодом, такі як GPT-J і GPT-NeoX, і ви можете встановити їх самостійно і використовувати на свій розсуд.

OpenAI надзвичайно обмежує тип додатків, які вони дозволяють. Ви не можете інтегрувати їх API у виробництво, не подавши заявку на валідацію, і вони застосовують дуже суворі "правила використання". Ось огляд їх процесу валідації.

Деякі додатки просто не дозволені за замовчуванням, наприклад, додатки, засновані на "ненаукових" передумовах, перефразування та переписування додатків (вважається "плагіатом"), багаторівневий маркетинг тощо. Ось більш детальний список з рекомендацій щодо використання OpenAI:

Крім того, багато додатків ШІ, які ви могли б мати на увазі, з великою ймовірністю будуть відхилені OpenAI. Наприклад, ви не можете генерувати великий контент, а це означає, що ви не можете використовувати GPT-3 для написання цілої статті в блозі. Багато випадків використання чат-ботів також відхиляються. Наприклад, ви не можете створити чат-бота, який діє як компаньйон, або чат-бота, який використовує образи або слова для дорослих. Також дуже ймовірно, що вашу заявку відхилять, якщо вона пов'язана з соціальними мережами, охороною здоров'я, коучингом, юриспруденцією та багатьма іншими сферами. Ось деякі витяги з рекомендацій OpenAI щодо "high-stake" доменів (заявки, які вважаються дуже чутливими і з великою ймовірністю можуть бути відхилені) і щодо довжини тексту:

OpenAI просить вас впровадити "ідентифікатор користувача", який буде індивідуально ідентифікувати кожного кінцевого користувача вашого додатку. На основі цього застосовується обмеження швидкості: кінцеві користувачі не можуть робити більше 60 запитів на хвилину.

Через ці жорсткі обмеження багато проектів просто припиняються.

Жодне з цих обмежень не застосовується в NLP Cloud. Ви можете використовувати NLP Cloud для будь-якого типу додатків без обмежень, і ви можете робити скільки завгодно запитів на одного кінцевого користувача без обмеження тарифу (звичайно, якщо ви вибрали правильний тарифний план).

Різниця в ціноутворенні

OpenAI та NLP Cloud пропонують ціни за принципом "pay-as-you-go". Це означає, що ви можете платити за фактом, тільки за кількість запитів або токенів, які ви фактично спожили.

NLP Cloud також пропонує стандартні пакети, які оплачуються наперед. Ці плани надають вам доступ до певної кількості запитів за хвилину. Ці плани є більш економічно вигідними, ніж оплата по факту, якщо ви маєте великий обсяг запитів, які потрібно виконати.

Ознайомтеся з цінами на NLP Cloud тут. Нижче ви можете ознайомитися з цінами на послуги OpenAI:

Зробимо просте моделювання. GPT-J еквівалентний GPT-3 Curie, тому ми будемо порівнювати обидві ціни.

У NLP Cloud виконання 10 запитів в хвилину на GPT-J, з використанням 800 токенів кожен, обійдеться вам в $199/місяць (тарифний план Full GPU).

На OpenAI це буде коштувати 0,006 х 0,8 х 10 х 60 х 24 х 31 = $2,142/місяць.

Різниця в ціні дуже суттєва, і вона насправді ще більш важлива при порівнянні планів доопрацювання та вбудовування!

Особливості та доступні моделі

OpenAI та NLP Cloud прийняли 2 дуже різні стратегії: OpenAI робить одну єдину власну модель (GPT-3), в той час як NLP Cloud збирає кращі ШІ з відкритим вихідним кодом на одній платформі.

Це означає, що в NLP Cloud ви, звичайно, можете використовувати деякі конкуренти GPT-3, такі як GPT-J і GPT-NeoX, але ви також можете використовувати багато інших моделей, таких як Bart, T5, Distilbert, NLLB 200, spaCy тощо.

Використання спеціалізованих менших моделей часто є набагато економічно ефективнішим і набагато швидшим, ніж використання величезної моделі GPT (навіть якщо вона дуже універсальна).

Іноді деякі випадки використання просто не можуть бути охоплені GPT-3, GPT-J та GPT-NeoX. Це стосується, наприклад, багатомовного перекладу. Для таких випадків використання потрібно використовувати спеціальну модель, наприклад, M2M100 від Facebook.

Використання спеціалізованих моделей також є хорошим способом зменшення складності. Наприклад, виконання підсумовування за допомогою GPT-3 вимагатиме певної просунутої оперативної інженерії, в той час як ви можете дуже просто отримати розширені результати завдяки спеціальним тонко налаштованим моделям, таким як Facebook's Bart Large CNN.

Конфіденційність даних

Існує суттєва різниця між OpenAI та NLP Cloud, коли мова йде про конфіденційність даних.

Політика конфіденційності NLP Cloud гранично проста: жодні дані користувачів, що надсилаються до API, не зберігаються на серверах NLP Cloud, і ніхто не має доступу до цих даних.

З іншого боку, OpenAI робить багато речей з даними своїх клієнтів. Дані користувачів обробляються деяким внутрішнім програмним забезпеченням і іноді переглядаються співробітниками OpenAI. Що ще важливіше, ці дані зберігаються протягом необмеженого періоду і використовуються для навчання та вдосконалення деяких моделей штучного інтелекту OpenAI, таких як моделі семантичного пошуку та класифікації. Нижче наведено витяг з політики конфіденційності OpenAI:

Ці міркування щодо конфіденційності можуть бути критично важливими для багатьох підприємств, особливо тих, які працюють у чутливих до даних галузях, таких як охорона здоров'я, юриспруденція, фінанси...

Висновок

Багато клієнтів шукають альтернативи OpenAI, головним чином через обмеження у використанні, політику конфіденційності даних та надмірно високі ціни.

Ми вважаємо, що NLP Cloud API є дуже хорошою альтернативою OpenAI!

У NLP Cloud ми пишаємося тим, що надаємо висококласну підтримку всім нашим клієнтам, і ми постійно додаємо все більше передових моделей штучного інтелекту, щоб наші клієнти могли в найкоротші терміни реалізувати свої ШІ-проекти.

Бажаєте спробувати? Протестуйте NLP Cloud тут!

Julien Salinas
CTO в NLP Cloud