OpenAI и GPT-3 VS NLP Cloud

Руководство по использованию и рассмотрение заявок

До GPT-3 OpenAI выпускал модели ИИ с открытым исходным кодом. GPT и GPT-2 были моделями с открытым исходным кодом, которые каждый мог развернуть и использовать по своему усмотрению. Отсюда и слово "Open" в слове "OpenAI". Но когда они создали GPT-3, OpenAI решила оставить ее в качестве "черного ящика", доступного только через их платный API. Официально по этическим соображениям.

С тех пор были выпущены эквиваленты с открытым исходным кодом, такие как GPT-J и GPT-NeoX, и вы можете установить их самостоятельно и использовать по своему усмотрению.

OpenAI крайне ограничивает тип приложений, которые они разрешают. Вы не можете интегрировать их API в производство, не отправив сначала свое приложение на проверку, и они применяют очень строгие "правила использования". Вот обзор их процесса проверки.

Некоторые приложения просто запрещены по умолчанию, например, приложения, основанные на "ненаучных" предпосылках, перефразирование и переписывание приложений (рассматривается как "плагиат"), многоуровневый маркетинг и многое другое. Вот более подробный список из руководства по использованию OpenAI:

Кроме того, многие приложения ИИ, которые вы можете иметь в виду, с большой вероятностью будут отклонены OpenAI. Например, вы не можете генерировать большой контент, что означает, что вы не можете использовать GPT-3 для написания за вас целой статьи в блоге. Многие сценарии использования чатботов также будут отклонены. Например, вы не можете создать чатбота, который выступает в роли компаньона, или чатбота, который использует оскорбления или слова для взрослых. Ваша заявка также с большой вероятностью будет отклонена, если она связана с социальными сетями, здравоохранением, коучингом, юриспруденцией и многим другим. Вот некоторые выдержки из рекомендаций OpenAI по "высокорисковым" областям (заявки, которые считаются очень чувствительными и с большой вероятностью будут отклонены) и по длине текста:

OpenAI просит вас внедрить "идентификатор пользователя", который будет индивидуально идентифицировать каждого конечного пользователя вашего приложения. Исходя из этого, применяется ограничение скорости: конечные пользователи не могут делать более 60 запросов в минуту.

Многие проекты просто отменяются из-за этих строгих ограничений.

Ни одно из этих ограничений не применяется NLP Cloud. Вы можете использовать NLP Cloud для любого типа приложений без ограничений, и вы можете делать столько запросов, сколько хотите, на одного конечного пользователя без ограничения скорости (при условии, что вы выбрали подходящий тарифный план, конечно).

Различия в ценообразовании

OpenAI и NLP Cloud предлагают цены с оплатой по факту. Это означает, что вы можете заплатить только за количество запросов или токенов, которые вы фактически использовали.

NLP Cloud также предлагает стандартные пакеты с предоплатой. Эти планы предоставляют вам доступ к определенному количеству запросов в минуту. Эти тарифные планы более экономичны, чем оплата по факту, если вам необходимо выполнять большой объем запросов.

Ознакомиться с ценами на NLP Cloud можно здесь. Ознакомьтесь с ценами OpenAI ниже:

Давайте проведем простое моделирование. GPT-J эквивалентен GPT-3 Curie, поэтому мы сравним цены обоих.

На NLP Cloud выполнение 10 запросов в минуту на GPT-J, используя по 800 токенов, обойдется вам в 199 долларов в месяц (тарифный план Full GPU).

В OpenAI это будет стоить вам 0,006 x 0,8 x 10 x 60 x 24 x 31 = $2 142 в месяц.

Разница в цене очень существенна, и она на самом деле еще более важна при сравнении планов тонкой настройки и встраивания!

Особенности и доступные модели

OpenAI и NLP Cloud приняли две совершенно разные стратегии: OpenAI создает одну единственную собственную модель (GPT-3), в то время как NLP Cloud собирает лучшие открытые ИИ на одной платформе.

Это означает, что на NLP Cloud вы, конечно, можете использовать некоторых конкурентов GPT-3, таких как GPT-J и GPT-NeoX, но вы также можете использовать многие другие модели, такие как Bart, T5, OpusMT, Distilbert, M2M100, spaCy и т.д.

Использование специализированных небольших моделей часто гораздо более рентабельно и намного быстрее, чем использование огромной модели GPT (даже если она очень универсальна).

Иногда некоторые случаи использования просто не могут быть охвачены GPT-3, GPT-J и GPT-NeoX. Например, это касается многоязычного перевода. Для такого случая вам потребуется специальная модель, например, M2M100 от Facebook.

Использование специализированных моделей также является хорошим способом снижения сложности. Например, для выполнения суммирования с помощью GPT-3 потребуется продвинутая оперативная инженерия, в то время как вы можете очень просто получить продвинутые результаты благодаря специализированным тонко настроенным моделям, таким как Bart Large CNN от Facebook.

Конфиденциальность данных

Существует значительная разница между OpenAI и NLP Cloud, когда речь идет о конфиденциальности данных.

Политика конфиденциальности NLP Cloud предельно проста: никакие данные пользователей, отправленные в API, не хранятся на серверах NLP Cloud, и никто не имеет доступа к этим данным.

С другой стороны, OpenAI делает много вещей с данными своих клиентов. Данные пользователей обрабатываются некоторым внутренним программным обеспечением и иногда просматриваются сотрудниками OpenAI. Более того, эти данные хранятся неограниченное время и используются для обучения и улучшения некоторых моделей ИИ OpenAI, таких как модели семантического поиска и классификации. Выдержка из политики конфиденциальности OpenAI приведена ниже:

Эти соображения конфиденциальности могут иметь решающее значение для многих предприятий, особенно для тех, которые работают с чувствительными к данным отраслями, такими как здравоохранение, юридическая и финансовая...

Заключение

Многие клиенты ищут альтернативы OpenAI, в основном из-за ограничений на использование, политики конфиденциальности данных и непомерно высокой цены.

Мы считаем, что NLP Cloud API - это очень хорошая альтернатива OpenAI!

В NLP Cloud мы гордимся тем, что обеспечиваем поддержку высокого уровня для всех наших клиентов, и мы постоянно добавляем все больше передовых моделей ИИ для того, чтобы наши клиенты могли реализовать свой проект ИИ в кратчайшие сроки.

Хотите попробовать? Протестируйте NLP Cloud здесь!

Julien Salinas
технический директор NLP Cloud