Hugging Face API и AutoTrain: сравнение цен и возможностей с NLP Cloud

Ценообразование: Обнимающееся лицо VS NLP Cloud

Во-первых, стоит отметить, что NLP Cloud API можно тестировать бесплатно при использовании на CPU и GPU (благодаря бесплатному плану и плану с оплатой по факту, который предлагает 100 тыс. бесплатных токенов), в то время как Hugging Face API можно тестировать бесплатно только на CPU (благодаря их бесплатному плану). Это важное различие, поскольку наиболее интересные модели ИИ на базе Transformer работают гораздо быстрее на GPU. Некоторые даже просто не работают на GPU.

Ценообразование обнимающихся лиц

Что касается тарифных планов, то Hugging Face предлагает только тарифы с оплатой по факту (цена зависит от вашего потребления), в то время как NLP Cloud предлагает как предоплаченные тарифы, так и тарифы с оплатой по факту. Допустим, вы хотите выполнить классификацию текста, содержащего в среднем около 5 тыс. слов, со скоростью 15 запросов в минуту на графическом процессоре. Расценки Hugging Face основаны на количестве символов, а NLP Cloud - на количестве лексем. 5 тыс. слов более или менее эквивалентны 15 тыс. символов и 3 750 токенов. В NLP Cloud это будет стоить вам $99 в месяц при подписке на план Starter GPU, а в Hugging Face - 15k x 15 x 60 x 24 x 31 x $50 / 1M = $500k в месяц (!!!).

Как видите, кажется, что цена Hugging Face pay-as-you-yougo абсолютно не подходит для производственного использования. Буквально никто не будет платить такую цену за классификацию текста на GPU...

Что касается тонкой настройки, то здесь даже нет возможности сравнить, поскольку цены на AutoTrain от Hugging Face не обнародованы. Мы зарегистрировались и попробовали их решение AutoTrain, но так и не смогли найти четких цен...

Доступные модели

Самое замечательное в Hugging Face то, что они размещают на своей платформе тонны моделей AI! Однако это не означает, что вы можете использовать эти модели. Вы, конечно, можете скачать их, но это не то же самое, что использовать их.

Только очень небольшая часть моделей Hugging Face действительно доступна для вывода через API. Если вы попытаетесь использовать модель, которая еще не загружена, вам придется либо ждать несколько минут, либо просто получить ошибку. Решением является закрепление моделей, которые вы хотите использовать, чтобы они всегда были доступны, но в этом случае вам придется заплатить дополнительные $5/месяц за модель на GPU.

В NLP Cloud мы выбрали другую стратегию: постоянно доступно около 50 различных моделей ИИ. Мы выбираем модель, когда считаем ее лучшей для конкретного случая использования. Например, мы выбираем Bart Large MNLI для классификации, Distilbert для анализа настроений, GPT-J для определения намерений и т.д.

Более того: самые продвинутые модели ИИ, такие как GPT-J, недоступны в Hugging Face API, и их нельзя точно настроить на их платформе AutoTrain, в то время как вы можете легко использовать и точно настроить эти большие языковые модели в NLP Cloud.

Пример API GPT-J на NLP Cloud

Тонкая настройка GPT-J на NLP Cloud

Поддержка

Hugging Face предлагает поддержку только в том случае, если вы выбрали тарифный план Lab или Enterprise.

NLP Cloud совершенно другой: мы предлагаем лучшую поддержку, какую только можем, любому клиенту, будь то бесплатный клиент, небольшой платный клиент или корпоративный клиент. Мы считаем, что хорошая поддержка очень важна, когда речь идет об ИИ и обработке естественного языка, потому что у клиентов может быть масса интересных технических или бизнес-вопросов.

Скорость и надежность

В наших бенчмарках мы заметили более низкую задержку в NLP Cloud API для всех моделей, которые мы тестировали, как на CPU, так и на GPU.

Скорость очень важна для такого API машинного обучения, и тот факт, что NLP Cloud отвечает быстрее, может иметь большое значение, в зависимости от ваших бизнес-требований.

Что касается тонкой настройки, то на данный момент мы не смогли провести корректное сравнение, поскольку большинство тонких настроек, которые мы запускали на платформе Hugging Face AutoTrain, провалились без явного сообщения об ошибке.

Заключение

Пользователи часто сравнивают NLP Cloud с API Hugging Face и платформой AutoTrain.

Мы считаем, что NLP Cloud API гораздо интереснее как с точки зрения цены, так и с точки зрения производительности.

Мы также очень гордимся тем, что предлагаем высококачественную поддержку всем нашим клиентам без исключения.

Хотите попробовать? Протестируйте NLP Cloud здесь!

Julien Salinas
Технический директор NLP Cloud