Имате проблеми с ИИ или разработката на пълен пакет? Нашите експерти са тук, за да ви напътстват: индивидуални съвети, техническа интеграция и др. Свържете се с [email protected].

API за прегръщане на лица и AutoTrain: сравнение на цени и функции с NLP Cloud

Hugging Face е добре позната със страхотната си работа по библиотеката Python Transformers, както и с голямото си хранилище за модели за машинно обучение. Но те предоставят и API за изводи и платформа за фина настройка, наречена AutoTrain.

API на NLP Cloud и платформата за фина настройка на NLP Cloud са преки конкуренти на API и AutoTrain на Hugging Face. Нека да сравним цените и функциите на тези 2 участници тук!

Цени: Прегръщане на лицето VS NLP Cloud

Първо, струва си да се отбележи, че API на NLP Cloud може да се тества безплатно, когато се използва на CPU и GPU (благодарение на безплатния план и плана за плащане, който предлага 100 хил. безплатни токена), докато API на Hugging Face може да се тества безплатно само на CPU (благодарение на безплатния план). Това е важна разлика, тъй като най-интересните модели на ИИ, базирани на Transformer, работят много по-бързо на GPU. Някои от тях дори просто не работят на графичен процесор.

Ценообразуване на прегръдката на лицето
Ценообразуване на прегръдката на лицето

Що се отнася до плановете, Hugging Face предлага само ценообразуване на база на потреблението, докато NLP Cloud предлага както предплатени планове, така и планове на база на потреблението. Да кажем, че искате да извършите класификация на текст върху части от текст, които съдържат средно около 5 хил. думи, със скорост 15 заявки в минута, на графичен процесор. Ценообразуването на Hugging Face се основава на броя на символите, докато това на NLP Cloud се основава на броя на токените. 5 хил. думи са повече или по-малко еквивалентни на 15 хил. знака и на 3750 токена. В NLP Cloud това ще ви струва 99 долара/месец, като се абонирате за плана Starter GPU, докато в Hugging Face това ще ви струва 15 хил. х 15 х 60 х 24 х 31 х 50 долара / 1 млн. = 500 хил. долара/месец (!!!).

Както можете да видите, изглежда, че ценообразуването на Hugging Face за заплащане по време на работа е абсолютно неподходящо за производствена употреба. Буквално никой няма да плати такава цена за класифициране на текст в графичен процесор...

Що се отнася до фината настройка, дори не е възможно да се направи сравнение, тъй като цените на AutoTrain на Hugging Face не са публични. Регистрирахме се и изпробвахме тяхното решение за AutoTrain, но така и не успяхме да намерим ясно ценообразуване...

Налични модели

Голямото предимство на Hugging Face е, че те разполагат с тонове модели с изкуствен интелект в своята платформа! Това обаче не означава, че можете действително да използвате тези модели. Разбира се, можете да ги изтеглите, но това не е същото като да ги използвате.

Само много малка част от моделите на Hugging Face всъщност са достъпни за изводи чрез техния API. Ако се опитате да използвате модел, който все още не е зареден, ще трябва да изчакате няколко минути или просто ще получите грешка. Решението е да закачите моделите, които искате да използвате, така че да са винаги на разположение, но в този случай трябва да плащате допълнително по 5 USD/месец за модел на графичен процесор.

В NLP Cloud избрахме различна стратегия: около 50 различни модела с изкуствен интелект са на разположение през цялото време. Избираме модел, когато смятаме, че е най-добрият модел за конкретен случай на употреба. Например избираме Bart Large MNLI за класификация, Distilbert за анализ на настроенията, GPT-J за откриване на намерения и т.н.

По-важното е, че най-усъвършенстваните модели с изкуствен интелект като GPT-J не са налични в API на Hugging Face и не могат да бъдат настройвани в платформата AutoTrain, докато можете лесно да използвате и настройвате тези големи езикови модели в NLP Cloud.

Пример за API на GPT-J в NLP Cloud
Пример за API на GPT-J в NLP Cloud
Фина настройка на GPT-J в облака NLP Cloud
Фина настройка на GPT-J в облака NLP Cloud

Подкрепа

Hugging Face предлага поддръжка само ако изберете техния план Lab или Enterprise.

NLP Cloud е напълно различен: предлагаме най-добрата възможна поддръжка на всеки клиент, независимо дали е безплатен клиент, малък платен клиент или корпоративен клиент. Вярваме, че добрата поддръжка е от решаващо значение, когато става въпрос за изкуствен интелект и обработка на естествен език, защото клиентите могат да имат куп интересни технически или бизнес въпроси.

Скорост и надеждност

В нашите бенчмаркове забелязахме по-ниска латентност на NLP Cloud API за всички тествани модели, независимо дали са на CPU или GPU.

Бързината е от решаващо значение за такъв API за машинно обучение и фактът, че NLP Cloud реагира по-бързо, може да е от голямо значение в зависимост от вашите бизнес изисквания.

Що се отнася до фината настройка, за момента не успяхме да направим подходящо сравнение, тъй като повечето от фините настройки, които стартирахме на платформата Hugging Face AutoTrain, се провалиха без изрично съобщение за грешка.

Заключение

Потребителите често сравняват NLP Cloud с API за прегръщане на лица и платформата AutoTrain.

Смятаме, че NLP Cloud API е много по-интересен както от гледна точка на цените, така и от гледна точка на производителността.

Гордеем се, че предлагаме висококачествена поддръжка на всички наши клиенти без разлика.

Искате ли да опитате? Тествайте NLP Cloud тук!

Julien Salinas
Технически директор в NLP Cloud