Hugging Face API ja AutoTrain: hinnakujunduse ja funktsioonide võrdlus NLP Cloudiga

Hugging Face on tuntud oma suurepärase töö poolest Pythoni Transformersi raamatukogus, ja oma suure masinõppe mudelite repositooriumi eest. Kuid nad pakuvad ka järelduste APId ja peenhäälestusplatvormi nimega AutoTrain.

NLP Cloudi API ja NLP Cloudi peenhäälestusplatvorm on otsesed konkurendid Hugging Face'i API-le ja AutoTrainile. Võrdleme siinkohal nende 2 tegija hinnakujundust ja funktsioone!

Hinnakujundus: NLP Cloud

Esiteks tasub märkida, et NLP Cloud API-d saab testida tasuta, kui seda kasutatakse CPU-l ja GPU-l (tänu tasuta plaanile ja tasulisele plaanile, mis pakub 100k tasuta märke), samas kui Hugging Face API-d saab tasuta testida ainult CPU-l (tänu nende tasuta plaanile). See on oluline erinevus, sest kõige huvitavamad Transformeril põhinevad AI-mudelid töötavad GPU-l palju kiiremini. Mõned isegi lihtsalt ei jookse GPU-l.

Kallistav nägu Hinnakujundus

Plaanide osas pakub Hugging Face ainult tasulist hinnakujundust (hinnakujundus põhineb teie tarbimisel), samas kui NLP Cloud pakub nii ettemakstud kui ka tasulisi plaane. Oletame, et soovite teha tekstiklassifitseerimist tekstiosadele, mis sisaldavad keskmiselt umbes 5k sõna, kiirusega 15 päringut minutis, GPU-l. Hugging Face'i hinnakujundus põhineb tähemärkide arvul, NLP Cloudi hinnakujundus aga märkide arvul. 5k sõna vastab enam-vähem 15k tähemärgile ja 3750 tokenile. NLP Cloudis maksab see 99 $/kuu, kui tellida Starter GPU plaan, samas kui Hugging Face'is maksab see 15k x 15 x 60 x 24 x 31 x 50 $ / 1M = 500k $/kuu (!!!).

Nagu näete, tundub, et Hugging Face'i tasuline hinnakujundus ei sobi absoluutselt tootmiskasutuseks. Sõna otseses mõttes ei maksa keegi sellist hinda teksti klassifitseerimise eest GPU-l...

Mis puutub peenhäälestustesse, siis ei ole võimalik isegi võrrelda, sest Hugging Face'i AutoTrain'i hinnakujundus ei ole avalik. Registreerusime ja proovisime nende AutoTrain lahendust, kuid selget hinnakujundust me siiski ei suutnud leida...

Saadaval olevad mudelid

Hugging Face'i puhul on suurepärane, et nende platvormil on hulgaliselt AI-mudeleid! Kuid see ei tähenda, et sa saaksid neid mudeleid ka tegelikult kasutada. Loomulikult saate neid alla laadida, kuid see ei ole sama, mis nende kasutamine.

Ainult väga väike osa Hugging Face'i mudelitest on tegelikult nende API kaudu järelduste tegemiseks saadaval. Kui proovite kasutada mudelit, mis ei ole juba laetud, peate kas ootama mitu minutit või saate lihtsalt veateate. Lahendus on kinnitada mudelid, mida soovite kasutada, et need oleksid alati saadaval, kuid sel juhul peate maksma täiendavalt 5 dollarit kuus ühe mudeli eest GPU-l.

NLP Cloudis valisime teistsuguse strateegia: umbes 50 erinevat tehisintellekti mudelit on kogu aeg saadaval. Me valime mudeli, kui arvame, et see on konkreetse kasutusjuhtumi jaoks parim mudel. Näiteks valime Bart Large MNLI klassifitseerimiseks, Distilbert sentimentaalanalüüsi jaoks, GPT-J kavatsuste tuvastamiseks jne.

Mis veelgi olulisem: kõige arenenumad AI-mudelid, nagu GPT-J, ei ole Hugging Face APIs kättesaadavad ja neid ei saa nende AutoTrain platvormil peenhäälestada, samas kui NLP Cloudis saab neid suuri keelemudeleid hõlpsasti kasutada ja peenhäälestada.

GPT-J API näide NLP Cloudis

GPT-J peenhäälestus NLP Cloudis

Toetus

Hugging Face pakub tuge ainult siis, kui valite nende Lab või Enterprise paketi.

NLP Cloud on täiesti erinev: me pakume igale kliendile parimat võimalikku tuge, olgu see siis tasuta klient, väike tasuline klient või ettevõtte klient. Usume, et hea tugi on tehisintellekti ja loomuliku keeletöötluse puhul kriitilise tähtsusega, sest klientidel võib olla hulgaliselt huvitavaid tehnilisi või ärilisi küsimusi.

Kiirus ja usaldusväärsus

Meie võrdlusuuringutes täheldasime NLP Cloud API madalamat latentsust kõigi testitud mudelite puhul, olenemata sellest, kas need olid protsessoril või GPU-l.

Kiirus on sellise masinõppe API jaoks kriitilise tähtsusega ja asjaolu, et NLP Cloud reageerib kiiremini, võib sõltuvalt teie ärinõuetest teha suurt vahet.

Mis puutub peenhäälestustesse, siis ei saanud me hetkel korralikku võrdlust teha, sest enamik peenhäälestusi, mida me Hugging Face AutoTrain platvormil käivitasime, ebaõnnestusid ilma selgesõnalise veateateta.

Kokkuvõte

Kasutajad võrdlevad NLP Cloudi sageli Hugging Face API ja AutoTrain platvormiga.

Me usume, et NLP Cloud API on palju huvitavam nii hinnakujunduse kui ka jõudluse seisukohast.

Samuti oleme väga uhked, et pakume kvaliteetset tuge kõigile meie klientidele ilma vahet tegemata.

Kas soovite proovida? Testi NLP Cloudi siin!

Julien Salinas
NLP Cloud tehnoloogiajuht