Hugging Face API ja AutoTrain: hinnoittelun ja ominaisuuksien vertailu NLP Cloudin kanssa.

Hinnoittelu: NLP Cloud: Halailevat kasvot VS NLP Cloud

Ensinnäkin on syytä huomata, että NLP Cloud API voidaan testata ilmaiseksi, kun sitä käytetään CPU:lla ja GPU:lla (kiitos ilmaisen suunnitelman ja pay-as-you-go-suunnitelman, joka tarjoaa 100 000 ilmaista polettia), kun taas Hugging Face API voidaan testata ilmaiseksi vain CPU:lla (kiitos ilmaisen suunnitelman). Tämä on tärkeä ero, sillä mielenkiintoisimmat Transformer-pohjaiset tekoälymallit toimivat paljon nopeammin GPU:lla. Jotkin niistä eivät edes toimi GPU:lla.

Halailevat kasvot hinnoittelu

Hugging Face tarjoaa vain pay-as-you-go-hinnoittelua (hinnoittelu perustuu kulutukseen), kun taas NLP Cloud tarjoaa sekä pre-paid- että pay-as-you-go-sopimuksia. Oletetaan, että haluat suorittaa tekstiluokittelun tekstikappaleille, jotka sisältävät keskimäärin noin 5 000 sanaa, 15 pyynnön minuutissa GPU:lla. Hugging Facen hinnoittelu perustuu merkkien määrään, kun taas NLP Cloudin hinnoittelu perustuu merkkien määrään. 5k sanaa vastaa suurin piirtein 15k merkkiä ja 3 750 tokenia. NLP Cloudissa se maksaa 99 dollaria/kk tilaamalla Starter GPU Planin, kun taas Hugging Facessa se maksaa 15k x 15 x 60 x 24 x 31 x 50 dollaria / 1M = 500k dollaria/kk (!!!!).

Kuten huomaat, näyttää siltä, että Hugging Facen pay-as-you-go -hinnoittelu ei todellakaan sovellu tuotantokäyttöön. Kirjaimellisesti kukaan ei aio maksaa tällaista hintaa tekstin luokittelusta GPU:lla...

Hienosäätöä ei voi edes verrata, koska Hugging Facen AutoTrain-hinnoittelu ei ole julkinen. Rekisteröidyimme ja kokeilimme heidän AutoTrain-ratkaisuaan, mutta emme silti löytäneet selkeää hinnoittelua...

Saatavilla olevat mallit

Hugging Facen hieno puoli on se, että heidän alustallaan on paljon tekoälymalleja! Se ei kuitenkaan tarkoita, että voit todella käyttää näitä malleja. Voit tietenkin ladata niitä, mutta se ei ole sama asia kuin niiden käyttäminen.

Vain hyvin pieni osa Hugging Facen malleista on tosiasiassa saatavilla päätelmien tekemistä varten heidän API:nsa kautta. Jos yrität käyttää mallia, jota ei ole vielä ladattu, joudut joko odottamaan useita minuutteja tai saat yksinkertaisesti virheilmoituksen. Ratkaisu on kiinnittää haluamasi mallit niin, että ne ovat aina käytettävissä, mutta siinä tapauksessa joudut maksamaan 5 dollaria kuukaudessa lisämaksua per malli GPU:lla.

NLP Cloudissa valitsimme erilaisen strategian: noin 50 erilaista tekoälymallia on jatkuvasti käytettävissä. Valitsemme mallin, kun se on mielestämme paras malli tiettyyn käyttötarkoitukseen. Valitsemme esimerkiksi Bart Large MNLI:n luokitteluun, Distilbertin sentimenttianalyysiin, GPT-J:n aikomusten havaitsemiseen jne.

Vielä tärkeämpää on se, että GPT-J:n kaltaiset edistyneimmät tekoälymallit eivät ole saatavilla Hugging Face API:ssa, eikä niitä voi hienosäätää niiden AutoTrain-alustalla, kun taas NLP Cloudissa voit helposti käyttää ja hienosäätää näitä suuria kielimalleja.

Esimerkki GPT-J API:sta NLP Cloudissa

GPT-J:n hienosäätö NLP Cloudissa

Tuki

Hugging Face tarjoaa tukea vain, jos valitset heidän Lab- tai Enterprise-pakettinsa.

NLP Cloud on täysin erilainen: tarjoamme parhaan mahdollisen tuen kaikille asiakkaillemme, olivatpa he sitten ilmaisia asiakkaita, pieniä maksullisia asiakkaita tai yritysasiakkaita. Uskomme, että hyvä tuki on ratkaisevan tärkeää tekoälyn ja luonnollisen kielen käsittelyn yhteydessä, koska asiakkailla voi olla paljon mielenkiintoisia teknisiä tai liiketoimintaan liittyviä kysymyksiä.

Nopeus ja luotettavuus

Vertailuanalyyseissämme huomasimme NLP Cloud API:n pienemmän viiveen kaikissa testaamissamme malleissa, olipa kyse sitten suorittimesta tai näytönohjaimesta.

Nopeus on kriittinen tekijä tällaiselle koneoppimisliittymälle, ja se, että NLP Cloud vastaa nopeammin, voi vaikuttaa merkittävästi liiketoimintasi vaatimuksiin.

Hienosäätöjen osalta emme toistaiseksi pystyneet tekemään kunnollista vertailua, koska suurin osa Hugging Face AutoTrain -alustalla käynnistämistämme hienosäädöistä epäonnistui ilman nimenomaista virheilmoitusta.

Päätelmä

Käyttäjät vertaavat NLP Cloudia usein Hugging Face API:een ja AutoTrain-alustaan.

Uskomme, että NLP Cloud API on paljon kiinnostavampi sekä hinnoittelun että suorituskyvyn kannalta.

Olemme myös erittäin ylpeitä voidessamme tarjota laadukasta tukea kaikille asiakkaillemme erotuksetta.

Haluaisitko kokeilla? Testaa NLP Cloudia täällä!

Julien Salinas
teknologiajohtaja, NLP Cloud