Monet organisaatiot haluavat integroida tekoälyn tuotteisiinsa tai sisäisiin prosesseihinsa, mutta uhraamatta kuitenkaan tietosuojaa. Tällaisille organisaatioille ratkaisu on ladata ja ottaa käyttöön tekoälymalleja omilla palvelimillaan sen sijaan, että ne lähettäisivät tietojaan pilveen. Käsittelemme tässä artikkelissa tätä on-premise-strategiaa (joka tunnetaan myös nimellä "edge AI").
Paikan päällä tapahtuvalla tai reunalla tapahtuvalla tietojenkäsittelyllä tarkoitetaan käytäntöä, jossa tietoja käsitellään ja tallennetaan lähempänä niiden lähdettä sen sijaan, että ne lähetettäisiin keskitettyyn pilvi-infrastruktuuriin. Tässä lähestymistavassa laskentaresurssit sijaitsevat lähellä tietoja lähettäviä järjestelmiä.
Toisin sanoen on-premise ja edge computing ovat trendikkäitä ilmaisuja, jotka kuvaavat sitä, että sovellus otetaan käyttöön omilla palvelimilla sen sijaan, että käytettäisiin ulkoista pilvipalvelua, kuten SaaS APIa.
Kaksi skenaariota voidaan pitää paikan päällä olevina: joko sinulla on omat koneet omissa tiloissasi, tai käytät pilvipalveluntarjoajaa, kuten AWS, GCP, Azure.... Tarkkaan ottaen jälkimmäinen on vähemmän "on-premise", koska et voi hallita taustalla olevaa palvelinta, mutta yleisesti ottaen molempia voidaan pitää kelvollisina on-premise/reunaratkaisuina.
Paikan päällä tai reunalla tapahtuva tietojenkäsittely tarjoaa useita etuja. Ensinnäkin paikallinen tietojenkäsittely tai reunalaskenta parantaa huomattavasti tietosuojaa ja tietoturvaa pitämällä arkaluonteiset tiedot lähempänä niiden lähdettä, vähentämällä luvattoman pääsyn tai tietoturvaloukkausten riskiä pilvipalveluun siirtämisen aikana ja estämällä pilvipalvelun toimijoita käyttämästä tietojasi ei-toivottuihin tarkoituksiin. Se auttaa myös organisaatioita noudattamaan paikallista tallennusta ja käsittelyä edellyttäviä tietosuojasäännöksiä ja -lakeja.
Lisäksi se vähentää latenssia, koska tietojen ei tarvitse kulkea pitkiä matkoja päästäkseen pilveen, mikä mahdollistaa nopeamman käsittelyn ja reaaliaikaisen analyysin. Lisäksi se minimoi riippuvuuden verkkoyhteyksistä, mikä varmistaa, että toiminta voi jatkua myös silloin, kun internet on epäluotettava tai keskeytynyt.
Tekoäly on erittäin hyvä paikallinen ehdokas.
Ensimmäinen syy on se, että organisaatioilla on tapana lähettää erittäin arkaluonteisia tietoja tekoälymalleille. Tämä pätee erityisesti kriittisillä aloilla, kuten lääketieteellisissä sovelluksissa, rahoitussovelluksissa... Mutta ei vain.
Toinen syy on se, että nykyisin markkinoilla olevat tekoälyalan toimijat pyrkivät käyttämään asiakkaiden tietoja uudelleen omaan liiketoimintaansa. OpenAI on hyvä esimerkki: kun organisaatiot esimerkiksi lähettävät tietoja ChatGPT:lle, tiedot tutkitaan ja OpenAI voi käyttää tietojasi uudelleen omien tekoälymalliensa kouluttamiseen. ChatGPT:n ja GPT-4:n tietosuojaan liittyvät huolenaiheet ovat keskeisiä kysymyksiä, jotka saavat monet organisaatiot keskittymään on-premise-strategioihin.
Tekoälymallien käyttöönotto paikan päällä tarkoittaa infrastruktuurin luomista tekoälymallin isännöintiä, hallintaa ja palvelua varten organisaation omaan datakeskukseen tai hallittuun infrastruktuuriin pilven sijasta.
Seuraavassa on lueteltu joitakin tavallisia vaiheita, jotka liittyvät tekoälymallin käyttöönottoon paikan päällä:
Näitä vaiheita voidaan yksinkertaistaa käyttämällä NLP Cloudin kaltaista erikoistunutta toimittajaa paikallisen tekoälymallin hankkimiseen. Esimerkiksi NLP Cloudin osalta saat käyttöösi Docker-kuvan, joka sisältää käyttövalmiin tekoälymallin, joka on optimoitu päättelyä varten.
Paikallisella tai reunalaskennalla on rajoituksia. Reunalla käytettävissä olevat laskentaresurssit ovat tyypillisesti rajalliset verrattuna pilvi-infrastruktuuriin, mikä voi rajoittaa käyttöönotettavien sovellusten monimutkaisuutta. Lisäksi hajautettujen laskentaresurssien ylläpito ja hallinta useissa eri toimipisteissä voi olla haastavaa, mikä edellyttää lisäinvestointeja IT-infrastruktuuriin ja asiantuntemukseen.
Yleensä tällainen strategia on kalliimpi kuin luottaa hallinnoituun SaaS-tarjontaan, kuten OpenAI, Anthropic, NLP Cloud....
Tietosuoja on taattu vain, jos taustalla oleva paikallinen infrastruktuuri on suojattu asianmukaisesti.
On-premise AI / edge AI on huimassa kasvussa nyt, kun tekoäly on vähitellen saamassa jalansijaa organisaatioiden keskuudessa.
Tällainen suuntaus on ymmärrettävää: Tekoälyä käytetään kaikenlaisissa kriittisissä sovelluksissa, joilla on tiukat yksityisyydensuojavaatimukset, eivätkä tavanomaiset pilvitoimijat voi täyttää näitä vaatimuksia.
Jos olet kiinnostunut tällaisesta strategiasta tekoälyhankkeessasi, ota meihin yhteyttä, niin voimme neuvoa sinua: [email protected]
Maxime
Vastaa strategisista kumppanuuksista NLP Cloudissa.