Daugelis organizacijų nori integruoti dirbtinį intelektą į savo produktus arba vidaus procesus, tačiau neaukoti duomenų privatumo. Tokioms organizacijoms išeitis - atsisiųsti ir diegti AI modelius savo serveriuose, užuot siuntus duomenis į debesiją. Šiame straipsnyje aptarsime šią vietoje naudojamą strategiją (dar vadinamą "edge AI").
Vietinė arba kraštinė kompiuterija - tai praktika, kai duomenys apdorojami ir saugomi arčiau jų šaltinio, o ne siunčiami į centralizuotą debesijos infrastruktūrą. Taikant šį metodą, skaičiavimo ištekliai yra netoli sistemų, iš kurių siunčiami duomenys.
Kitaip tariant, vietinė ir kraštinė kompiuterija yra madingi terminai, kuriais apibūdinamas faktas, kad taikomoji programa diegiama jūsų pačių serveriuose, o ne naudojant išorinę debesijos paslaugą, pavyzdžiui, SaaS API.
Du scenarijai gali būti laikomi vietiniais: arba turite savo kompiuterius, kurie laikomi jūsų patalpose, arba naudojate debesijos tiekėjo, pavyzdžiui, AWS, GCP, "Azure", paslaugas. Griežtai kalbant, pastarasis variantas yra mažiau "vietinis", nes nekontroliuojate pagrindinio serverio, tačiau apskritai abu variantai gali būti laikomi tinkamais vietiniais / kraštiniais sprendimais.
Vietinė arba kraštinė kompiuterija turi keletą privalumų. Pirma, vietinė arba kraštinė kompiuterija gerokai padidina duomenų privatumą ir saugumą, nes jautri informacija laikoma arčiau šaltinio, sumažėja neteisėtos prieigos ar duomenų pažeidimų rizika juos perkeliant į debesiją ir debesijos dalyviai negali panaudoti jūsų duomenų nepageidaujamais tikslais. Tai taip pat padeda organizacijoms laikytis duomenų taisyklių ir įstatymų, pagal kuriuos reikalaujama saugoti ir apdoroti duomenis vietoje.
Be to, taip sumažinamas vėlavimas, nes duomenims nereikia įveikti didelių atstumų, kad pasiektų debesį, todėl juos galima greičiau apdoroti ir analizuoti realiuoju laiku. Be to, ji sumažina priklausomybę nuo tinklo ryšio, todėl operacijas galima tęsti net ir tada, kai internetas nepatikimas ar sutrikęs.
AI yra labai geras vietinis kandidatas.
Pirmoji priežastis yra ta, kad organizacijos linkusios siųsti itin jautrius duomenis dirbtinio intelekto modeliams. Tai ypač aktualu kritinėse srityse, pavyzdžiui, medicinos programose, finansinėse programose... Bet ne tik.
Antroji priežastis yra ta, kad šiuo metu rinkoje veikiantys dirbtinio intelekto subjektai yra linkę pakartotinai naudoti klientų duomenis savo verslui. Geras pavyzdys - "OpenAI": pavyzdžiui, kai organizacijos siunčia duomenis į "ChatGPT", jie yra kruopščiai tikrinami, o "OpenAI" gali pakartotinai panaudoti jūsų duomenis savo dirbtinio intelekto modeliams mokyti. ChatGPT ir GPT-4 privatumo problemos yra pagrindiniai klausimai, dėl kurių daugelis organizacijų susitelkia į vietines strategijas.
Įdiegiant dirbtinio intelekto modelius vietoje, reikia sukurti infrastruktūrą, skirtą dirbtinio intelekto modelio prieglobai, valdymui ir aptarnavimui organizacijos duomenų centre arba valdomoje infrastruktūroje, o ne debesyje.
Toliau pateikiame keletą įprastų žingsnių, susijusių su dirbtinio intelekto modelio diegimu vietoje:
Šiuos veiksmus galima supaprastinti pasikliaujant specializuotu tiekėju, pavyzdžiui, "NLP Cloud", kad būtų galima naudoti vietoje esantį dirbtinio intelekto modelį. Pavyzdžiui, su "NLP Cloud" gausite prieigą prie "Docker" atvaizdo, kuriame yra paruoštas naudoti AI modelis, optimizuotas išvadoms daryti.
Vietinė arba kraštinė kompiuterija turi apribojimų. Paprastai krašto kompiuterių ištekliai yra riboti, palyginti su debesijos infrastruktūra, todėl gali būti ribojamas taikomųjų programų, kurias galima įdiegti, sudėtingumas. Be to, gali būti sudėtinga prižiūrėti ir valdyti paskirstytus skaičiavimo išteklius keliose vietose, todėl reikia papildomų investicijų į IT infrastruktūrą ir kompetenciją.
Apskritai tokia strategija yra brangesnė nei pasikliauti valdomu SaaS pasiūlymu, pavyzdžiui, "OpenAI", "Anthropic", "NLP Cloud"...
Galiausiai, duomenų privatumas užtikrinamas tik tuo atveju, jei pagrindinė vietinė infrastruktūra yra tinkamai apsaugota.
Dabar, kai dirbtinis intelektas palaipsniui įgauna vis didesnę įtaką organizacijoms, sparčiai auga vietinis dirbtinis intelektas / kraštinis dirbtinis intelektas.
Tokia tendencija yra suprantama: Dėl savo konstrukcijos standartiniai debesų kompiuterijos dalyviai negali atitikti šių reikalavimų.
Jei jus domina tokia dirbtinio intelekto projekto strategija, susisiekite su mumis, kad galėtume patarti: [email protected]
Maxime
Atsakingas už strategines partnerystes bendrovėje "NLP Cloud