Daudzas organizācijas vēlas integrēt mākslīgo intelektu savos produktos vai iekšējos procesos, taču nezaudējot datu konfidencialitāti. Šādām organizācijām risinājums ir lejupielādēt un izvietot AI modeļus uz saviem serveriem, nevis sūtīt datus uz mākoni. Šajā rakstā mēs aplūkosim šo on-premise stratēģiju (pazīstamu arī kā "edge AI").
Vietējā jeb "edge computing" ir datu apstrāde un glabāšana tuvāk to avotam, nevis to nosūtīšana uz centralizētu mākoņtehnoloģiju. Izmantojot šo pieeju, skaitļošanas resursi tiek izvietoti netālu no sistēmām, kas nosūta datus.
Citiem vārdiem sakot, vietēja un malas skaitļošana ir moderni termini, kas raksturo to, ka lietojumprogramma tiek izvietota uz jūsu serveriem, nevis izmantojot ārēju mākoņpakalpojumu, piemēram, SaaS API.
Divus scenārijus var uzskatīt par vietējiem: vai nu jums ir savas iekārtas, kas izvietotas jūsu telpās, vai arī jūs izmantojat mākoņpakalpojumu sniedzēju, piemēram, AWS, GCP, Azure... Stingri runājot, pēdējais variants ir mazāk "uz vietas", jo jums nav kontroles pār pamatā esošo serveri, bet kopumā abus var uzskatīt par derīgiem uz vietas/iekšpuses risinājumiem.
Vietējā vai malas skaitļošana piedāvā vairākas priekšrocības. Pirmkārt, lokālā vai malas skaitļošana ievērojami uzlabo datu konfidencialitāti un drošību, jo sensitīva informācija tiek saglabāta tuvāk avotam, samazinot nesankcionētas piekļuves vai datu aizsardzības pārkāpumu risku, tos transportējot uz mākoni, un neļaujot mākoņa dalībniekiem izmantot jūsu datus nevēlamiem mērķiem. Tas arī palīdz organizācijām ievērot datu noteikumus un likumus, kas paredz vietēju datu glabāšanu un apstrādi.
Turklāt tas samazina latentumu, jo datiem nav jāmēro lieli attālumi, lai sasniegtu mākoni, tādējādi ļaujot tos ātrāk apstrādāt un analizēt reāllaikā. Turklāt tas samazina atkarību no tīkla savienojamības, nodrošinot, ka operācijas var turpināt pat tad, ja internets nav uzticams vai ir traucēts.
Mākslīgais intelekts ir ļoti labs vietējais kandidāts.
Pirmais iemesls ir tas, ka organizācijas mākslīgā intelekta modeļiem mēdz sūtīt ļoti sensitīvus datus. Tas jo īpaši attiecas uz tādām kritiskām jomām kā medicīnas lietojumprogrammas, finanšu lietojumprogrammas... Bet ne tikai.
Otrais iemesls ir tas, ka šobrīd tirgū esošie mākslīgā intelekta dalībnieki mēdz atkārtoti izmantot klientu datus savam biznesam. OpenAI ir labs piemērs: piemēram, kad organizācijas nosūta datus uz ChatGPT, tie tiek rūpīgi pārbaudīti, un OpenAI var atkārtoti izmantot jūsu datus, lai apmācītu savus AI modeļus. ChatGPT un GPT-4 privātuma problēmas ir galvenie jautājumi, kuru dēļ daudzas organizācijas koncentrējas uz vietējām stratēģijām.
Mākslīgā intelekta modeļu izvietošana uz vietas ietver infrastruktūras izveidi, lai izvietotu, pārvaldītu un apkalpotu mākslīgā intelekta modeli organizācijas datu centrā vai pārvaldītā infrastruktūrā, nevis mākonī.
Tālāk ir aprakstīti daži kopējie posmi, kas saistīti ar AI modeļa izvietošanu uz vietas:
Šos soļus var vienkāršot, izmantojot tādu specializētu piegādātāju kā NLP Cloud, lai izveidotu savu klātienes AI modeli. Piemēram, izmantojot NLP Cloud, jūs iegūsiet piekļuvi Docker tēlam, kas satur lietošanai gatavu AI modeli, kas optimizēts secinājumiem.
Vietējai vai malas skaitļošanai ir ierobežojumi. Parasti malā pieejamie skaitļošanas resursi ir ierobežoti salīdzinājumā ar mākoņa infrastruktūru, un tas var ierobežot lietojumprogrammu sarežģītību, ko var izvietot. Turklāt sadalīto skaitļošanas resursu uzturēšana un pārvaldība vairākās vietās var būt sarežģīta, un tas prasa papildu ieguldījumus IT infrastruktūrā un zināšanas.
Kopumā šāda stratēģija ir dārgāka nekā paļauties uz pārvaldītu SaaS piedāvājumu, piemēram, OpenAI, Anthropic, NLP Cloud...
Visbeidzot, datu konfidencialitāte ir garantēta tikai tad, ja ir pareizi nodrošināta pamatā esošā lokālā infrastruktūra.
Tagad, kad mākslīgais intelekts pamazām kļūst arvien populārāks organizāciju vidū, strauji pieaug vietējais mākslīgais intelekts / mākslīgais intelekts uz malas.
Šāda tendence ir saprotama: Mākslīgais intelekts tiek izmantots visdažādākajās kritiski svarīgās lietojumprogrammās, kurām ir stingras privātuma prasības, un jau pēc būtības standarta mākoņpakalpojumu sniedzēji nevar izpildīt šīs prasības.
Ja jūs interesē šāda stratēģija jūsu mākslīgā intelekta projektam, sazinieties ar mums, lai mēs varētu sniegt konsultācijas: [email protected]
Maxime
Atbildīgs par stratēģiskajām partnerībām uzņēmumā NLP Cloud