Paljud organisatsioonid soovivad integreerida tehisintellekti oma tootesse või sisemistesse protsessidesse, kuid ilma andmete privaatsust ohverdamata. Selliste organisatsioonide jaoks on lahenduseks AI-mudelite allalaadimine ja kasutuselevõtt omaenda serverites, selle asemel et saata oma andmed pilve. Käesolevas artiklis käsitleme seda kohapealset strateegiat (mida nimetatakse ka "serva AI").
Kohapealne või servaarvutite kasutamine tähendab andmete töötlemist ja säilitamist nende allikale lähemal, selle asemel et saata need tsentraliseeritud pilveinfrastruktuuri. Selle lähenemisviisi puhul asuvad arvutiressursid andmeid saatvate süsteemide lähedal.
Teisisõnu on-premise ja edge computing on trendikad väljendid, mis kirjeldavad asjaolu, et rakendus on rakendatud teie enda serverites, mitte kasutades välist pilveteenust nagu SaaS API.
2 stsenaariumi võib pidada kohapealseks: kas teil on oma masinad, mis asuvad teie enda ruumides, või te kasutate pilveteenuse pakkujat, nagu AWS, GCP, Azure... Rangelt võttes on viimane vähem "kohapealne", sest teil puudub kontroll aluseks oleva serveri üle, kuid üldiselt võib mõlemat pidada kehtivaks kohapealseks / servalahenduseks.
Kohapealne või servaarvutite kasutamine pakub mitmeid eeliseid. Esiteks suurendab kohapealne või servaarvutite kasutamine märkimisväärselt andmete privaatsust ja turvalisust, kuna see hoiab tundlikku teavet lähemal allikale, vähendab loata juurdepääsu või andmete rikkumise ohtu pilve transportimise ajal ning takistab pilveteenuste kasutajatel teie andmeid soovimatul eesmärgil ära kasutada. Samuti aitab see organisatsioonidel järgida andmemäärusi ja seadusi, mis nõuavad kohalikku säilitamist ja töötlemist.
Lisaks vähendab see latentsust, kuna andmed ei pea pilve jõudmiseks läbima pikki vahemaid, mis võimaldab kiiremat töötlemist ja reaalajas analüüsi. Lisaks vähendab see sõltuvust võrguühendusest, tagades tegevuse jätkumise ka siis, kui internet on ebausaldusväärne või häiritud.
AI on väga hea kohapealne kandidaat.
Esimene põhjus on see, et organisatsioonid kalduvad saatma tehisintellekti mudelitele äärmiselt tundlikke andmeid. See kehtib eriti kriitilistes valdkondades, nagu meditsiinirakendused, finantsrakendused... Aga mitte ainult.
Teine põhjus on see, et täna turul olevad tehisintellekti pakkujad kipuvad klientide andmeid oma äritegevuses uuesti kasutama. OpenAI on hea näide: näiteks kui organisatsioonid saadavad andmeid ChatGPT-le, siis uuritakse neid andmeid ja OpenAI saab teie andmeid uuesti kasutada oma tehisintellekti mudelite treenimiseks. ChatGPT ja GPT-4 eraelu puutumatuse küsimused on kesksed küsimused, mis panevad paljud organisatsioonid keskenduma kohapealsetele strateegiatele.
Tehisintellekti mudelite kohapealne kasutuselevõtt hõlmab infrastruktuuri loomist tehisintellekti mudeli majutamiseks, haldamiseks ja teenindamiseks organisatsiooni enda andmekeskuses või hallatavas infrastruktuuris, mitte pilves.
Siin on mõned tavalised sammud, mis on seotud tehisintellekti mudeli kohapealse kasutuselevõtuga:
Neid samme saab lihtsustada, kui toetute oma kohapealse tehisintellekti mudeli jaoks spetsiaalsele tarnijale, nagu NLP Cloud. Näiteks NLP Cloudi puhul saate juurdepääsu Docker image'ile, mis sisaldab kasutusvalmis AI-mudelit, mis on optimeeritud järelduste tegemiseks.
Kohapealsel või servaarvutamisel on piirangud. Võrreldes pilveinfrastruktuuriga on servas kättesaadavad arvutusressursid tavaliselt piiratud, mis võib piirata rakenduste keerukust, mida saab kasutusele võtta. Lisaks sellele võib hajutatud arvutusressursside haldamine ja haldamine mitmes asukohas olla keeruline, mis nõuab täiendavaid investeeringuid IT-infrastruktuuri ja eksperditeadmistesse.
Üldiselt on selline strateegia kulukam kui tuginemine hallatavale SaaS-pakkumisele nagu OpenAI, Anthropic, NLP Cloud...
Viimaks, andmete privaatsus on tagatud ainult siis, kui aluseks olev kohapealne infrastruktuur on õigesti turvatud.
Kohapealne tehisintellektuaaltehnoloogia / serva tehisintellektuaaltehnoloogia on nüüd, mil tehisintellektuaaltehnoloogia on organisatsioonide seas järk-järgult levima hakanud, hüppeliselt kasvanud.
Selline suundumus on arusaadav: Tehisintellekti kasutatakse kõikvõimalikes kriitilistes rakendustes, millel on ranged privaatsusnõuded, ning standardsed pilveteenuse pakkujad ei suuda neid nõudeid täita.
Kui olete huvitatud sellisest strateegiast oma tehisintellektiprojekti jaoks, võtke meiega ühendust, et me saaksime teid nõustada: [email protected]
Maxime
NLP Cloudi strateegiliste partnerlussuhete eest vastutav isik