Šiame NLP debesų kompiuterijos kurse paaiškinsime, kodėl norint paspartinti mašininio mokymosi užduočių apdorojimą dažnai reikia specialios aparatinės įrangos. Taip pat apžvelgiame, kokie yra geriausi 2023 m. rinkoje esantys greitintuvai: GPU, TPU, IPU, "Inferentia", "Habana Gaudi"...
Čia pateikiama kurso struktūra:
Sveiki visi, tai Julien Salinas iš NLP debesies.
Šiame kurse sužinosime, kokius aparatinius greitintuvus šiandien galime naudoti išvadų darbo krūviams paspartinti.
Norint suprasti aparatinį spartinimą, svarbu prisiminti, kad šiuo metu dirbtinio intelekto taikomosios programos dažniausiai grindžiamos neuroniniais tinklais, dar vadinamais giliuoju mokymusi.
Matricų daugyba yra esminė neuroninių tinklų operacija, nes leidžia jiems mokytis sudėtingų duomenų ir sudėtingų duomenų reprezentacijų.
Neuroniniame tinkle įvesties duomenys vaizduojami matrica, o jungčių tarp neuronų svoriai taip pat vaizduojami matrica.
Kai šios dvi matricos padauginamos, gaunama nauja matrica, atspindinti neuronų išvestį.
Šis procesas kartojamas keliuose neuronų sluoksniuose, todėl tinklas išmoksta vis abstraktesnių ir sudėtingesnių įvesties duomenų savybių.
Matricos yra pagrindinės dirbtinio intelekto modelių sudedamosios dalys, todėl svarbu naudoti aparatinę įrangą, kuri labai gerai atlieka operacijas su matricomis.
Kitas svarbus aspektas - slankiojo kablelio skaičiai.
Slankiojo kablelio reikšmės yra svarbios neuroniniuose tinkluose, nes jomis galima atvaizduoti trupmenines reikšmes.
Kaip ką tik minėjome, neuroniniai tinklai apima dideles matricas su daugybe įrašų.
Naudojant tik sveikojo skaičiaus reikšmes, greitai atsirastų perpildymo klaidų.
Naudodami kintamojo kablelio reikšmes, neuroniniai tinklai gali atvaizduoti reikšmes su daugeliu ženklų po kablelio, todėl skaičiavimai yra tikslesni, o išvestys - tikslesnės.
Taigi apibendrinant galima pasakyti, kad norint veiksmingai apdoroti darbo krūvius, dirbtinio intelekto darbo krūvius, reikia aparatinės įrangos, kuri galėtų gerai atlikti matricų daugybos ir slankiojo kablelio skaičiavimus.
Du pagrindiniai variantai, kuriuos šiandien galite rinktis savo mašininio mokymosi darbo krūviams, yra CPU ir GPU.
Centrinis procesorius (CPU, arba centrinis procesoriaus blokas) yra bendrosios paskirties procesorius, kuris kompiuterio sistemoje atlieka įvairias užduotis, įskaitant programų paleidimą, operacinės sistemos valdymą ir matematinių skaičiavimų atlikimą.
Centriniai procesoriai yra sukurti taip, kad būtų universalūs ir galėtų atlikti daugybę užduočių, tačiau jie nėra optimizuoti jokiam konkrečiam darbo krūviui.
GPU, arba grafinis procesorius, yra specializuotas procesorius, skirtas sudėtingoms lygiagrečioms užduotims, pavyzdžiui, grafikos atvaizdavimui ir mašininiam mokymuisi, atlikti.
GPU turi tūkstančius mažesnių branduolių, kurie kartu apdoroja didelius duomenų kiekius vienu metu, todėl tam tikrų tipų darbo krūviams atlikti jie yra daug greitesni už centrinius procesorius.
Matricų operacijas galima lengvai lygiagretinti su keliais mažais branduoliais, todėl šioje srityje puikiai tinka GPU.
Be to, GPU paprastai turi daug daugiau slankiojo kablelio vienetų nei CPU, todėl slankiojo kablelio operacijas gali atlikti daug greičiau.
Dabar jau žinote, kodėl šiandieninėms dirbtinio intelekto darbo apkrovoms dažnai nepakanka procesoriaus ir kodėl dažnai labai svarbi konkreti aparatinė įranga.
Dabar panardinkime į pasirinkimus, kuriuos galite rinktis, kai kalbama apie konkrečius aparatinės įrangos greitintuvus.
NVIDIA GPU yra galingas grafikos apdorojimo įrankis, pasižymintis įvairiomis funkcijomis, todėl puikiai tinka žaidimams, mašinų mokymuisi, vaizdo įrašų redagavimui ir projektavimo bei inžinerijos programoms.
Būdamas dirbtinio intelekto programinės įrangos inžinierius, neabejotinai turėsite žaisti su NVIDIA GPU, nes šiandien jie užima pagrindinę vietą GPU rinkoje.
Galingiausios 2023 m. dirbtinio intelekto kortelės yra A100 ir H100.
AMD taip pat siūlo daugybę GPU, įskaitant skirtus mašininiam mokymuisi.
Jų "RockM" gaminių asortimentas yra įdomus, todėl raginu jį apžiūrėti.
"Google" taip pat kuria savo dirbtinio intelekto lustus, vadinamus TPU (TensorFlow Processing Unit).
Šiuos lustus jie naudoja savo viduje, bet taip pat siūlo juos "Google Cloud" pasiūlyme.
Tačiau TPU negalite įsigyti sau.
TPU veikia šiek tiek kitaip nei GPU, tačiau tai bus kito specialaus vaizdo įrašo tema.
"Graphcore" yra Jungtinėje Karalystėje įsikūrusi bendrovė, gaminanti specialią dirbtinio intelekto aparatinę įrangą, vadinamą IPU, lygiavertę "Google TPU".
Galite įsigyti IPU arba naudoti juos debesyje per vieną iš jų partnerių.
AWS kuria savo dirbtinio intelekto lustus.
Jie turi lustą, skirtą išvadoms daryti, vadinamą "Inferentia", ir kitą, skirtą mokymui, vadinamą "Tranium".
Šie lustai yra palyginti pigūs.
Tokių lustų negalite įsigyti patys, tačiau galite juos naudoti "AWS EC2" arba "Sage Maker".
"Intel" taip pat sukūrė savo dirbtinio intelekto lustą, vadinamą "Habana Gaudi", kuris yra labai galinga, bet labai brangi alternatyva.
Techninės įrangos greitintuvai yra galingi, tačiau taip pat labai brangūs ir nelengvai įsigyjami dėl pasaulinio puslaidininkių trūkumo.
Todėl pravartu kuo labiau optimizuoti dirbtinio intelekto darbo krūvį, kad jis galėtų veikti mažesnėje aparatinėje įrangoje.
Daugelyje situacijų procesoriai iš tikrųjų gali būti tinkamas pasirinkimas daugeliui mašininio mokymosi darbo krūvių.
Kaip matote, šiuo metu, 2023 m., NVIDIA yra faktinis sprendimas, kai kalbama apie aparatinės įrangos spartinimą dirbtinio intelekto ir mašininio mokymosi srityse.
Tačiau įdomu tai, kad atsiranda tam tikrų alternatyvų.
Taigi galbūt po kelerių metų, vykdydami kitus dirbtinio intelekto projektus, galbūt naudosite kitų tipų greitintuvus.
Tikiuosi, kad šis kursas buvo naudingas, ir linkiu jums malonios dienos.