Samsung folosește AI pentru dezvoltarea primei memorii cu lățime de bandă mare. Care este utilitatea?

Noua arhitectură de procesare în memorie (PIM) aduce capacități de calcul AI puternice în memoria de înaltă performanță, care accelerează procesarea pe scară largă în centrele de date, sisteme de calcul de înaltă performanță (HPC) și aplicații mobile compatibile cu AI.

”HBM-PIM este prima soluție PIM programabilă din industrie, adaptată pentru diverse sarcini de lucru bazate pe AI, cum ar fi HPC, training și inferență. Ne propunem să ne folosim de această soluție și să continuăm colaborarea cu furnizorii de soluții AI pentru aplicații PIM mai avansate”, a declarat Kwangil Park, vice președinte senior în cadrul Memory Product Planning at Samsung Electronics.

Majoritatea sistemelor de calcul de astăzi se bazează pe arhitectura von Neumann, care utilizează unități separate de procesor și memorie pentru a efectua milioane de sarcini complexe de procesare a datelor. Această abordare de procesare secvențială necesită ca datele să se miște în mod constant, ceea ce poate avea ca rezultat încetinirea sistemului, în special atunci când e vorba de volume mari de date.

În schimb, HBM-PIM aduce puterea de procesare direct acolo unde sunt stocate datele prin plasarea unui motor DRAM optimizat AI în fiecare bancă de memorie – o subunitate de stocare – care permite procesarea paralelă și minimizarea mișcării datelor.

Atunci când este aplicată soluției HBM2 Aquabolt furnizată de Samsung, noua arhitectură este capabilă să ofere performanțe de două ori mai mari și reduce consumul de energie cu peste 70%. De asemenea, HBM-PIM nu necesită modificări hardware sau software, permițând integrarea mai rapidă în sistemele existente.