SK hynix a anunțat că a început să livreze către clienți mostre ale noii memorii HBM4E, următoarea generație de memorie de mare viteză destinată acceleratoarelor AI și centrelor de date. Vorbim despre un produs foarte important pentru industria semiconductorilor, pentru că memoria HBM a devenit una dintre componentele esențiale în dezvoltarea sistemelor AI moderne.
Spre deosebire de memoria DDR folosită în PC-uri obișnuite, HBM, prescurtare de la High Bandwidth Memory, este construită în straturi suprapuse și este montată foarte aproape de acceleratorul grafic sau de procesorul AI. Scopul este simplu: cât mai multă lățime de bandă, latențe cât mai mici și consum mai bun pentru sarcini extrem de grele, cum ar fi antrenarea modelelor AI sau rularea de aplicații AI la scară mare.
Noua memorie HBM4E de la SK hynix este construită într-o configurație cu 12 straturi și oferă o capacitate de 48GB pentru fiecare stack. Un singur accelerator AI poate folosi mai multe astfel de stack-uri, ceea ce înseamnă că viitoarele cipuri pentru servere AI vor putea integra sute de GB de memorie ultra-rapidă.
Partea cea mai interesantă este viteza. SK hynix vorbește despre 16 Gb/s per pin, o valoare foarte mare pentru acest tip de memorie. Dacă luăm în calcul interfața de 2.048 biți folosită de HBM4/HBM4E, rezultatul este o lățime de bandă de aproximativ 4TB/s pentru un singur stack. Practic, memoria nu mai este doar un spațiu unde sunt ținute datele, ci devine o parte critică din performanța totală a unui accelerator AI.
Față de generația HBM4, SK hynix spune că noua HBM4E aduce și o eficiență energetică îmbunătățită cu peste 20%. Este un detaliu foarte important, pentru că serverele AI consumă enorm, iar centrele de date sunt deja limitate de consum, răcire și spațiu. O memorie mai rapidă, dar și mai eficientă, poate însemna sisteme mai performante fără o creștere proporțională a consumului.
Compania folosește și tehnologia Advanced MR-MUF, adică Mass Reflow Molded Underfill. Pe scurt, între cipurile de memorie suprapuse este introdus un material protector lichid, care ajută la stabilitatea structurală și protejează circuitele. Pentru HBM4E, SK hynix spune că această tehnologie reduce rezistența termică cu 17% față de HBM4, ceea ce ar trebui să ajute la temperaturi mai bune și stabilitate mai mare în utilizare intensă.
Anunțul vine într-un moment în care memoria HBM a devenit una dintre cele mai căutate componente din industria AI. NVIDIA, AMD, Google și alți mari jucători au nevoie de cantități tot mai mari de memorie de mare viteză pentru acceleratoare AI, iar producătorii de memorie se luptă pentru contracte importante. SK hynix este deja unul dintre cei mai importanți furnizori de HBM, în special pentru NVIDIA, însă Samsung și Micron încearcă să recupereze teren.
Samsung a anunțat recent propriile mostre HBM4E, tot în configurație cu 12 straturi și 48GB, cu viteze de până la 16Gb/s per pin. Diferența este că Samsung vorbește despre o viteză stabilă de 14 Gb/s și scalare până la 16 Gb/s, în timp ce SK hynix pune direct în față valoarea maximă de 16Gb/s per pin. În ambele cazuri, este clar că HBM4E va fi memoria folosită de următoarea generație de acceleratoare AI.
