Conform Playtech.ro: Nvidia lansează o nouă arhitectură revoluționară pentru inteligența artificială

Compania Nvidia prezintă o nouă arhitectură de procesoare concepută pentru a optimiza performanța în sarcinile de inteligență artificială, prin eliminarea elementelor tradiționale ale procesoarelor clasice. Această abordare vizează controlul precis al operațiunilor și anticiparea consumului de energie, promițând o eficiență sporită.

Arhitectura elimină mecanisme precum predicția ramificațiilor, cache-urile tradiționale sau execuția out-of-order. În locul acestora, compilatorul definește în avans aproape fiecare operațiune, până la nivelul ciclurilor de ceas. Această planificare meticuloasă permite anticiparea consumului electric. Sistemul poate pregăti alimentarea înainte ca o anumită zonă a cipului să solicite energie, reducând astfel variațiile de tensiune. Nvidia afirmă că tehnologia poate reduce fenomenul „voltage droop” cu peste 60% și depășirile de tensiune cu peste 70%.

Controlul predictibil al sarcinilor contribuie și la gestionarea temperaturii. În loc ca performanța întregului cip să fie limitată de cea mai fierbinte zonă, sarcinile pot fi distribuite pentru a asigura o repartizare mai uniformă a căldurii. Nvidia estimează că această metodă poate aduce un plus de performanță de aproximativ 10-11% în cadrul aceleiași limite termice.

Integrarea inteligentă a noilor procesoare cu GPU-urile existente

Nvidia Groq 3 LPX nu este prezentat ca un înlocuitor pentru GPU-urile companiei. Strategia vizează mai degrabă împărțirea procesării unui model AI între două tipuri de hardware specializate.

GPU-urile din platforma Vera Rubin NVL72 ar urma să preia etapa de „prefill”, o fază ce necesită o putere de calcul imensă și o capacitate mare de memorie. Procesoarele LP30 ar fi ulterior responsabile de etapa de „decode”, adică generarea propriu-zisă a răspunsului.

Acest partajaj este justificat de diferențele semnificative de memorie. Un GPU Rubin dispune de aproximativ 288 GB de memorie HBM4, o cantitate incomparabil mai mare decât cei aproximativ 500 MB de SRAM ai unui LP30. Pentru modelele AI extrem de mari, capacitatea memoriei devine rapid o limitare pentru arhitectura Groq.

În cazul unui model de 31 de miliarde de parametri în format FP8, ar fi necesare aproximativ 62 de procesoare LP30 doar pentru stocarea parametrilor. Pentru modelele de tip Mixture-of-Experts, cu trilioane de parametri, numărul de cipuri necesare poate ajunge la mii, distribuite pe mai multe rack-uri.

Potențialul noii arhitecturi în peisajul AI

Această nouă abordare subliniază o direcție strategică a Nvidia de a nu se baza exclusiv pe arhitectura tradițională a GPU-urilor pentru toate sarcinile AI. Prin utilizarea unor procesoare specializate precum Groq 3 LPX, compania vizează o optimizare fină a performanței și eficienței energetice.

Dezvoltarea și integrarea acestor noi arhitecturi reflectă ritmul alert al inovației în domeniul inteligenței artificiale. Capacitatea de a gestiona modele din ce în ce mai mari și mai complexe necesită soluții hardware adaptate.

Nvidia a anunțat lansarea oficială a noii platforme Vera Rubin NVL72 și a procesoarelor Groq 3 LPX, subliniind disponibilitatea pentru clienți începând cu ultimul trimestru al anului curent.

Sursa: Playtech.ro