Conform Mediafax: ONU trage un semnal de alarmă cu privire la riscurile inteligenței artificiale (IA) tot mai autonome, avertizând că acestea ar putea depăși capacitatea umană de control. Înaltul Comisar al ONU pentru Drepturile Omului, Volker Turk, a cerut luni, la Geneva, instituirea rapidă a unui sistem de guvernanță pentru IA, înainte ca tehnologia să devină imposibil de gestionat.

IA autonomă, o amenințare potențială

„O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligență artificială mult prea puternică”, a declarat Volker Turk în deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului. El a subliniat necesitatea unor „garanții solide privind siguranța și securitatea IA, înainte să fie prea târziu”.

Turk consideră că statele care găzduiesc infrastructura de IA și cele implicate în lanțurile de aprovizionare ar trebui să stabilească un set comun de „linii roșii” pentru dezvoltarea și utilizarea acestei tehnologii. Oficialul a cerut, de asemenea, verificarea independentă a sistemelor de IA și o colaborare sporită între companiile din domeniu, pe tema siguranței. În acest sens, Volker Turk a anunțat intenția de a trimite o scrisoare companiilor din sector, îndemnându-le să ia măsuri pentru reducerea riscurilor.

Impactul IA asupra locurilor de muncă și democrației

Modelele generative de IA sunt deja capabile să execute sarcini complexe și să ia decizii fără intervenție umană permanentă. Unele sisteme pot identifica singure pașii necesari pentru a îndeplini o sarcină, depășind simpla urmărire a unor instrucțiuni succesive. Această autonomie crescândă ridică întrebări legate de supravegherea și limitarea comportamentului acestor sisteme.

Riscurile asociate inteligenței artificiale nu se limitează la potențiala autonomie sporită a sistemelor. ONU atrage atenția asupra impactului tehnologiei asupra vieții cotidiene. Volker Turk a solicitat evaluarea atentă a efectelor IA asupra pieței muncii, a democrației, a mediului și a drepturilor fundamentale ale omului.

Oficialul a criticat și concentrarea puterii tehnologice în mâinile unui număr restrâns de companii și persoane, subliniind că dezvoltarea IA trebuie să fie însoțită de reglementări menite să protejeze drepturile cetățenilor.

Exemple de reglementare și avertismentul final

Volker Turk a oferit ca exemple de măsuri luate pentru limitarea riscurilor din mediul digital și din domeniul IA, inițiativele Uniunii Europene și ale Coreei de Sud. În UE, Digital Services Act (DSA) impune marilor platforme online să evalueze și să reducă riscurile generate de serviciile și algoritmii lor, să respecte cerințe de transparență și să acționeze împotriva conținutului ilegal. Nerespectarea acestor reguli poate atrage amenzi de până la 6% din cifra de afaceri anuală globală a companiilor.

Coreea de Sud a introdus, la rândul său, reguli specifice pentru inteligența artificială, incluzând obligativitatea informării utilizatorilor atunci când interacționează cu anumite sisteme IA și cerințe de transparență pentru conținutul generat artificial. Totuși, Volker Turk a avertizat că recunoașterea necesității unor reglementări nu s-a transpus încă suficient în măsuri concrete.

„Împărtășesc îngrijorările unor actori din sector potrivit cărora IA avansată ar putea reprezenta un risc existențial pentru umanitate”, a declarat Volker Turk.

Sursa: Mediafax