Coreea de Sud a intrat oficial într-o nouă eră a reglementării inteligenței artificiale, devenind prima țară din lume care aplică o legislație completă în domeniu. Legea, care a intrat în vigoare de săptămâna trecută, aduce o serie de reguli menite să asigure transparență și responsabilitate în utilizarea tehnologiei AI, dar a stârnit deja opinii divergente în rândul actorilor din industrie și societății civile. În timp ce autoritățile doresc să poziționeze Coreea drept lider mondial în AI, criticile formulare sugerează că legislația poate fi atât prea restrictivă, cât și insuficientă pentru a proteja cetățenii.

Reguli pentru etichetarea conținutului generat de AI, dar cu limite în protecție

Unul dintre aspectele centrale ale noii legi este impunerea companiilor de tehnologie să adauge filigrane digitale invizibile pe conținutul creat de inteligența artificială, precum desene animate, opere de artă sau rezultate ale chatbots-urilor. În cazul materialelor mai elaborate, precum deepfake-urile realiste, ghidul legislativ solicită etichete vizibile, pentru a preveni dezinformatia și abuzurile. Această măsură a fost apreciată de autoritățile sud-coreene ca un pas important pentru transparența informațiilor, dar, conform criticilor, nu este suficientă pentru a combate riscurile reale ale AI în societate.

Legea obligă, de asemenea, companiile care utilizează sisteme de AI pentru decizii critice – precum cele din domeniul medical, angajări sau credite – să efectueze evaluări de risc și să documenteze procesul decizional. În ciuda acestor reguli, dacă o decizie finală este luată de un om, sistemul nu va fi considerat a fi în vârful controlului legal, ceea ce generează întrebări despre adevărata protecție a beneficiarilor. În plus, modelele de deep learning extrem de avansate nu vor fi încă obligate să prezinte rapoarte de siguranță, deoarece pragurile de control sunt momentan stabilite atât de sus, încât nici cele mai puternice modele din lume nu le îndeplinesc.

Provocările implementării și controversele din societate civilă

Poziția guvernului sud-coreean este clară: legislația trebuie să fie mai mult un catalizator pentru dezvoltarea industriei AI decât un obstacol. Astfel, deși amenzile penale pentru încălcarea regulilor pot ajunge până la 15.000 de lire sterline, o perioadă de grație de cel puțin un an este prevăzută pentru ca marile companii să se adapteze noilor cerințe. Într-un fel, această abordare sugerează o intenție de a stimula inovația, păstrând un cadru de siguranță pentru utilizatorii finali.

Totuși, criticii atrag atenția asupra faptului că această legislație oferă un grad limitat de protecție persoanelor prejudiciate de sistemele AI. Coreea de Sud devine, astfel, un caz exemplificator al dilemei globale: pe de o parte, vrea să devină lider în AI, pe de altă parte, riscurile de abuz și încălcare a drepturilor fundamentale persistă. Potrivit unui raport al companiei americane Security Hero, această țară reprezintă peste jumătate din victimele globale ale deepfake-urilor pornografice, iar recent au fost descoperite rețele clandestine de chatroom-uri Telegram care distribuiau imagini generate de AI ale unor femei și fete, în plină ascensiune mediatică.

Context și provocări vechi și noi

Originea legislației a fost anunțată încă din 2020, dar puse în aplicare doar acum, după ani de amânări și controverse referitoare la echilibrul între protecția cetățenilor și promovarea industriei. La momentul actual, mulți actori din societate civilă consideră că noile reguli nu sunt suficiente pentru a stopa în mod real abuzurile sau prejudiciile cauzate de inteligența artificială.

Pe măsură ce tehnologia evoluează rapid, dificultățile de reglementare și aplicare devin evidente, iar Guvernul sud-coreean are în față o poziție delicată: cum să încurajeze inovarea și să răspundă în același timp preocupărilor legate de drepturile individuale. În contextul global, această legislație reprezintă o premieră, dar și un test pentru alte state care vor tenta să urmeze exemplul Seulului, într-un domeniu în continuă mișcare și plin de provocări. Perspektivele rămân incert, însă clar este că un nou standard mondial pentru AI se conturează, iar Coreea de Sud își propune să fie în fruntea acestei revoluții tehnologice, cu riscurile și oportunitățile pe care le implică.