UE interzice AI-ului să genereze imagini explicite fără consimțământ

Uniunea Europeană se pregătește să interzică dezvoltarea și utilizarea sistemelor de inteligență artificială (AI) care pot crea imagini explicite sau intime ale persoanelor, fără acordul acestora. Această măsură reprezintă o extindere a legislației europene care vizează AI, punând accentul direct pe tehnologie și pe responsabilitatea dezvoltatorilor. Decizia vine pe fondul îngrijorărilor legate de utilizarea abuzivă a AI și a capacității acesteia de a genera conținut fals și dăunător.

Noua reglementare face parte dintr-un pachet legislativ mai amplu, conceput pentru a controla utilizarea IA la nivel european. Astfel, prin acest demers, UE încearcă să limiteze impactul negativ al tehnologiei asupra cetățenilor.

Responsabilitatea dezvoltatorilor, în centrul noilor reguli

Concret, interdicția se va aplica sistemelor AI care generează imagini cu conținut explicit sau intim, fără acceptul persoanelor înfățișate. Totuși, legislația prevede o excepție importantă: interdicția nu va fi valabilă pentru companiile care implementează mecanisme eficiente pentru a preveni crearea unor astfel de imagini. Aceasta implică faptul că răspunderea pentru respectarea noilor prevederi cade nu doar pe utilizatori, ci și pe dezvoltatorii de AI.

Această schimbare legislativă reflectă evoluția rapidă a inteligenței artificiale, care a avansat în ultimii ani. Sistemele AI au devenit capabile să creeze imagini extrem de realiste, greu de diferențiat de cele autentice. Legiuitorii europeni consideră că simpla sancționare a utilizatorilor nu mai reprezintă o soluție adecvată în acest context. Noile reguli subliniază necesitatea ca dezvoltatorii să ia măsuri proactive pentru a preveni abuzurile.

Grok și scandalul imaginilor generate artificial

Unul dintre factorii care au contribuit la accelerarea acestei inițiative legislative a fost scandalul legat de utilizarea chatbot-ului Grok, dezvoltat de xAI. Platforma a fost folosită pentru a genera un număr substanțial de imagini intime false, create pe baza fotografiilor reale ale unor persoane îmbrăcate. Situația a generat o reacție puternică din partea opiniei publice și a declanșat o serie de investigații.

Compania xAI a fost nevoită să limiteze rapid funcțiile platformei Grok. În paralel, autoritățile din UE și din Marea Britanie au demarat investigații pentru a stabili dacă au fost încălcate legile privind siguranța online și moderarea conținutului. Incidentul a evidențiat riscurile asociate cu utilizarea necontrolată a AI și necesitatea unor măsuri legislative clare.

Provocări și viitoare evoluții

Dacă propunerea legislativă va fi adoptată, dezvoltatorii sistemelor AI vor fi obligați să demonstreze că au implementat măsuri concrete pentru a preveni generarea de conținut ilegal. În practică, aceasta ar putea implica filtre mai riguroase, verificări suplimentare și limitări tehnice ale modelelor. Legislația ridică, de asemenea, întrebări complexe cu privire la modalitățile prin care un sistem AI poate verifica dacă o persoană și-a dat consimțământul.

Inițiativa face parte dintr-un efort mai amplu al Uniunii Europene de a reglementa domeniul inteligenței artificiale și de a proteja utilizatorii. Pe măsură ce tehnologia avansează, presiunea pentru reguli clare și responsabilitate crește. Recent, Comisia Europeană a anunțat că va organiza o serie de consultări publice cu experți în domeniu și cu reprezentanți ai industriei pentru a stabili detaliile tehnice ale implementării noilor măsuri.

Sursa: Playtech.ro