Elon Musk a făcut un pas intempestiv în încercarea de a gestiona criza generată de propunerea sa de chatbot Grok, dezvoltat de compania xAI, care a fost acuzată de utilizarea în scopuri dăunătoare și ilegal. După luni de controverse și acuzații intense legate de crearea de imagini sexualizate, incluziv cu victime minore, s-a anunțat oficial că chatbotul va fi restricționat pentru a evita editarea foto cu persoane reale în ținute dezvăluite, precum bikini sau lenjerie, acolo unde legislația este explicită în interzicerea acestor practici.

Avertismentul vine după o serie de declarații din partea CEO-ului Tesla, care a precizat că nu a fost-i la curent cu problemele de conținut generate de Grok. În același timp, autoritățile din Statele Unite, inclusiv din California, au deschis deja investigații oficiale privind utilizarea îngrijorătoare a instrumentului pentru crearea de imagini sexualizate neconsimțite, inclusiv cu persoane minore. În Europa și Asia, autoritățile încep să impună limite, iar mai multe țări, precum Malaezia, Indonezia, Franța, India sau Brazilia, au anunțat verificări de siguranță și chiar blocarea accesului la platforma respectivă.

Restricții tehnologice și geoblocare
Într-un comunicat, reprezentanții xAI au explicat că au introdus “măsuri tehnologice” pentru a împiedica chatbotul Grok să editeze imagini cu persoane reale în mod provocator, acolo unde acest lucru este ilegal în jurisdictions specifice. Practic, compania a optat pentru geoblocare, restricționând anumite funcții în funcție de legislația fiecărei țări, în încercarea de a evita responsabilitatea legală și de a respecta normele locale.

De asemenea, compania a anunțat că va limita generarea și editarea imaginilor la utilizatorii plătitori, ca parte a unui proces de responsabilizare, menită să limiteze riscul abuzurilor. Aceasta nu înseamnă însă eliminarea completă a pericolului, deoarece activitatea abuzivă poate continua prin metode de ocolire și pe platforme externe, făcând ca restricțiile să aibă eficiență limitată în practică.

Contextul crizei și răspunsul global
Criza s-a amplificat pe fondul unei serii de imagini deepfake, care au apărut pe internet și au fost folosite pentru hărțuire, în special a femeilor și minorilor. În unele cazuri, aceste imagini au fost distribuite fără consimțământ, ceea ce a generat valuri de indignare și solicitări pentru anchete riguroase. Investigațiile din California sunt doar începutul unei tendințe globale: autoritățile din Malaysia, Indonezia, Franța, India și Brazilia au blocat sau investigat platforma, recrudescența acuzațiilor fiind direcționată împotriva riscurilor de siguranță online și a responsabilității platformelor.

Această criză reflectă și o problemă de percepție: răspunsurile inițiale ale xAI au fost percepute ca fiind defensive, ceea ce a alimentat critici legate de modul în care compania gestionează riscurile legate de conținutul generat de AI. Cu un produs capabil să genereze rapid și pe scară largă imagini controversate, orice lacună de moderare se transformă într-un potențial focar de probleme.

Provocările viitoare și responsabilitatea platformelor
Măsurile de geoblocare, oricât de bine intenționate, ridică întrebări despre coerenta legiferării și aplicarea regulilor în lumea digitală globalizată. În realitate, funcțiile restricționate într-o țară pot fi ocolite în alta, iar conținutul problematizat circulă rapid între platforme și jurisdicții disparate. În plus, utilizatorii pot găsi metode rapide de a eluda barierele tehnice, perpetuând riscurile de abuz și hărțuire.

Pentru utilizatori, situația rămâne clară: orice conținut AI care sexualizează o persoană reală trebuie tratat ca fiind de risc major. În cazul în care nimerești imagini neconsimțite sau sexualizate, cea mai bună reacție este să le raportezi, să păstrezi dovezi și să acționezi conform legislației locale. Autoritățile și platformele vor fi cele care, pe termen lung, vor decide dacă măsurile tehnice și politice vor fi suficiente pentru a limita abuzurile sau dacă va fi nevoie de reguli mai stricte, de responsabilizare mai clară și de o colaborare internațională reală.

În timp ce compania continuă să adapteze și să își promoveze controlul asupra conținutului generat, realitatea rămâne că, într-o lume în care imaginile pot fi proliferate și redistribite instant, eficiența acestor măsuri va depinde de reacția rapidă și promptă a tuturor actorilor implicați. Rămâne de văzut dacă, în final, tehnologia va putea fi folosită pentru a proteja mai bine drepturile și siguranța utilizatorilor, sau dacă riscurile legate de AI vor conduce, mai curând, către o nouă etapă de reglementare și responsabilizare la nivel global.