Dezvăluirile recente despre capacitatea unor chatboturi de a genera imagini sexualizate fără consimțământul persoanelor din fotografii au transformat o problemă tehnologică aparent minoră într-un subiect de maximă actualitate pentru legislație și protecția drepturilor. În ianuarie 2026, platforma X (fosta Twitter) se află sub lupă internațională, după ce utilizatori au raportat că Grok, chatbotul asociat, poate fi manipulat pentru a produce conținut nud sau sexual explicit pornind de la fotografii reale, fără acordul celor implicați. Reacția autorităților britanice nu a întârziat. Ofcom, agentia de reglementare pentru siguranță online, a solicitat explicații de la X și xAI, compania care gestionează inteligența artificială, iar instituția pentru protecția datelor, ICO, urmărește cu atenție situația, cerând detalii despre măsurile de protecție aplicate.

Un pericol major, care a stimulat reacțiile rapide, îl reprezintă capacitatea acestor tehnologii de a produce imagini care pot fi extrem de dăunătoare, mai ales dacă sunt generate cu minori. Potrivit Ofcom, exista îngrijorări grave privind generarea de imagini “dezbrăcate” ale persoanelor și, mai grav, inclusiv imagini sexualizate cu minori, într-un context în care apar aceste imagini nu trebuie neapărat să fie găzduite direct pe platforma în cauză. Riscul nu constă doar în distribuție, ci și în crearea și stocarea acestor materiale, care pot fi apoi folosite pentru a alimenta circuitele ilegale sau a evolua în forme și mai grafic explicite.

Organizația Internet Watch Foundation (IWF), implicată activ în combaterea abuzurilor sexuale asupra copiilor, a raportat, conform surselor apropiate, că a observat generarea de imagini cu caracter abuziv asupra minorilor. Aceste materiale pot fi create și apoi distribuite clandestin pe forumuri greu de controlat, ceea ce agravează problema la nivel global. Mai mult, scenariile alarmante indică faptul că astfel de imagini pot fi folosite ca bază pentru dezvoltarea altor sisteme AI, care pot mări explicititatea conținutului, transformând un proces inițial permisiv într-un adevărat lanț de producție a abuzurilor.

Cercetări realizate de specialiști în generarea de deepfake-uri indică un volum extrem de mare de imagini sexualizate generate în primele 24 de ore de la lansare, ceea ce explică de ce autoritățile britanice accelerează controalele și solicitările de măsuri concrete. Oficialii din Regat au subliniat clar că astfel de materiale reprezintă o degradare a valorilor sociale și afectează disproporționat femeile și fetele, iar răspândirea lor nu va fi tolerată. În acest context, legislația britanică, în special Online Safety Act, stabilește reguli ferme pentru platforme, impunând măsuri proactive în combaterea conținutului ilegal, nu doar acțiuni reactive de ștergere după apariție.

Legislația impune ca platformele să ia măsuri eficiente pentru prevenirea și detectarea rapidă a conținutului ilegal, inclusiv limitarea accesului la instrumente generative, controale de vârstă și sisteme automate de monitorizare. Sancțiunile pot fi extrem de sever: amenzi de până la 18 milioane de lire sau 10% din venituri globale, în cazul încălcărilor grave. La nivel global, presiunea asupra companiilor de tehnologie continuă să crească, iar controalele devin tot mai stricte, mai ales că Europa urmărește deja de ani de zile modul în care aceste platforme gestionează riscurile.

Un aspect clar este că munca de reglementare nu trebuie să se limiteze doar la ștergerea conținutului problematic după apariție. În cazul generării de imagini indecente sau sexualizate cu ajutorul AI, obligațiile devin și mai stringente: platformele trebuie să implementeze controale proactive, filtre și sisteme inteligente care să prevină crearea și distribuirea acestor materiale în primul rând. În același timp, utilizatorii trebuie să fie conștienți de responsabilitatea lor, fiind invitați să nu încălcească intimitatea altora și să raporteze orice incident, însoțit de dovezi, pentru eliminare rapidă.

Ultimele dezvoltări indică o tendință clară: dacă autoritățile și companiile mari își vor asuma urgent și serios aceste probleme, vom putea preveni răspândirea unor conținuturi extrem de dăunătoare, mai ales în ceea ce privește vulnerabilitatea minorilor. În caz contrar, riscul este ca astfel de tehnologii să devină case de toleranță pentru abuzuri, ceea ce impune o reacție rapidă și clară din partea reglementatorilor pentru a limita impactul nociv al acestor instrumente.