UNICEF face apel la reglementare strictă pentru combaterea materialelor AI ce sexualizează minori

Organizația UNICEF a tras un semnal de alarmă important miercuri, solicitând comunității internaționale să instituie măsuri ferme împotriva utilizării tehnologiei de inteligență artificială (AI) în crearea și distribuția de materiale ce victimile fiind minori. Într-un context în care progresele tehnologice permit generarea rapidă și relativ accesibilă a imaginilor extrem de realiste, organismele globale de protecție a drepturilor copilului pun accent pe riscurile tot mai mari pentru siguranța și demnitatea celor mici.

În ultimele luni, numărul imaginilor generate artificial care sexualizează copii a crescut semnificativ, ceea ce reprezintă o problemă alarmantă în lumea digitală. UNICEF atrage atenția că aceste materiale nu doar că încalcă principiile majore ale protecției copilului, ci devin și o sursă de trafic și abuz sexual, în contextul în care astfel de imagini pot alimenta pornografie infantilă sau comportamente deviante. Organizația solicită statelor să adopte legi ferme, care să pedepsească nu doar distribuția și crearea acestor materiale, ci și utilizarea tehnologiilor noi în acest scop.

Potrivit organizației de la New York, actualele cadre legislative nu sunt suficiente pentru a face față evoluției rapide a tehnologiei AI, care permite generarea de conținut cu impact psihologic profund asupra minorilor. UNICEF subliniază, de asemenea, rolul companiilor de tehnologie în acest efort, solicitându-le să implementeze măsuri precum filtrarea conținutului, tehnologii de detectare a materialelor ilegale și colaborare cu autoritățile pentru a stopa această piață neagră. În același timp, organizația face apel către platforme de socializare și motoare de căutare să-și intensifice controalele pentru a preveni răspândirea acestor imagini neetice.

Un pericol în creștere în era digitală

Comunitatea internațională se confruntă cu un nou tip de amenințare digitală, alimentată de progresele în inteligență artificială, care permit generarea și manipularea de imagini și videoclipuri extrem de realiste, fără ca acestea să fie nevoie de fotografii reale ale minorilor. Această tehnologie, dacă nu este reglementată adecvat, poate fi folosită pentru scopuri extrem de periculoase, precum crearea de conținut sexualizat cu minori fictivi. UNICEF avertizează asupra faptului că aceste materiale pot alimenta și întări un sistem ilegal de exploatare a copiilor, fie ca victime directe ale abuzurilor fictive, fie ca modele periculoase pentru comportamentul celor care consumă astfel de conținut.

Potrivit experților în securitatea cibernetică și drepturile copilului, aceste imagini artificial generate rămân un fenomen relativ nou, dar cu impact devastator. Într-o perioadă în care copiii petrec tot mai mult timp online, riscul de expunere la materiale periculoase crește exponențial. Connecting the dots între noile tehnologii și vulnerabilitățile tinerilor devine o prioritate pentru autorități, ONG-uri și companii.

Propuneri și direcții de acțiune

Organizația ONU solicită implementarea unor legislații internaționale care să facă diferență între conținutul creat digital și cel real, stabilind sancțiuni clare pentru cei implicați în producția și distribuția acestor materiale. De asemenea, se cere dezvoltarea unor tehnologii inovatoare capabile să identifice și să elimine rapid imagini ilegale, precum și crearea de campanii educaționale pentru părinți și tineri, pentru a crește gradul de conștientizare cu privire la riscurile online.

Apelează, totodată, la responsabilitatea companiilor de tehnologie, cerându-le să fie proactive în eliminarea acestor conținuturi și să colaboreze cu autoritățile în toate statele, pentru a combate răspândirea acestui fenomen. ONU și UNICEF apreciază că, în fața avansurilor rapide ale AI, nu trebuie să prevaleze nimic mai presus de protejarea minimelor drepturi și libertăți ale celor mai vulnerabili.

Cu toate că măsurile trebuie să fie globale și coerente, realitatea arată că fiecare țară trebuie să își adapteze legislația și resursele pentru a face față acestei noi forme de exploatare. Investițiile în tehnologii de detectare a conținutului ilegal, coordonarea internațională și conștientizarea publicului devin componente esențiale în lupta contra acestei amenințări digitale fără precedent. În timp ce angajamentul comunității globale se intensifică, perspectivele rămân optimiste dacă se vor adopta și implementa rapid măsurile necesare pentru protejarea celor mai vulnerabili, minori, în universul digital în continuă evoluție.