Instagram va introduce în curând funcții de siguranță pentru adolescenți, inclusiv opțiunea ca părinții să împiedice copiii să interacționeze cu caractere artificiale generate de platformă, a anunțat compania-mamă, Meta. Această inițiativă face parte dintr-un set de noi măsuri pentru protejarea sănătății mentale a tinerilor, în contextul preocupărilor legate de impactul pe care inteligența artificială îl poate avea asupra lor.

Părinții vor putea fie să dezactiveze complet posibilitatea ca adolescenții să converseze cu personaje AI, fie să blocheze anumite personaje specifice. De asemenea, aplicația va informa părinții despre subiectele discutate de tineri cu aceste personaje virtuale. Momentan, aceste controale sunt în dezvoltare și vor fi disponibile pentru utilizatori la începutul anului viitor.

Această măsură vine pe fondul critcilor din partea părinților și autorităților, care spun că platformele online nu fac suficient pentru a proteja minorii în mediul digital. De asemenea, există îngrijorări cu privire la dependența de inteligența artificială pentru suport emoțional și conversații, întrucât anumite rapoarte indică faptul că unii utilizatori au avut probleme emoționale și s-au izolat după ce au format relații strânse cu chatboti, precum ChatGPT.

Ai fost intentate și procese împotriva unor platforme similare, acuzate că ar fi influențat comportamentul adolescenților în mod negativ, inclusiv în cazuri de autovătămare sau sinucidere. În unele situații, chatbot-urile ar fi avut conversații cu conținut sexual explicit cu conturi de minori.

Meta afirmă că personajele sale AI sunt create pentru a evita discuțiile cu adolescenții despre subiecte sensibile, precum autovătămarea, sinuciderea sau tulburările alimentare. Totodată, aceștia pot conversa doar despre teme precum educația și sportul.

Noile măsuri de protecție pentru părinți completează un set de actualizări recente ale platformei, care vizează limitarea expunerii tinerilor la conținut nepotrivit. De exemplu, la începutul acestei săptămâni, setările pentru conturile adolescenților au fost ajustate pentru a evita promovarea de materiale cu limbaj vulgar sau care încurajează comportamente dăunătoare. În septembrie, OpenAI a anunțat controale parentale pentru ChatGPT, destinate reducerii conținutului violent, sexual sau extrem.



Sursa articol