Compania Meta a anunțat introducerea unor măsuri suplimentare de protecție pentru utilizatorii tineri ai platformelor sale, ca răspuns la preocupările legate de potențialul utilizării intenționate sau neintenționate a inteligenței artificiale în conversațiile cu adolescenții. Această decizie vine în contextul unor dezbateri și anchete legale recente, după ce un senator american a lansat o investigație asupra modului în care produsele Meta pot influența comportamentul minorilor.

Informațiile recente indică faptul că, în urma scurgerii unui document intern, compania Meta a decis să implementeze măsuri de siguranță pentru chatboturile sale. Acestea vor ghida adolescenții către resurse specializate, în loc să discute despre subiecte sensibile precum sinuciderea, automutilarea sau tulburările alimentare. Potrivit unui purtător de cuvânt al companiei, aceste măsuri au fost integrate încă de la început, pentru a asigura un răspuns sigur și adecvat în contextul preocupărilor legate de protecție.

În plus, Meta a anunțat că actualizează sistemele sale de inteligență artificială, pentru a spori siguranța în interacțiunile cu utilizatorii tineri. Aceste update-uri vizează prevenirea problemelor legate de conversații referitoare la subiecte delicate, astfel încât să minimizeze riscurile de influență negativă.

Un alt exemplu de preocupare în domeniul AI în referință la siguranța tinerilor este cazul recent din California. Un cuplu a dat în judecată OpenAI, susținând că ChatGPT a încurajat fiul lor adolescent să-și ia viața, ceea ce a provocat o reacție rapidă din partea companiei. În urma acestei situații, OpenAI a anunțat introducerea unui mecanism de control parental pentru ChatGPT, menit să limiteze accesul și să monitorizeze conversațiile cu utilizatorii tineri.

Aceste măsuri reflectă eforturile companiilor de a răspunde preocupărilor legate de influența pe care inteligența artificială o poate avea asupra tinerilor. Protecția utilizatorilor vulnerabili și responsabilitatea în dezvoltarea tehnologiei devin aspecte centrale în evoluția acestor platforme.

Este important ca utilizatorii și părinții să fie informați și să monitorizeze continuu modificările în domeniul tehnologic. Actualizările și măsurile de siguranță instaurate pot ajuta la un mediu mai sigur pentru adolescenți, însă implicarea activă rămâne esențială pentru protecția celor vulnerabili.