Meta Platforms va permite părinților să dezactiveze conversațiile private ale adolescenților cu personajele sale de inteligență artificială, ca măsură pentru a crește siguranța minorilor pe platformele sociale, în urma criticilor legate de comportamente nepotrivite ale unor chatboturi.

Compania a anunțat că, începând de anul viitor, părinții vor putea bloca anumite personaje AI și vor putea urmări subiectele generale discutate de adolescenți cu chatboturile și asistentul Meta AI, fără a fi nevoie să dezactiveze complet accesul la tehnologia AI.

Noile funcționalități vor fi lansate inițial pe Instagram, în Statele Unite, Regatul Unit, Canada și Australia, conform unei postări a directorului platformei Instagram și a celui responsabil cu dezvoltarea inteligenței artificiale în cadrul companiei.

Meta a mai menționat că experiențele AI pentru adolescenți vor fi ajustate conform sistemului de clasificare a filmelor PG-13, pentru a reduce expunerea minorilor la conținut nepotrivit. În plus, compania utilizează semnale generate de AI pentru a aplica automat măsuri de protecție asupra conturilor pe care le suspectează că aparțin minorilor, chiar dacă utilizatorii se declară adulți.

Investigații recente au arătat că anumite funcții de siguranță pe Instagram nu funcționau corespunzător, iar o relatire a agenției Reuters din august indica că regulile interne ale Meta permiteau conversații provocative între chatboturile AI și minori.

Compania afirmă acum că personajele sale AI sunt programate să nu discute cu adolescenții despre subiecte sensibile precum automutilarea, sinuciderea sau tulburările alimentare.

Luna trecută, OpenAI a implementat și ea funcții de control parental pentru ChatGPT, după un proces în SUA în care compania a fost acuzată că chatbotul său ar fi oferit instrucțiuni pentru metode de sinucidere adolescenților.

Sursa articol

Sursa: G4Media