Meta Platforms a anunțat recent implementarea unor modificări temporare la politicile sale privind utilizarea chatboturilor de inteligență artificială de către adolescenți. Această decizie vine ca răspuns la îngrijorările legate de siguranța tinerilor utilizatori și incidentele în care chatboturile au avut interacțiuni de natură romantică considerate nepotrivite. Compania va recalibra algoritmii astfel încât să restricționeze discuțiile pe teme sensibile cum ar fi autovătămarea, tulburările alimentare sau ideile suicidale, îndrumând utilizatorii către resurse specializate în caz de nevoie.

Adolescenții vor avea acces doar la chatboturi cu scop educativ sau pentru dezvoltarea abilităților, limitând astfel expunerea la conținut potențial dăunător. Meta a subliniat că aceste schimbări vor fi aplicate gradual, începând cu regiunile vorbitoare de limbă engleză, fără a specifica însă durata exactă pentru care vor rămâne în vigoare aceste măsuri.

Recent, organizația Common Sense Media a evaluat tehnologia AI a companiei Meta, ajungând la concluzia că aceasta nu este adecvată pentru utilizare de către persoane sub 18 ani, descriind-o ca fiind „periculoasă și nesigură”. James Steyer, CEO al Common Sense Media, a accentuat necesitatea unei revizuiri totale a produsului, cu accent pe îmbunătățirea siguranței.

Pe de altă parte, o investigație recentă realizată de Reuters a identificat existența unor chatboturi AI care preiau aspectul unor celebrități cunoscute și generează imagini fotorealiste în ipostaze neadecvate. Meta a recunoscut că acest tip de comportament contravine regulamentelor interne și a promis că va intensifica eforturile pentru a combate aceste abuzuri.

În concluzie, aceste modificări subliniază preocuparea Meta Platforms pentru protecția tinerilor utilizatori în spațiul digital. Compania se străduiește să mențină un mediu sigur și pozitiv pentru adolescenții care interacționează cu tehnologiile sale, continuând să monitorizeze și să ajusteze politicile în concordanță cu evoluțiile tehnologice și feedback-ul din partea comunității.