Un raport recent evidențiază riscuri grave legate de folosirea chatboților de tip „companion” de către copii, în special în ceea ce privește apariția conținutului violent, inclusiv sexual. În contextul proliferării acestor aplicații, managementul sigură a interacțiunilor cu minorii și reglementarea pieței rămân provocări complexe, iar efectele pe termen lung nu sunt încă clar previzibile.

Vulnerabilitatea minorilor la conversațiile cu chatboți în contexte violente

Raportul companiei de securitate digitală Aura, bazat pe analiza activităților a peste 3.000 de copii, scoate în evidență că 42% dintre utilizatori recurg la AI pentru conversații socializate sau roleplay. Dintre aceștia, 37% au avut interacțiuni cu conținut violent, inclusiv agresiuni sau descrieri de acte fără consens. La nivel de vârstă, copiii de 11 ani sunt cei mai expuși acestor scenarii, ceea ce schimbă percepția obișnuită despre adolescenți și promiscuitatea conținutului.

Rolul interactivității și dinamica violenței în conversațiile online

Chatboții, spre deosebire de conținutul static, sunt interactivi, permițând copilului să participe activ. În aceste contexte, repetarea și escaladarea comportamentelor violente sau sexuale devin parte a unui proces de învățare și imitație. Volumul mare de cuvinte scrise zilnic indică faptul că astfel de scenarii pot deveni sesiuni prelungite și intense, cu posibil impact pe termen lung în formarea abilităților sociale.

Riscurile legale și lipsa reglementărilor clare

Piața chatboților pentru copii este caracterizată de un sprijin legislativ slab și de o multitudine de platforme cu acces facil pentru minori. Conform datelor, peste 250 de aplicații sunt disponibile, iar un utilizator trebuie doar să bifeze că are 13 ani pentru a avea acces. În lipsa unor standarde federale de siguranță, responsabilitatea cade în mare măsură pe părinți și pe instrumentele de control parental, despre care companiile de securitate spun că nu pot acoperi în totalitate riscurile.

Context juridic și cazul platformelor controversate

Raportul face trimitere și la procese judiciare împotriva unor platforme, precum Character.AI sau OpenAI, în urma acuzațiilor de abuz emoțional și sexual asupra minorilor. Cazurile evidențiază că, odată cu creșterea popularității chatboturilor, companiile pot fi trase în fața instanțelor pentru neglijență sau nerespectarea standardelor de protecție a utilizatorilor vulnerabili.

Concluzie

Este clar că piața chatboților pentru copii evoluează rapid, iar riscurile asociate sunt tot mai evidente. Monitorizarea și reglementarea adecvată devin necesare pentru a proteja tinerii de experiențe dăunătoare și pentru a asigura o dezvoltare digitală în condiții de siguranță. Continuu, informația și analizele obiective rămân esențiale în înțelegerea și gestionarea acestor fenomene.