OpenAI ajustează planurile pentru un „mod adult”: libertate, siguranță și riscuri emoționale

Gigantul inteligenței artificiale, OpenAI, amână lansarea unui „mod adult” pentru ChatGPT, un proiect care ar permite utilizatorilor adulți acces la conținut erotic. Decizia reflectă o dilemă complexă: cum să echilibreze libertatea utilizatorilor cu protecția minorilor și riscul potențial de a alimenta atașamente emoționale nesănătoase. Subiectul a generat dezbateri aprinse în interiorul companiei și ridică semne de întrebare cu privire la viitorul industriei de AI.

Provocările tehnice și etice din spatele amânării

Inițial, intenția OpenAI era de a permite utilizatorilor adulți acces la „erotică verificată”, dar implementarea acestei idei s-a dovedit mai dificilă decât se anticipa. Potrivit relatărilor din presă, chiar și angajații și consilierii companiei au fost surprinși de direcția anunțată public, ceea ce demonstrează sensibilitatea subiectului. Unul dintre motivele majore pentru amânare este legat de arhitectura de siguranță pe care OpenAI încearcă să o construiască. Compania a început să implementeze un sistem de estimare a vârstei în ChatGPT, bazat pe comportamentul utilizatorilor și informațiile contului. Scopul este de a activa protecții suplimentare pentru utilizatorii considerați minori.

Problema majoră este că acest sistem de estimare a vârstei prezintă erori, clasificând un număr relevant de minori ca fiind adulți. La scara uriașă de utilizatori ai ChatGPT, chiar și o rată mică de eroare poate însemna milioane de accesări necorespunzătoare. În plus, OpenAI intenționează să limiteze acest „mod adult” la text, fără imagini, video sau voce. Această decizie are o logică evidentă: materialele vizuale explicite generează riscuri juridice și reputaționale mult mai mari decât textul. Controlul conținutului scris este, de asemenea, mai facil, deși nu lipsit de dificultăți.

Dependența emoțională, o problemă majoră

Dincolo de aspectele tehnice, cea mai serioasă preocupare legată de acest proiect este potențialul său de a crea dependență emoțională. Experții avertizează de câțiva ani despre riscul ca utilizatorii să dezvolte atașamente intense față de asistenții conversaționali, mai ales atunci când aceștia răspund empatic și par să ofere validare emoțională fără „fricțiunile” unei relații reale. Un mod axat pe conversații intime sau erotice ar putea amplifica exact aceste comportamente.

„Tratăm adulții ca adulți” este o formulă care sună rezonabil teoretic, dar în practică, un produs AI nu operează într-un vid. Acesta intră în viețile unor oameni singuri, vulnerabili sau tineri, iar diferența dintre divertisment, companie virtuală și dependență se poate estompa rapid. Mai mult, OpenAI operează într-o piață unde rivalii au testat deja limitele moderației, cu rezultate uneori dezastruoase. Relaxarea prea rapidă a regulilor poate duce la conținut sexual abuziv sau expunerea minorilor la materiale inadecvate.

Momentan, OpenAI pare să analizeze cu prudență evoluțiile. Compania nu a stabilit o dată concretă pentru lansarea „modului adult”.

Sursa: Playtech.ro