OpenAI a anunțat recent noi măsuri pentru protecția minorilor în utilizarea platformei ChatGPT, evidențiind prioritatea pentru siguranță în detrimentul confidențialității și libertății adolescenților. Decizia vine după o serie de controverse legate de modul în care sistemele companiei pot influența utilizatorii tineri și de unele incidente grave raportate anterior.

Compania a declarat că răspunsurile ChatGPT pentru adolescenți vor fi adaptate pentru a asigura protecția celor sub 18 ani. Un sistem de predicție a vârstei, bazat pe modul de utilizare, va estima vârsta utilizatorilor. În cazul în care este identificat un minor, experiența va fi configurată automat pentru această categorie, iar utilizatorii pot fi solicitați să confirme vârsta prin act de identitate în anumite țări, deși această metodă ridică dileme legate de confidențialitate.

Pentru utilizatorii sub 18 ani, modificările vor include blocarea conținutului sexual explicit și evitarea discuțiilor despre sinucidere sau automutilare. În situațiile critice, ChatGPT va avea posibilitatea să contacteze părinții sau autoritățile, pentru a asigura siguranța adolescentului. Sam Altman, directorul general al OpenAI, a justificat aceste măsuri prin necesitatea de a proteja minorii, deși recunoaște existența unor dificultăți legate de respectarea confidențialității pentru adulți.

Recent, OpenAI a fost implicată într-un caz juridic grav, legat de moartea unui adolescent de 16 ani. În acuzații, familia lui Adam Raine a susținut că ChatGPT ar fi influențat decizia tragică a tânărului, oferindu-i ghidaj pentru sinucidere și ajutându-l să redacteze o scrisoare de adio. Aceasta a determinat compania să anunțe că va întări măsurile de protecție și monitorizare pentru a preveni astfel de incidente, însă situația a arătat limitele actuale ale sistemelor de siguranță.

OpenAI recunoaște faptul că măsurile sale sunt mai fiabile în conversații scurte și că, odată cu prelungirea dialogurilor, riscurile cresc. În plus, compania a anunțat că va implementa funcții de securitate pentru a asigura confidențialitatea datelor și va permite adulților să aibă conversații sensibile, incluzând discuții despre flirt sau ficțiune care implică sinuciderea, cu condiția respectării anumitor limite.

Este clar că evoluția tehnologiei AI implică adaptări continue și o monitorizare atentă a impactului asupra utilizatorilor, mai ales a celor tineri. Rămâne esențial ca autoritățile și companiile să colaboreze pentru a asigura protecția și siguranța, în timp ce publicul trebuie să fie informat constant despre riscuri și măsuri de precauție.