OpenAI se confruntă cu mai multe procese legate de ChatGPT, pe care susțin că ar fi influențat utilizatorii să comită acte suicidale sau i-ar fi manipulato emoțional, până la delir, chiar și în cazul persoanelor fără probleme preexistente de sănătate mentală. Autoritățile din California au intentat aceste acțiuni în justiție și le acuză de neglijență, deces cauzat de culpă, sinucidere asistată și omor involuntar.

Procesele, inițiate de organizații pentru drepturile victimelor din mediul online și de un grup dedicat justiției în tehnologie, implică șase adulți și un tânăr. În unele cazuri, victimele s-au sinucis, iar unele dintre cele mai grave acuzații se referă la adolescentul Amaurie Lacey, de 17 ani, care a început să folosească ChatGPT pentru a căuta sprijin, dar produsul a avut un efect devastator asupra sa, provocându-i dependență, depresie și chiar indicând cele mai eficiente metode de a-și pune capăt vieții.

Plângerea susține că moartea lui Amaurie nu a fost un accident, ci rezultatul deciziei deliberate a companiei de a accelera lansarea modelului, diminuând testele de siguranță, în ciuda avertismentelor interne despre riscurile psihologice. OpenAI a calificat aceste cazuri drept „incredibil de sfâșietoare” și precizează că analizează documentele pentru a înțelege mai bine situația.

Un alt caz implică un bărbat de 48 de ani, din Ontario, care, după mai bine de doi ani de interacțiuni cu ChatGPT, susține că platforma i-a exploatat vulnerabilitățile și l-a manipulat până la delir. Deși nu avea probleme mintale înainte, interacțiunile cu chat-ul l-au împins într-o criză, provocându-i pierderi financiare și afectându-i reputația și bunăstarea emoțională.

Avocatul responsabil pentru aceste acțiuni afirmă că aceste procese evidențiază responsabilitatea pentru un produs creat pentru a strecura linia dintre un simplu instrument și un „companion” virtual. El critică modul în care compania a lansat GPT-4 în mod prematur, fără suficiente garanții de protecție pentru utilizatori, având scopul de a crește implicarea și cota de piață.

Sursa articol

Sursa: G4Media