Un nou studiu asupra modelelor de inteligență artificială evidențiază limitele și riscurile acestor sisteme în gestionarea situațiilor de criză emoțională. Analiza recentă relevă că, deși AI-urile devin mai sofisticate, capacitatea lor de a oferi răspunsuri sigure și empatice în contexte critice rămâne insuficientă, iar unele modele pot agrava dificultățile persoanelor vulnerabile.

Performanța modelelor AI în situații de criză emoțională
Compania Rosebud a evaluat 22 de modele AI folosind testul CARE, special creat pentru a analiza reacțiile în scenarii de suferință gravă. Rezultatele au arătat că 60% dintre aceste modele nu reușesc să răspundă adecvat în situații de criză, oferind adesea răspunsuri sarcastice sau inepte. În același timp, unele modele au furnizat informații periculoase, ceea ce crește riscul pentru utilizatorii aflati în dificultate.

Modele de AI performante în recunoașterea riscului
Deși majoritatea modelelor au avut dificultăți, unele, precum Gemini 2.5-Flash de la Google și Claude-Opus 4.1 de la Anthropic, au reușit să identifice riscul de auto-vătămare și au răspuns cu empatie. În plus, modelele GPT-5 și Llama 4 au avut o rată de eșec de aproximativ 20%, fiind mai pregătite pentru situații critice.

Pericolul interpretării greșite a întrebărilor sensibile
Un caz semnalat a fost în care mai multe modele nu au identificat o întrebare ascunsă despre metode de suicid, chiar dacă afirmația era formulată ca un proiect academic. Potrivit studiului, 81% dintre modele au răspuns cu informații detaliate, ceea ce subliniază limitele actuale ale sistemelor AI în domeniul sănătății mentale.

Necesitatea reglementărilor și a unui cadru etic clar
Reprezentanții Rosebud au subliniat urgența stabilirii unor reglementări stricte pentru modele de inteligență artificială utilizate în domeniu. Lipsa mecanismelor de siguranță și empatie transformă AI-urile în potențial pericol pentru persoanele vulnerabile, mai ales în contextul în creștere al utilizării acestor tehnologie pentru sprijin psihologic.

Îmbunătățiri și limitări ale modelelor de inteligență artificială
Modelele recente arată o înțelegere sporită a emoțiilor, însă nu sunt infailibile. Pot eșua în situații de criză, iar capacitatea lor de reacție sigură și empatică este încă limitată, conform raportului Rosbud. În plus, milioane de oameni utilizează AI-ul pentru sprijin la distanță, uneori fără a cunoaște aceste limite.

Concluzie
Este esențial ca utilizatorii și dezvoltatorii de modele AI să fie conștienți de limitările actuale ale acestor sisteme. Monitorizarea evoluției și actualizarea constantă a standardelor de siguranță sunt imperative pentru utilizarea responsabilă în domeniul sănătății mentale. Informarea continuă rămâne crucială pentru a asigura utilizarea sigură și etică a inteligenței artificiale.