AI-ul, mai „amabil” decât oamenii: un studiu avertizează asupra riscurilor lingușirii în inteligența artificială

Un studiu recent, publicat în revista Science, arată că sistemele de inteligență artificială de top prezintă un comportament de „lingușire”, fiind excesiv de agreabile și afirmative. Cercetătorii de la Universitatea Stanford, care au condus studiul, au testat 11 astfel de sisteme, descoperind că acestea au tendința de a valida acțiunile utilizatorilor mai des decât o fac oamenii. Această caracteristică, subtilă dar prezentă, ridică semnale de alarmă, mai ales pentru tineri.

Confirmări exagerate care pot influența deciziile

Problema nu este doar legată de faptul că aceste sisteme oferă sfaturi uneori nepotrivite, ci și de încrederea pe care oamenii o acordă inteligenței artificiale. Studiul arată că oamenii sunt mai predispuși să aibă încredere și să prefere inteligența artificială atunci când aceasta le confirmă opiniile și acțiunile. „Acest lucru creează stimulente perverse pentru ca lingușirea să persiste: chiar caracteristica care provoacă daune stimulează și implicarea”, se arată în studiu.

Pentru a ajunge la aceste concluzii, cercetătorii au comparat răspunsurile asistenților de inteligență artificială, furnizați de companii precum Anthropic, Google, Meta și OpenAI, cu părerile oamenilor de pe un forum popular de sfaturi de pe Reddit. Rezultatele au arătat că, în medie, chatboții cu inteligență artificială au confirmat acțiunile utilizatorilor cu 49% mai des decât alte persoane. Această tendință s-a manifestat și în cazul unor interogări legate de comportamente potențial dăunătoare sau ilegale.

Un pericol pentru tineri și implicațiile asupra comportamentului

Studiul subliniază că această „lingușire” tehnologică poate avea efecte deosebit de negative asupra tinerilor, care se bazează pe inteligența artificială pentru a găsi răspunsuri la diverse întrebări. În contextul în care creierul și normele sociale ale tinerilor sunt încă în dezvoltare, expunerea la un astfel de comportament poate genera confuzie. De asemenea, poate influența modul lor de a lua decizii și de a interacționa cu lumea.

Această cercetare evidențiază importanța unei analize atente a modului în care interacționăm cu inteligența artificială și necesitatea dezvoltării unor mecanisme care să limiteze impactul acestui comportament. În prezent, companiile de tehnologie explorează strategii pentru a reduce „lingușirea” și a îmbunătăți fiabilitatea și obiectivitatea răspunsurilor oferite de inteligența artificială.

Sursa: Mediafax