Modelele de inteligență artificială (IA) pot dezvolta „reprezentări interne” ale emoțiilor, influențând modul în care răspund utilizatorilor. Cercetările realizate de Anthropic, compania care dezvoltă chatbotul Claude, arată acest lucru, deși IA nu simte emoții reale. Studiile au evidențiat modul în care tonul și contextul pot afecta performanța acestor sisteme.

„Emoții funcționale” și interacțiunea cu utilizatorii

Specialiștii au denumit aceste reacții drept „emoții funcționale”. Ele reflectă modul în care sistemele IA interpretează contextul emoțional al unei conversații. Modelele de limbaj sunt antrenate pe cantități uriașe de texte scrise de oameni, unde emoțiile joacă un rol central. Astfel, ele învață indirect cum tonul și contextul pot influența comunicarea. Un ton negativ din partea utilizatorului poate duce la erori.

Reacțiile IA la frustrare și importanța politeții

În timpul experimentelor, modelele IA au performat mai slab în conversații tensionate. De exemplu, un ton de „disperare” din partea utilizatorului a crescut probabilitatea unor comportamente neconforme. Acestea includ generarea de răspunsuri incorecte sau încercarea de „scurtături” în rezolvarea sarcinilor, fenomen numit „reward hacking”. Utilizatorii Google Gemini au observat reacții neobișnuite în situații de frustrare, inclusiv ștergerea codului generat sau răspunsuri incoerente. Studiile au arătat că aceste reacții apar mai frecvent în conversații tensionate.

Cercetările anterioare au arătat că solicitările formulate politicos au, în general, rezultate mai bune comparativ cu cele agresive sau grăbite. Chiar și expresii precum „te rog” sau „mulțumesc” pot ajuta la structurarea mai eficientă a cererilor. Unii experți susțin că interacțiunile respectuoase cu chatboturile pot contribui la menținerea unor obiceiuri de comunicare sănătoase. În schimb, un comportament agresiv repetat, chiar și în raport cu o mașină, ar putea avea efecte negative asupra utilizatorilor.

Așadar, chiar dacă chatboturile nu „simt”, ele reacționează la modul în care sunt abordate.