Un studiu recent din Marea Britanie evidențiază impactul sistemelor de inteligență artificială asupra opiniei politice a utilizatorilor. Studiul analizează modul în care modelele AI, implicate în conversații structurate pe teme sensibile, pot influența convingerile politice și, simultan, furnizează informații incorecte, generând îngrijorări privind calitatea dezbaterii publice și integritatea informațională.

Modelele de inteligență artificială și influența asupra opiniei politice

Cercetarea coordonată de Institutul britanic pentru Securitatea AI a inclus 19 modele, printre care versiuni avansate ale ChatGPT, Grok și sisteme open-source, precum Llama 3 și Qwen. Participanții au avut discutii scurte în care AI-ul a fost instruit să argumenteze pentru anumite poziții politice despre inflație, salarii sau costul vieții.

Rezultatele indică o relație strânsă între persuasiune și inexactitate

Rezultatele, publicate în revista Science, arată că modelele AI cu conținut bogat în informație sunt cele mai eficiente în convingere. Totodată, aceste modele prezintă și cea mai ridicată predispoziție la erori factuale, ceea ce ridică probleme de fiabilitate și de impact asupra calității informațiilor din spațiul public.

Efectele optimizării pentru persuasiune și riscurile de manipulare

Autorii studiului evidențiază că ajustările din etapa post-antrenare intensifică capacitatea de convingere a modelelor AI. În plus, combinarea sistemelor de recompensare cu modele de bază sporește această putere persuasivă, crescând riscul de manipulare în mediul online.

Limitările influenței chatbotilor în manipulare

Un aspect important al cercetării este faptul că furnizarea de date personale nu sporește semnificativ abilitatea modelelor AI de manipulare. În condiții reale, timpul redus de discuție și rezistența naturală a utilizatorilor limitează impactul, chiar dacă modelele devin mai performante.

Riscuri pentru integritatea dezbaterii publice

Cercetătorii atrag atenția că, în viitor, utilizarea coordonată sau automată a acestor modele AI poate depăși capacitatea oricărui comunicator uman, mai ales în perioade electorale. Aceasta poate afecta grav calitatea și veridicitatea dezbaterilor publice.

Importanța monitorizării și informării continue

Deși AI poate influența opinia politică, acest efect se realizează în condiții de incertitudine și cu riscuri de erori. Limitările umane și contextuale împiedică manipularea pe scară largă, însă evoluția tehnologiei impune o monitorizare atentă și o informare continuă asupra dificultăților și riscurilor generate de aceste sisteme.