Cercetătorii trag un semnal de alarmă: personaje virtuale ultra-realiste, controlate de inteligența artificială, ar putea influența masiv opinia publică și sistemele democratice. Un studiu recent detaliază modul în care aceste entități digitale, capabile să imite comportamentul uman online, pot manipula discuțiile și pot afecta percepția publică.

Cum pot rețelele de IA să schimbe realitatea online

Documentul publicat într-o revistă științifică explică faptul că aceste personaje generate de IA pot intra în comunități digitale, participând la conversații și influențând punctele de vedere. Spre deosebire de sistemele anterioare, aceste entități sunt capabile să se coordoneze instantaneu, să răspundă la feedback și să mențină narațiuni coerente pe mii de conturi.

Progresele în domeniul modelelor lingvistice și al sistemelor multi-agent au făcut posibil ca un singur operator să gestioneze rețele vaste de „voci” IA. Aceste personaje pot părea autentice, adaptându-se limbajului și tonului local și interacționând într-un mod natural. Ele pot desfășura, de asemenea, milioane de experimente la scară mică pentru a determina mesajele cele mai convingătoare. Rezultatul este un consens artificial, menit să influențeze discuțiile politice și să modeleze opinia publică.

Deepfake-urile și știrile false semnalează pericolele

Deși roiurile de IA complet dezvoltate sunt încă destul de teoretice, cercetătorii observă deja semnale de avertizare. Exemple includ deepfake-urile și sursele de știri false care au avut un impact în campanii electorale din țări precum Statele Unite, Taiwan sau India.

În același timp, organizațiile de monitorizare au identificat rețele pro-Kremlin care răspândesc cantități mari de conținut online. Se crede că această activitate are scopul de a influența modul în care viitoarele sisteme de IA se vor comporta și ce informații vor prioritiza. Dr. Kevin Leyton-Brown, informatician de la Universitatea din Columbia Britanică, avertizează asupra acestor amenințări emergente.

Impactul asupra democrației în era digitală

Experții avertizează că aceste „roiuri” de IA ar putea schimba echilibrul de putere în societățile democratice. Dr. Leyton-Brown a subliniat că aceste sisteme vor modifica probabil modul în care oamenii au încredere în informațiile online. Expertul a mai adăugat: „Nu ar trebui să ne imaginăm că societatea va rămâne neschimbată odată cu apariția acestor sisteme. Un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”.

Creșterea influenței inteligenței artificiale și a personajelor virtuale ridică provocări semnificative pentru protejarea integrității informațiilor și a proceselor democratice.