Un studiu recent realizat de cercetători de la Universitatea din Amsterdam scoate în evidență faptul că rețelele sociale, chiar și atunci când sunt populate doar de boți, tind să devină spații toxice și polarizate. Acest studiu aduce în discuție problemele structurilor algoritmice ale platformelor digitale și modul în care acestea contribuie la amplificarea discursului extremist, chiar și în absența utilizatorilor umani.

Experimentul, care a folosit un model lingvistic avansat precum GPT-4 pentru a crea o rețea socială fictivă dominată de boți, a demontat încercările de a diminua polarizarea prin diverse măsuri tehnice. Cercetătorii au testat șase strategii, printre care afișarea conținutului în ordine cronologică, promovarea punctelor de vedere diverse sau ascunderea statisticilor sociale, dar niciuna nu a avut efecte benefice semnificative.

Substituirea interacțiunilor umane cu boți nu a redus tendința de radicalizare. Dimpotrivă, experimentul a arătat că structura rețelei devine extrem de polarizată, indiferent de intervenții. Boții, în replică la conținutul extrem de vizualizat, încep să intensifice și să amplifice opiniile radicale, creând o spirală a toxicității. La final, doar un mic procent de conținut domină discuțiile, în timp ce restul rămâne invizibil.

Un aspect alarmant al acestei cercetări îl reprezintă rolul inteligenței artificiale generative în creșterea și răspândirea conținutului manipulator. Utilizarea AI pentru a crea mesaje polarizante și dezinformare devine tot mai frecventă, iar modelele avansate vor face mai dificilă diferențierea între conținut real și manipulat. Aceasta amenință creșterea nivelului de radicalizare în mediul online.

Studiul sugerează că rețelele sociale pot fi, din punct de vedere structural, condamnate să devină spații polarizate, indiferent de măsuri tehnice aplicate. Soluțiile par să fie limitate, deoarece algoritmii recompensează conținutul șocant pentru a menține atenția utilizatorilor, accentuând astfel tendința spre extremism. În plus, utilizarea AI în acest context crește riscul de amplificare a mesajelor populiste și dezinformării.

Perspectiva actuală indică faptul că, pe măsură ce tehnologia AI devine mai avansată, fenomenul de polarizare poate avea un impact și mai mare asupra societății. Rețelele sociale se îndreaptă, astfel, spre transformări fundamentale, dincolo de măsuri superficiale. Este esențială o monitorizare constantă și o informare continuă pentru a înțelege pe deplin aceste evoluții și pentru a putea dezvolta soluții eficiente.

Rezumatul acestor studii subliniază importanța unei priviri critice asupra designului platformelor digitale. În fața complexității problemei, continuarea cercetărilor și adaptarea strategiilor sunt instrumente esențiale pentru a evita deriva înspre spații toxice și polarizate ale mediului online.