Conform Digi24: Cercetătorul în inteligență artificială, Bayar Menzat, a explicat cum pot utilizatorii să distingă mai ușor videoclipurile generate de inteligența artificială (AI) de cele reale, dar și de ce unele clipuri ajung să fie distribuite pe platforme precum TikTok fără a fi marcate corespunzător. El a adus în discuție un caz recent, în care o informație falsă legată de o ambulanță care „fura copii” a dus la un atac violent asupra unui echipaj medical în comuna clujeană Viișoara.

Dezvrăjirea mecanismelor AI în mediul online

Menzat a subliniat că, în general, platformele precum TikTok aplică o etichetă automată pentru videoclipurile nou încărcate, care specifică dacă acestea au fost create cu ajutorul inteligenței artificiale generative. Problema apare atunci când aceste clipuri sunt descărcate, reîncărcate, li se adaugă text nou sau rezoluția este modificată. Aceste manipulări pot șterge metadatele inițiale, îngreunând identificarea automată de către platformă și, implicit, dispariția bannerului de avertizare.

„Problema apare atunci când acest clip este luat, redistribuit, text este adăugat deasupra lui, rezoluția lui scade, toate informațiile inițiale dispar și atunci devine mai greu pentru platforme să pună acel banner, care dispare”, a explicat cercetătorul.

Semnele care trădează conținutul generat de AI

Cercetătorul a identificat anumite defecte specifice, încă prezente în multe materiale generate de AI, care pot servi drept indicii pentru public. Acestea includ probleme de „temporaritate”, cum ar fi personaje care dispar pentru scurt timp sau obiecte care par să se deschidă și să se închidă ca „fantome”. Tehnologia, deși avansată, nu este încă perfectă în simularea fluxului natural al realității.

„Oamenii în general, dacă vorbim strict de video generate cu inteligența artificială, acestea încă au multe probleme de ceva care se numește temporaritate, în sensul în care am văzut într-un video cum un șofer dispare pentru o secundă din video, o ușă se închide și se deschide ca o fantomă”, a detaliat Menzat. De asemenea, rezoluția scăzută a videoclipurilor, folosită uneori pentru a masca aceste imperfecțiuni, poate fi un alt semnal de alarmă.

Educația digitală, arma împotriva dezinformării

Bayar Menzat crede că o mai bună familiarizare a publicului cu tehnologia AI generative poate crește capacitatea oamenilor de a identifica conținutul fals. Studiile arată că persoanele expuse anterior la astfel de materiale devin mai abile în a le recunoaște, datorită recurenței anumitor caracteristici, precum durata similară a clipurilor, paletele de culori folosite sau vocalizarea.

„Un studiu care spune că oamenii care au fost deja expuși la inteligența artificială generativă, adică dacă au văzut exemple, devin mult mai buni la a discerne atunci când mai văd clipuri generative cu inteligența artificială”, a afirmat cercetătorul. El a exemplificat cu propria experiență, arătându-i tatălui său câteva exemple, după care acesta a înțeles rapid cum funcționează.

Cu toate acestea, cercetătorul consideră că problema dezinformării, în general, ar trebui tratată separat de cea a inteligenței artificiale generative. El susține că exemplul ambulanței care ar fi „furat copii” este un caz de dezinformare simplă, bazată pe o informație falsă, unde inteligența artificială nu a fost neapărat implicată în crearea materialului inițial.

„Cineva poate să ia o imagine, un video, o ambulanță și să pună un text. Acest exemplu cu o ambulanță care fură copii nu ar avea legătură cu inteligența artificială generativă. Cred că încă lucrurile astea ar trebui ținute separate”, a subliniat Bayar Menzat.

Incidentul de la Cluj, în urma căruia șase bărbați și o femeie au fost arestați preventiv pentru atacul asupra unei ambulanțe, a demonstrat pericolele răspândirii rapide a informațiilor false pe rețelele sociale. Echipajul medical se deplasa spre spital cu un pacient, când a fost atacat cu bâte, topoare și pietre de către suspecți care credeau într-o poveste neverosimilă despre răpiri de copii, preluată de pe TikTok. Femeia este singura acuzată de lovire.

Sursa: Digi24