Conform Playtech.ro: Sistem de marcaje invizibile pentru conținutul generat de Inteligența Artificială

Compania de inteligență artificială Anthropic introduce o nouă tehnologie menită să marcheze invizibil textele și imaginile create de modelele sale. Noul sistem, numit „watermark”, va insera semnale ascunse în conținut, permițând sistemelor informatice să identifice sursa acestuia, chiar dacă pentru ochiul uman modificările sunt imperceptibile. Această măsură vine în contextul preocupărilor tot mai mari legate de autenticitatea conținutului digital și potențialul de dezinformare.

Cum vor fi marcate textele și imaginile

În cazul textelor, marcajul nu va consta într-un logo sau text vizibil, ci în modificări subtile ale modului în care caracterele și cuvintele sunt construite. Acestea pot include variații minuscule în spațiere, succesiunea unor elemente specifice sau alte caracteristici greu de detectat vizual. Ideea principală este ca un sistem automatizat să poată identifica aceste „amprente” digitale, chiar și după ce textul a fost copiat și lipit în diverse aplicații, precum Notepad sau TextEdit.

Schimbarea se aplică tuturor modelelor Claude lansate începând cu data de 2 august 2026 și nu este restricționată la un singur serviciu. Marcajul este integrat la nivelul modelului de inteligență artificială, ceea ce înseamnă că va apărea indiferent dacă conținutul este generat prin intermediul platformelor Claude, API, Claude Code, Claude Cowork sau a altor produse care utilizează tehnologia companiei.

Pentru fișierele de tip imagine, procesul este diferit, dar cu același scop de a oferi un indicator al provenienței. Fișierele generate, inclusiv cele în formate precum SVG, PNG și JPG, vor putea conține metadate semnate criptografic. Aceste metadate vor furniza informații despre originea imaginii, creatorul acesteia și eventualele modificări ulterioare. Un aspect crucial al acestui sistem este că, dacă cineva încearcă să altereze aceste metadate pentru a ascunde faptul că imaginea a fost creată cu ajutorul inteligenței artificiale, semnătura criptografică nu va mai corespunde, semnalând astfel o posibilă manipulare.

Această funcționalitate este considerată utilă în special în contextul răspândirii rapide a imaginilor pe internet, unde pot fi preluate și redistribuite de multiple persoane. În loc să se bazeze exclusiv pe detectoare care încearcă să ghicească dacă o imagine este artificială, se va putea recurge la un indicator tehnic direct legat de proveniența fișierului.

Anthropic a anunțat că va publica informații suplimentare despre modul exact în care vor putea fi detectate aceste marcaje în viitor, deoarece, deocamdată, nu toate detaliile tehnice au fost dezvăluite publicului. Această inițiativă subliniază eforturile industriei de a naviga complexitățile etice și practice ale conținutului generat de inteligența artificială.

Sursa: Playtech.ro