Un incident șocant petrecut recent într-un supermarket din Londra aduce în prim-plan riscurile și controversatele riscuri ale folosirii tehnologiilor de recunoaștere facială în spațiile publice. În centrul poveștii se află Warren Rajah, un bărbat de 42 de ani, a cărui experiență reversibilă a devenit subiect de dezbatere privind etica și legalitatea aplicării inteligenței artificiale în domeniul comerțului și al siguranței publice.

Recunoașterea facială și confuzia care a trecut granița în dreptate

Dalul dintre noii aliați în lupta împotriva infracțiunilor și instrumente care pot deveni arme ale abuzului reprezintă o problemă mai complexă decât pare la prima vedere. În cazul lui Warren Rajah, tehnologia de recunoaștere facială, operată de compania Facewatch și folosită de supermarketul Sainsbury’s, a eșuat lamentabil. Sistemele susțin că ating o acuratețe de 99,98%, însă cazul lui Rajah arată că aceste cifre sunt mai degrabă o iluzie. În realitate, bazele de date conțin atât persoane inculpate, cât și indivizi semnalați de comercianți, fără dovezi clare sau hotărâri judecătorești.

Când Rajah a fost identificat greșit, personalul magazinului i-a cerut să părăsească locația, escortându-l afară în văzul tuturor. În fața câtorva ochi curioși, el a fost tratat ca un infractor, fără explicații clare, și trimis la ieșire după ce a arătat doar cardul de fidelitate, fiind nevoite să prezinte o fotografie și copie de pașaport pentru a demonstra faptul că nu are antecedente penale. “De ce trebuie eu să demonstrez că sunt nevinovat?”, a fost reacția sa, subliniind sensibilitatea și necunoașterea legilor legate de dreptul la confidențialitate în fața unor tehnologii de ultimă oră.

O demonstrație de tehnologie în stadiu de testare, cu victime reale

Facewatch, compania responsabilă de sistem, susține că tehnologia lor are o rată de succes de 99,98% în identificarea infractorilor, însă această afirmație nu face decât să ridice semne de întrebare în condițiile în care baza de date include și persoane semnalate de comercianți, nu neapărat condamnați oficial. În plus, procedura pentru a șterge o persoană din sistemul de recunoaștere facială presupune prezentarea unei fotografii și a unei copii de pașaport, dându-se astfel impresia unei invazii grave în viața privată a consumatorilor.

Ce face această situație și mai alarmantă este faptul că tehnologia, deși promite să fie aproape infailibilă, permite greșeli și poate condamna pe nedrept persoane nevinovate, în special în lipsa unor reguli clare și a unei supravegheri stricte. Oricare dintre aceste situații ar putea deveni o bază pentru abuzuri, cum ar fi discriminarea, hărțuirea sau chiar excluderea socială, toate având ca bază o identificare eronată sau parțială.

Scuze oficiale și întrebări fără răspuns în spatele crizei

Ulterior incidentului, lanțul supermarketurilor și compania Facewatch au lansat explicații, menționând că nu a fost vorba despre o eșuare a tehnologiei, ci despre o „eroare umană”. În ciuda scuzelor și a ofertei unui voucher de 75 de lire sterline, mulți specialiști și cetățeni sunt nemulțumiți de abordarea superficială și de lipsa unor reglementări clare în utilizarea acestor tehnologii.

Cazul lui Warren Rajah devine astfel un exemplu elocvent în contextul uneia dintre cele mai rapide expandări ale recunoașterii faciale în Regatul Unit, unde poliția și comercianții încep să integreze aceste sisteme tot mai mult în viața de zi cu zi. În ciuda promisiunilor de mai multă siguranță, criza de încredere și riscurile legate de erorile de identificare agravează necesitatea unei reflecții profunde asupra limitărilor și a responsabilității celor care implementează astfel de tehnologii.

Pe măsură ce discuțiile continuă, este clar că, în momentul de față, legislația și controalele de etică din domeniul inteligenței artificiale par să fie cu mult în urma rapidității de adoptare a acestor instrumente. Cazuri precum cel al lui Warren Rajah nu doar că aduc în discuție riscurile la nivel individual, ci semnalează și o nevoie urgentă de reguli clare, menite să garanteze protecția drepturilor cetățenilor într-o lume dominată tot mai mult de algoritmi și sisteme automate.