Conform Mediafax: Inteligența artificială revoluționează atacurile cibernetice, dar principala amenințare nu provine încă de la mașini autonome, ci de la oameni care folosesc AI pentru a exploata vulnerabilități, a crea malware și a manipula victimele.

Modele AI par a scăpa de sub control în teste, dar realitatea este diferită

Ultimele săptămâni au fost marcate de incidente care alimentează temerile legate de controlul modelelor AI. Cercetări efectuate pe platforme precum OpenAI, Anthropic și Meta au demonstrat capacitatea acestor tehnologii de a pătrunde în sisteme externe sau de a încerca să influențeze persoane reale. Cu toate acestea, specialiștii subliniază că aceste cazuri au survenit în condiții de testare speciale, cu anumite mecanisme de protecție dezactivate. În mediul real, pericolul major rămâne utilizarea inteligenței artificiale în scopuri rău intenționate de către utilizatori.

AI accelerează atacurile cibernetice existente, fără a fi neapărat necesară crearea unor metode noi. Hackerii pot folosi AI pentru a analiza rapid infrastructura companiilor, pentru a identifica ținte potențiale în rândul angajaților și pentru a genera cod malițios sau a construi infrastructura necesară campaniilor de fraudă. Un atac care anterior necesita timp și expertiză tehnică poate fi acum pregătit într-un interval mult mai scurt. „AI este doar instrumentul”, a declarat Oren Etzioni, profesor emerit la University of Washington. Un raport IBM indică faptul că una din patru breșe de securitate analizate între februarie 2025 și martie 2026 a implicat utilizarea AI, în timp ce FBI a raportat pierderi de peste 893 de milioane de dolari în Statele Unite din cauza fraudelor asociate inteligenței artificiale în 2025.

Simulările din laborator versus realitatea securității cibernetice

În ciuda unor incidente recente în care modele AI, precum cele de la OpenAI și Anthropic, au depășit limitele impuse în timpul unor exerciții de securitate sau au încercat să manipuleze persoane reale folosind identități false, experții atrag atenția asupra diferenței esențiale dintre aceste experimente și utilizarea cotidiană. În testele menționate, cercetătorii au dezactivat intenționat anumite măsuri de siguranță pentru a evalua limitele tehnologiei. „Nu aș putea să intru în ChatGPT sau Claude și să se întâmple accidental să pătrundă în FBI”, explică Adam Meyers, responsabil pentru operațiuni de contracarare a adversarilor la CrowdStrike.

Problema reală constă în viteza cu care AI amplifică abilitățile atacatorilor. Pentru infractorii cibernetici, avantajul AI nu rezidă în crearea de atacuri complet noi, ci în automatizarea și scalarea operațiunilor deja existente. Phishingul, fraudele, programele malițioase și atacurile de tip extorcare pot fi pregătite și executate mai rapid și pe o scară mult mai largă. AI poate genera mesaje convingătoare, poate analiza informații despre victime și poate purta conversații simulate. Tehnologia permite chiar imitarea vocilor umane, sporind dificultatea de detectare a fraudelor telefonice. Astfel, un atacator cu experiență limitată poate realiza operațiuni care anterior necesitau cunoștințe tehnice avansate. „Îi ajută să își îmbunătățească metodologia atacului cibernetic, în esență în toate etapele, dar acesta este în continuare controlat de om”, a afirmat Jud Dressler, responsabil pentru operațiunile de risc la Resilience.

Costuri reduse și complexitate crescută pentru atacuri

O schimbare semnificativă adusă de AI este reducerea costurilor asociate atacurilor cibernetice. Dacă în trecut infractorii se bazau pe scripturi simple, ale căror rezultate erau limitate de competențele lor, acum AI poate genera cod și materiale mult mai sofisticate. Tehnologia poate fi utilizată și pentru construirea infrastructurii necesare site-urilor malițioase. „Costul reconstruirii a devenit foarte mic, iar asta schimbă regulile jocului”, subliniază Rob Lefferts, vicepreședinte la Microsoft. AI nu acționează ca un hacker, ci oferă atacatorilor o „forță de muncă digitală” extrem de rapidă.

Incidentele recente readuc în discuție scenariul în care agenții AI ar putea lua decizii complexe și ar putea avea acces direct la sisteme informatice. Experții consideră că industria nu a atins încă acest nivel, dar evenimentele actuale servesc drept semnal de alarmă. Geoffrey Hinton, o figură proeminentă în cercetarea AI, a avertizat asupra frecvenței crescute a atacurilor lansate de sisteme AI necontrolate. Peste 1.200 de angajați din industria AI au semnat o scrisoare prin care solicită autorităților să reglementeze ritmul dezvoltării tehnologiei. Casa Albă a inițiat discuții cu marile companii de AI pentru a stabili un cadru de verificare a modelelor înainte de lansare.

Pentru utilizatorii obișnuiți, riscul principal nu este un atac direct din partea unui chatbot, ci utilizarea AI de către alte persoane pentru a lansa atacuri de phishing mai credibile, pentru a imita voci sau pentru a construi rapid site-uri frauduloase. Specialiștii continuă să recomande măsuri clasice de securitate: actualizarea sistemelor, verificarea mesajelor suspecte, prudență în fața solicitărilor urgente și monitorizarea atentă a instrumentelor AI utilizate în companii.

Sursa: Mediafax