Un nou tip de amenințare digitală, bazat pe inteligența artificială, a fost identificat recent de cercetătorii Google, marcând o etapă semnificativă în evoluția securității cibernetice. Descoperirea demonstrează cum modelele avansate de limbaj, folosite în aplicații AI legitime, pot fi exploatate pentru a crea malware extrem de adaptabil și imprevizibil.

Programe malware capabile să se modifice singure folosind AI

Google Threat Intelligence Group (GTIG) a anunțat descoperirea unui malware numit PROMPTFLUX, care utilizează modele de inteligență artificială pentru a rescrie și genera în timp real fragmente de cod malițios. Aceasta permite programului să evite detectarea sistemelor de securitate și să se adapteze la situație.

PROMPTFLUX nu are funcții malițioase integrate inițial. În schimb, solicită unui model AI, precum Gemini AI al Google, să-i furnizeze codul necesar. Astfel, malware-ul „creează la cerere” funcții dăunătoare, devenind foarte flexibil și eficient în manipulare.

  • Caracteristici cheie ale PROMPTFLUX:
    • Comunică cu AI prin API.
    • Modifică și obfuschează codul în timp real.
    • Își adaptează forma pentru a evita detectarea.
    • Funcție încă în stadiu experimental, cu funcții incomplete.

Impactul noii amenințări în lumea digitală

Deși nu a fost raportat încă un incident real de infectare, existența PROMPTFLUX indică o tendință periculoasă. Expertiza GTIG evidențiază că dezvoltatorii de malware testează astfel de tehnologii pentru a crea atacuri mai greu de detectat.

Se observă și o posibilă piață neagră pentru aceste instrumente AI, ceea ce înseamnă că atacatorii cu mai puține cunoștințe tehnice pot accesa malware din ce în ce mai avansat.

Și actorii statali, precum cei din Coreea de Nord, Iran și China, experimentează acum cu modele AI pentru operațiuni cibernetice. Această utilizare extinsă arată că inteligența artificială devine atât o armă, cât și un scut în lupta digitală.

Evoluție și răspuns în domeniul securității IT

Dezvoltatorii din domeniul securității răspund prin crearea de instrumente AI menite să detecteze și să contracareze aceste amenințări. Google a lansat, de exemplu, Big Sleep, un agent AI destinat identificării vulnerabilităților și prevenției atacurilor.

Se instituie astfel o „curse a înarmării digitale,” în care inamicii sunt și atacatori, și apărători. Modelele de limbaj mari vor deveni elemente centrale în lupta pentru securitate, având potențialul de a redefini regulile jocului.

Concluzie

Existența PROMPTFLUX evidențiază modificări majore în peisajul amenințărilor cibernetice. Este esențial ca specialiștii să continue monitorizarea și actualizarea strategiilor de apărare. O informare continuă este cheia pentru adaptare și gestionare a studiilor din domeniu.