Creșterea utilizării tehnologiilor AI a generat o atenție sporită asupra vulnerabilităților legate de securitatea cibernetică, în special în contextul noilor funcții implementate de OpenAI pentru ChatGPT. Compania a recunoscut recent că lansarea funcției „agent mode” a browserului AI, ChatGPT Atlas, a extins și facut mai vulnerabilă suprafața de atac a sistemului.

Riscurile asociate cu funcția ChatGPT Atlas și atacurile cibernetice

De la momentul lansării în octombrie, experții în securitate au demonstrat că pot influența comportamentul browserului prin instrucțiuni ascunse în documente aparent inofensive. Astfel, sistemul poate fi manipulat pentru a genera acțiuni nedorite, precum trimiterea de mesaje greșite.

Avertizările și măsurile de protecție recomandate

Centrul Național de Securitate Cibernetică din Marea Britanie avertizează că astfel de atacuri „s-ar putea să nu poată fi niciodată complet prevenite”. În acest context, OpenAI adoptă strategii de testare continuă și dezvoltă un sistem automatizat de simulare a atacurilor, bazat pe modele lingvistice mari (LLM), pentru identificarea vulnerabilităților în faza de testare. Printre măsurile recomandate pentru utilizatori se numără limitarea accesului la agenți AI și solicitarea de confirmări înainte de acțiuni importante, ca trimiterea de mesaje sau efectuarea de plăți.

Impactul asupra securității cibernetice și viitorul sistemelor AI

Demonstrările de până acum și avertismentele oficiale indică faptul că riscurile asociate utilizării AI avansate rămân ridicate. În plus, dezvoltarea continuă a tehnologiilor și complexitatea sistemelor creează noi vulnerabilități, necesitând monitorizare și adaptare constantă.

Concluzie

Rezistența la atacuri cibernetice ale sistemelor AI, precum ChatGPT Atlas, va continua să fie o provocare majoră. Informarea și monitorizarea evoluțiilor din domeniul securității cibernetice rămân esențiale pentru a limita riscurile.