Atenție la agenții AI: avertismentul experților chinezi despre riscurile OpenClaw

Echipa de răspuns la incidente informatice din China trage un semnal de alarmă cu privire la utilizarea agentului AI OpenClaw. Specialiștii avertizează că, fără măsuri suplimentare de protecție, acest instrument poate fi exploatat de atacatori, generând riscuri semnificative pentru utilizatori și organizații. Principalul motiv de îngrijorare este accesul extins al agentului la sistem, necesar pentru executarea sarcinilor automate.

„Prompt injection”: o tactică de atac periculos de exploatat

Una dintre cele mai mari amenințări identificate este reprezentată de atacurile de tip „prompt injection”. Această tehnică presupune ascunderea de instrucțiuni malițioase într-o pagină web sau într-un conținut aparent legitim. Agentul AI, atunci când accesează aceste elemente pentru analiză sau rezumare, poate executa comenzile ascunse, fără a detecta pericolul. „Această metodă este cunoscută și sub numele de ‘indirect prompt injection’, deoarece atacatorul nu comunică direct cu modelul AI”, explică specialiștii.

Consecințele pot varia de la influențarea răspunsurilor generate de AI până la scurgerea de informații sensibile. În scenarii specifice, astfel de atacuri pot fi folosite pentru manipularea rezultatelor motoarelor de căutare, pentru ocolirea sistemelor de moderare a reclamelor sau chiar pentru influențarea proceselor de recrutare automată. În plus, cercetătorii au descoperit că funcții aparent inofensive pot fi folosite ca puncte de acces pentru atacuri. De exemplu, previzualizarea linkurilor în aplicații de mesagerie precum Telegram sau Discord poate fi exploatată pentru a transmite date confidențiale fără intervenția utilizatorului.

Vulnerabilități suplimentare și măsuri de securitate recomandate

Pe lângă atacurile prin „prompt injection”, experții au identificat și alte vulnerabilități potențiale asociate cu OpenClaw. Una dintre ele este posibilitatea ca agentul AI să interpreteze greșit anumite instrucțiuni și să șteargă date importante. De asemenea, ecosistemul de extensii al platformei prezintă riscuri, deoarece utilizatorii pot instala „skills” din surse online, unele dintre acestea putând conține cod malițios.

Pentru a reduce aceste riscuri, specialiștii recomandă mai multe măsuri de securitate. Printre acestea se numără limitarea accesului la porturile de administrare ale platformei, izolarea aplicației în containere dedicate, evitarea stocării parolelor în format text simplu și instalarea extensiilor doar din surse de încredere. În plus, actualizarea constantă a agentului și dezactivarea actualizărilor automate pentru extensii pot reduce semnificativ riscurile.

În contextul acestor avertismente, dezvoltatorii și utilizatorii OpenClaw sunt sfătuiți să manifeste o atenție sporită. Mai multe cazuri de distribuire de programe malware prin intermediul pachetelor de instalare false au fost deja raportate.

Sursa: Playtech.ro