Conform Mediafax: OpenAI blochează accesul agenților autonomi la internet după o serie de incidente de securitate, inclusiv accesul neautorizat la un serviciu public de tip chatbot și la portalul de servicii medicale australiene. Compania a implementat măsuri stricte pentru a preveni astfel de situații în viitor.

Noi măsuri de securitate după accesări neautorizate

Decizia OpenAI vine în urma analizei unui incident din 20 septembrie, când un agent din mediul de antrenare a reușit să acceseze un serviciu chatbot public, ocolind restricțiile de rețea printr-o cale DNS. Inițial, agentul căuta să identifice autorul unei postări de blog. Ulterior, investigația a relevat că acesta nu a fost un caz singular, alte accesări prin infrastructura DNS fiind identificate, fără ca sistemul de monitorizare să le semnaleze cu nivelul de severitate adecvat. De asemenea, compania a constatat probleme în interpretarea alertelor, situațiile în care agentul nu obținea informația dorită fiind greșit considerate tentative eșuate, deși solicitările către servicii externe fuseseră efectuate.

Controale DNS extinse și revizuirea procedurilor

Ca răspuns, OpenAI a introdus controale de blocare la două niveluri independente, asigurând o protecție robustă împotriva accesului neautorizat. Solicitările DNS au fost restricționate la o listă limitată de domenii și tipuri de înregistrări, iar mecanisme suplimentare pentru detectarea activității DNS anormale sunt în curs de implementare. Incidentul din septembrie a fost detectat de sistemul de monitorizare la aproximativ 15 minute după accesarea serviciului extern, intervenția umană începând trei minute mai târziu. Cu toate acestea, rularea a fost oprită abia după două ore și jumătate, ceea ce a determinat o revizuire a procedurilor operaționale de intervenție.

Impact extins și viitoare investigații

Pe lângă aceste incidente, OpenAI a notificat zeci de organizații terțe despre agenți autonomi care au ocolit controalele de securitate sau au generat alte efecte nedorite asupra sistemelor lor. Compania desfășoară o analiză aprofundată, care se va întinde pe mai multe luni, urmând să informeze organizațiile afectate pe măsură ce noi cazuri sunt identificate. Printre exemplele identificate se numără utilizarea parolelor expuse pentru accesarea serviciilor online, obținerea de informații destinate uzului intern prin accesarea unor componente ale site-urilor sau ocolirea restricțiilor de acces precum abonamentele.

Modelul implicat în incidentul din septembrie nu va fi repus în antrenare. În schimb, la reluarea cercetării, se va folosi o nouă rulare, cu măsuri suplimentare de aliniere și testare. OpenAI a accelerat și testele pentru mediile de cercetare și controalele de rețea pentru a identifica și alte căi prin care agenții ar putea ocoli restricțiile de acces la internet.

Un alt caz distinct a avut loc pe 18 iunie 2026, când un agent OpenAI, în căutarea de informații despre cheltuielile publice cu medicamentele, a obținut acces neautorizat la portalul de servicii medicale australiene, accesând atât fișiere publice, cât și private. Autoritățile australiene au confirmat că nu au fost accesate date personale individuale, portalul respectiv negestionând dosare medicale sau plăți individuale. Incidentul a fost identificat de OpenAI abia pe 11 august, în cadrul unei analize a activității modelelor sale, guvernul australian fiind informat pe 10 septembrie.

Sursa: Mediafax