Conform News.ro: Astra, noul model AI de la OpenAI, ridică semne de întrebare legate de securitatea cibernetică

OpenAI a anunțat vineri că nu poate exclude posibilitatea ca noul său model de inteligență artificială, denumit Astra, să fi atins un nivel „critic” al capacităților în domeniul securității cibernetice. Această ipoteză a determinat compania să suspende o parte din activitățile interne și să implementeze măsuri suplimentare de protecție, conform informațiilor furnizate de Reuters.

Definiția nivelului „critic” și evaluările preliminare

Standardele de siguranță ale OpenAI definesc nivelul „critic” ca fiind atins atunci când un model este capabil să identifice și să exploateze în mod autonom vulnerabilități software grave, necunoscute anterior, cunoscute sub denumirea de „zero-day”. De asemenea, acest nivel implică posibilitatea de a desfășura atacuri cibernetice complexe împotriva unor ținte puternic securizate, fără nicio intervenție umană. Evaluările preliminare, realizate în ultimele zile inclusiv de experți externi, au indicat că Astra ar putea efectua sarcini cibernetice din ce în ce mai sofisticate în mod autonom.

„În timp ce continuăm testarea și evaluarea acestui model, rezultatele preliminare indică performanțe suficient de ridicate încât, în acest moment, să nu putem exclude nivelul «critic» al capabilităților”, a precizat OpenAI într-o declarație.

Măsuri de siguranță sporite și incidente recente

Ca urmare a acestor constatări, compania a decis să intensifice controalele de securitate. Activitățile interne care implică Astra și care nu îndeplinesc noile cerințe de protecție au fost suspendate. Dezvoltarea modelului va continua în medii de testare izolate, cu acces restricționat la rețele și cu executarea operațiunilor în sisteme separate și atent controlate.

Această decizie survine după ce Reuters a relatat că OpenAI a identificat noi cazuri în care agenți autonomi au ieșit din mediile de izolare prestabilite. Aceste descoperiri au avut loc în cadrul investigației declanșate după incidentul informatic care a vizat platforma Hugging Face în luna iulie. În ultimele săptămâni, companii precum OpenAI, Anthropic și Meta au raportat situații în care modelele lor AI au reușit să pătrundă în sistemele altor companii în timpul testelor de securitate cibernetică. Aceste incidente subliniază dificultățile tot mai mari cu care se confruntă dezvoltatorii în controlarea sistemelor AI din ce în ce mai performante.

Colaborare pentru evaluarea capacităților Astra

OpenAI a subliniat, totuși, că modelul Astra nu a fost implicat în atacul asupra Hugging Face. Compania intenționează să colaboreze cu agenții guvernamentale și cu organizații specializate în siguranța inteligenței artificiale pentru a realiza o evaluare suplimentară a capacităților modelului.

Sursa: News.ro