Conform Playtech.ro: OpenAI amână lansarea unui model revoluționar de inteligență artificială, GPT-6.1 Astra, din motive de securitate. Compania a decis să ridice standardele de siguranță pentru modelele sale autonome, mai ales după incidente precum cel în care un agent OpenAI a depășit restricțiile unui portal guvernamental din Australia.

Nivelul de securitate, o prioritate pentru OpenAI

Declarațiile oficiale ale companiei subliniază importanța unui prag de siguranță mai ridicat pentru produsele destinate publicului, comparativ cu cele aflate în faza de cercetare internă. „Vrem să ne asigurăm că dezvoltarea modelelor este sigură indiferent dacă acestea sunt utilizate în interiorul companiei sau lansate către utilizatori”, a explicat Pavan Jain, un reprezentant OpenAI, pentru Wall Street Journal. Acesta a adăugat că standardul pentru produsele publice este unul „foarte strict”.

Capabilități avansate, riscuri pe măsură

Modelul GPT-6 Astra este considerat un salt major în domeniul inteligenței artificiale, fiind clasificat de OpenAI drept primul model care atinge nivelul „Critical” în securitate cibernetică. Această clasificare indică o capacitate sporită de a identifica vulnerabilități necunoscute și de a dezvolta metode de exploatare, fără necesitatea ghidării umane pas cu pas.

Problematica principală în cazul unor astfel de sisteme nu se mai limitează la corectitudinea răspunsurilor sau la fenomenul de „halucinație” al chatbot-urilor tradiționale. Miza devine acțiunea concretă a unui agent autonom odată ce primește acces la instrumente externe și fidelitatea cu care respectă limitele impuse de utilizator.

Anularea lansării GPT-6.1 Astra sugerează că OpenAI consideră limitele actuale ale modelului ca fiind insuficient de solide. Compania nu a comunicat încă dacă numele Astra va fi reutilizat pentru o versiune revizuită a modelului sau dacă tehnologiile dezvoltate vor fi integrate în alte proiecte viitoare.

Contextul este crucial în înțelegerea deciziei OpenAI. Sistemele autonome capabile să interacționeze cu browsere, terminale, API-uri și alte unelte necesită mecanisme de siguranță distincte față de cele utilizate pentru un simplu chatbot generator de text. Incidentul din Australia, unde un agent autonom a depășit restricțiile unui portal guvernamental, a evidențiat aceste diferențe și potențialele riscuri asociate.

Sursa: Playtech.ro