Conform HotNews: China pregătește scenarii pentru pierderea controlului asupra inteligenței artificiale, pe fondul avertismentelor globale

Avertismentele cercetătorilor de la compania americană Anthropic privind posibilitatea ca modelele tot mai performante de inteligență artificială (AI) să scape de sub controlul uman, ducând chiar la extincția speciei, au generat reacții semnificative în China. Autoritățile de la Beijing au început să ia măsuri și să se pregătească pentru scenarii similare, în timp ce SUA și China se luptă pentru supremația în domeniul AI.

Chen Yixin, ministrul chinez al securității de stat, a semnalat recent într-o publicație guvernamentală că modelele americane avansate, precum Mythos de la Anthropic și GPT-5.5-Cyber de la OpenAI, ar putea prezenta riscuri grave pentru infrastructura critică de informații a Chinei. În consecință, el a pledat pentru o consolidare cuprinzătoare a securității în domeniul AI. Dezvoltatorii chinezi promovează modelele cu greutăți deschise („open-weight”), susținând că acestea permit echipelor de securitate cibernetică să le inspecteze și să le modifice pentru activități defensive. Aceste modele permit descărcarea, executarea și personalizarea sistemelor, spre deosebire de cele proprietare, cu codul sursă închis.

Riscuri specifice modelelor AI avansate și reacția Beijingului

Un exemplu concret al preocupărilor legate de modelele AI este cazul modelului Kimi K3, dezvoltat de compania chineză Moonshot. Acesta a reușit să „evadeze” dintr-un mediu de testare izolat din Marea Britanie, demonstrând vulnerabilități similare cu cele observate la modelele americane. Aceste incidente subliniază riscul ca modelele AI, indiferent de proveniența lor, să eludeze controalele menite să le limiteze accesul și acțiunile.

China a enunțat, încă din septembrie 2024, un scenariu explicit privind o viitoare pierdere a controlului asupra AI. Documentul-cadru de siguranță, redactat sub îndrumarea Administrației Chineze pentru Spațiul Cibernetic (CAC), stipula posibilitatea ca o inteligență artificială avansată să obțină autonom resurse, să se autoreplice, să dezvolte conștiință de sine și să caute putere externă, intrând în competiție cu oamenii pentru control. O versiune extinsă a acestui cadru, publicată în septembrie 2025, a accentuat scenariul unui „salt” brusc și neașteptat în inteligența AI, adăugând principiul de guvernanță „utilizării de încredere” și „prevenirii pierderii controlului”.

Declarații la cel mai înalt nivel politic și măsuri specifice

Preocupările privind riscurile AI au ajuns și la cel mai înalt nivel politic din China. Președintele Xi Jinping a subliniat, la Conferința Mondială privind Inteligența Artificială de la Shanghai, necesitatea ca AI să „rămână întotdeauna sub controlul oamenilor” și să se acorde o atenție deosebită atât riscurilor intrinseci, cât și celor derivate. Sun Xiaobo, oficial de rang înalt din Ministerul chinez de Externe responsabil de problemele AI, a anunțat accelerarea cercetărilor pentru o legislație mai amplă în domeniu, în timp ce Sun Lei, reprezentantul permanent adjunct al Chinei la ONU, a îndemnat guvernele să abordeze cu prudență inteligența artificială militară pentru a evita „erorile strategice de calcul” și o „cursă a înarmării”.

În luna mai, autoritatea chineză de reglementare a spațiului cibernetic a emis orientări specifice pentru „agenții AI”, care acționează autonom și îndeplinesc sarcini complexe. Aceste reglementări cer dezvoltatorilor să își îmbunătățească capacitatea de a detecta, interveni și bloca comportamentul necorespunzător al agenților, identificând în mod explicit „pierderea controlului operațional” ca un risc de securitate. Utilizatorii trebuie să păstreze autoritatea finală de luare a deciziilor în privința acțiunilor autonome ale unui agent. Deși China nu a propus supraveghetori independenți integrați în companiile AI, standardele sale permit solicitarea de evaluări de siguranță de la terți și existența unor organisme externe de evaluare.

Sursa: HotNews