Yoshua Bengio, unul dintre pionierii sistemelor de învățare automată și laureat al premiului Turing, atrage atenția asupra direcției în care evoluează inteligența artificială (AI). În ultimii ani, progresul rapid al tehnologiilor de deep learning, în special implementarea modelelor precum ChatGPT, a revoluționat modul în care AI poate fi utilizată. Totodată, cercetătorul avertizează despre riscurile și vulnerabilitățile asociate acestor avansuri, evidențiind importanța reglementării și a măsurilor de siguranță pentru a preveni scenarii catastrofale.

După ce a contribuit la dezvoltarea tehnicilor de atenție și a studiilor despre „curriculum learning” care au permis apariția modelelor de limbaj sofisticate, Bengio a afirmat că momentul critic l-a constituit lansarea ChatGPT în 2022. De atunci, percepția sa s-a schimbat, iar preocupările legate de capacitatea acestor sisteme de a depăși controlul uman au crescut. Cercetătorul spune că dezvoltarea AI este însoțită de potențiale riscuri pentru siguranța globală și pentru stabilitatea societății.

Un raport internațional coordonat de Bengio și implicând 30 de țări și instituții globale evidențiază trei tipuri principale de risc. Acestea sunt malfuncțiile neintenționate, utilizarea malițioasă și efectele sistemice, precum pierderea locurilor de muncă. În plus, Bengio avertizează asupra amenințărilor grave legate de deepfake-uri, atacuri cibernetice automate și manipulare informațională, care pot avea consecințe devastatoare.

Principala teamă a cercetătorului este legată de scenariile în care AI suficient de avansată ar putea fi folosită pentru crearea de agenți patogeni sau manipularea sistemelor critice. În aceste condiții, riscurile pot deveni existențiale pentru întreaga umanitate. Pentru a contracara aceste pericole, Bengio a dezvoltat un concept de AI sigur, non-agentic, similar unui cercetător uman, capabil să observe și să analizeze fără a acționa independent.

El propune ca modelele de AI bazate pe predicție și analiză să funcționeze ca bariere de siguranță. Acestea ar putea anticipa consecințele acțiunilor, reducând astfel riscurile legate de utilizarea malițioasă sau de erori operaționale.

În ceea ce privește reglementarea și cooperarea internațională, Bengio consideră că acestea sunt cheie pentru gestionarea riscurilor emergente. Primul raport global privind siguranța AI, pe care l-a coordonat, servește drept fundament pentru strategii și politici menite să limiteze pericolele și să stabilească limite tehnologice clare.

Chiar dacă riscurile sunt semnificative, cercetătorul nu se declară pesimist. El indică faptul că avansul în domeniul siguranței AI și colaborarea internațională dau speranțe pentru o dezvoltare responsabilă a tehnologiei. Progresele recente în reglementare și în stabilirea unor standarde globale pot ajuta la valorificarea beneficiilor AI, evitând totodată scenariile catastrofale.

Conducătorii și comunitatea științifică trebuie să continue monitorizarea evoluției AI, promovând măsuri de siguranță și colaborări internaționale. În cele din urmă, responsabilitatea în gestionarea acestei tehnologii rămâne o datorie morală, pentru a asigura un viitor sigur pentru generațiile următoare.