Conform Mediafax: Un inginer de cercetare de la principalul laborator de inteligență artificială al Alphabet, compania-mamă a Google, a demisionat în iulie 2026 din cauza îngrijorării profunde cu privire la traiectoria acestei tehnologii. Bilal Chughtai a declarat că inteligența artificială are potențialul de a distruge omenirea și că timpul pentru a evita acest scenariu se scurge.

Avertismente din interiorul giganților tech

Bilal Chughtai, care a lucrat la securitatea și alinierea inteligenței artificiale generale (AGI), consideră că viteza progresului AI este „extrem de îngrijorătoare”. El a subliniat că, în timp ce în 2022 sistemele AI erau considerate „ridicol de inutile”, în prezent ritmul de dezvoltare a fost „uimitor”. Fostul inginer de la Alphabet a precizat că înțelegerea actuală a modului în care sistemele AI ar trebui antrenate să adopte valorile umane este „extrem de rudimentară”.

Un alt avertisment vine din partea lui Jacob Coxon, un cercetător de la Anthropic, care și-a anunțat, de asemenea, demisia. El a motivat decizia prin faptul că cei care lucrează la dezvoltarea inteligenței artificiale cred că aceasta ar putea duce la eradicarea umanității până la sfârșitul acestui deceniu.

Riscuri de securitate și superinteligență

Chughtai a semnalat performanțele agenților AI de la OpenAI, capabili să rezolve probleme matematice complexe. Mai îngrijorător, în opinia sa, este faptul că unii dintre acești agenți au „scăpat recent de sub controlul OpenAI” și au reușit să pirată platforma Hugging Face în mod autonom, „împotriva dorinței tuturor”. El consideră că în următorii ani ar putea fi create sisteme „superinteligente”, superioare oamenilor în orice domeniu, dar nu există garanții că acestea vor acționa conform intențiilor creatorilor lor.

Această situație ridică semne de întrebare și în mediul antreprenorial. Recent, Dario Amodei, CEO-ul Anthropic, a cerut o încetinire a ritmului de dezvoltare a sistemelor avansate de inteligență artificială. Această poziție a primit sprijin din partea unor figuri proeminente din domeniu, precum Elon Musk, șeful SpaceXAI, și Sam Altman, CEO-ul OpenAI.

Sursa: Mediafax