Conform Mediafax: Geoffrey Hinton, unul dintre părinții fondatori ai inteligenței artificiale (AI), lansează un avertisment serios cu privire la viitorul tehnologiei pe care a ajutat-o să se dezvolte. Într-un interviu acordat publicației The Guardian, Hinton, un pionier în domeniul rețelelor neuronale artificiale, recunoaște potențialul AI de a crea un „viitor minunat”, dar nu se ferește să exprime și temeri profunde.

Avertismentul unui „naș” AI

Hinton afirmă că, deși nu se consideră un „pesimist” în ceea ce privește AI, există posibilitatea ca omenirea să fi fost „mai bine dacă nu am fi dezvoltat-o niciodată”. El estimează că, în următorul deceniu, umanitatea va decide dacă este capabilă să gestioneze riscurile inerente acestei tehnologii. Eșecul în acest sens ar putea duce la „un decalaj uriaș între bogați și săraci, probleme culturale enorme, șomaj masiv, pur și simplu o societate sfâșiată”, avertizează cercetătorul.

Critici la adresa liderilor din industria AI

Hinton nu ezită să critice atitudinea unor figuri proeminente din industria AI. El susține că lideri precum Mark Zuckerberg, Elon Musk și Sam Altman sunt conștienți de riscuri, dar prioritizarea profitului primează în cursa pentru inovație. „Cred că [Mark] Zuckerberg, [Elon] Musk și Sam Altman înțeleg riscurile, dar nu le pasă deloc. Preferă să aibă banii. Asta este convingerea mea”, declară Hinton pentru The Guardian.

Similitudini cu dezastre nucleare

Cercetătorul compară incidentele recente, precum atacurile cibernetice orchestrate de agenți autonomi AI ai OpenAI împotriva Hugging Face, cu accidentul nuclear parțial din 1979 de la Three Mile Island. El anticipează că, fie la sfârșitul acestui an, fie în 2025, ar putea avea loc un eveniment similar unui „Cernobîl” al AI, care să forțeze omenirea să acorde o atenție sporită riscurilor. Un astfel de scenariu nu ar fi neapărat un incident nuclear, ci ar putea implica un atac cibernetic bazat pe AI care să provoace „o cădere masivă a tensiunii” în sistemul energetic sau o paralizie a sistemului financiar pe termen lung. Hinton subliniază că, deși umanitatea s-ar putea recupera, un astfel de eveniment ar fi suficient pentru a „să se trezească la realitate și să ia aminte”.

Apeluri pentru o abordare prudentă

Declarațiile lui Geoffrey Hinton survin într-un context marcat de multiple apeluri la prudență în dezvoltarea AI. Luna trecută, Dario Amodei, directorul general al companiei Anthropic, a propus industriei să „încetinească ritmul” de îmbunătățire a capacităților modelelor AI. El a prezentat un plan în trei etape, angajându-se ca firma sa să implementeze unilateral prima măsură. Amodei a subliniat că, dacă nu este controlată, AI ar putea depăși capacitatea umană de înțelegere și control.

La scurt timp după apelul lui Amodei, un fost angajat Google DeepMind a publicat un avertisment pe platforma X (fost Twitter), afirmând că inteligența artificială are potențialul de a „ne ucide pe toți” și că „s-ar putea să rămânem fără timp pentru a evita acest scenariu”.

Sursa: Mediafax