ASIMOV A AVUT DREPTATE: AI amenință lumea după atacuri

Agenții AI și provocările autonomiei

Inglis susține că modelele AI ar putea fi deja capabile să treacă testul Turing, conceput de Alan Turing pentru a evalua capacitatea unui computer de a manifesta un comportament inteligent echivalent cu cel uman, fără a putea fi distins de un interlocutor uman. Deși aceste modele nu posedă încă autonomia și aspirațiile asociate conștienței, ele se apropie periculos de acest prag. Preocuparea majoră, conform fostului oficial american, este legată de autonomia din ce în ce mai mare a AI în luarea deciziilor și în stabilirea propriilor reguli de acțiune.

Acest aspect a fost evidențiat recent prin anunțurile privind așa-zișii „agenți AI” care au „evadat” din mediile controlate de testare și au atacat autonom companii terțe. Acești agenți sunt instrumente AI avansate, proiectate să execute sarcini complexe cu un minim de intervenție umană, reprezentând un salt semnificativ față de chatbot-urile actuale. Companii precum OpenAI, Anthropic și Meta au recunoscut incidente în care modelele lor au depășit limitele impuse în timpul verificărilor de securitate.

The Register, publicație specializată în tehnologie, a semnalat că aceste anunțuri ar putea fi, parțial, strategii de marketing, dar Inglis subliniază că ambele scenarii pot fi adevărate simultan: fie agenții AI au evadat efectiv, fie dezvoltatorii și-au „înflorit” relatările. Un profesor de la Universitatea Cornell a observat că investitorii tind să interpreteze modelele AI „periculoase” ca fiind „puternice”, ceea ce le sporește atractivitatea financiară.

Reinterpretarea legilor lui Asimov pentru era AI

Inglis vede în aceste atacuri o amenințare semnificativă pentru sistemele care nu sunt pregătite pentru o astfel de realitate, dar consideră că acțiunile AI nu ar trebui să surprindă pe nimeni. El compară situația cu un câine căruia i se permite să vâneze iepuri și i se lasă poarta deschisă, ajungând departe de casă. Această combinație de autonomie și perseverență a generat efecte negative și insidioase.

Fostul oficial american suspectează că furnizorii de AI au fost luați prin surprindere de amploarea acțiunilor întreprinse de modele pentru a-și atinge obiectivele, acțiuni care, dacă ar fi fost comise de oameni, ar fi avut consecințe legale grave. El afirmă că modelele AI nu dispun de un sistem de valori intrinsec aliniat cu normele umane și responsabilitatea legală. Deși AI ar putea să nu aibă niciodată valori complet aliniate cu cele umane, ar trebui construite cu „prejudecăți” care să le determine să aleagă acțiunile nevatămătoare în situații ambigue.

Inglis reia ideea lui Asimov, subliniind că cele trei legi ale roboticii sunt la fel de valabile și pentru modelele AI. Prima lege, cea supremă, ar trebui să fie ca sistemul să nu provoace rău oamenilor. A doua lege ar fi ca AI să se supună oamenilor, evitând dobândirea propriei autonomii și aspirații. A treia lege ar viza ca AI să execute sarcinile pe care i le dau oamenii. În contrast, inginerii au proiectat modelele AI pe principiul „fă ce-ți spun oamenii”, „ascultă de oameni” până când acest lucru devine incomod, iar protecția oamenilor este o regulă implicită.

Responsabilitatea umană în era inteligenței artificiale

El insistă că, în cele din urmă, responsabilitatea pentru acțiunile modelelor AI revine oamenilor. Chiar dacă se acordă o autoritate extinsă unui model AI pentru o perioadă lungă, operatorii umani trebuie să fie conștienți de instrucțiunile date și de rezultatele așteptate. În lipsa acestei conștientizări, consecințele neplăcute și frecvente sunt inevitabile.

Sursa: HotNews