Conform HotNews: Noul AI ne slăbește instinctul de a spune „nu știu”, ne avertizează cercetătorii

Accesul simplu la un chatbot inteligență artificială (AI) poate diminua capacitatea umană de a recunoaște când nu deține informația necesară, un studiu recent sugerând că oamenii devin mai puțin capabili să își evalueze propriile cunoștințe, dar în același timp mai încrezători în răspunsurile greșite. Această meta-cogniție, esențială pentru evitarea concluziilor eronate, pare să fie afectată de interacțiunea cu sistemele AI.

Confuzia dintre aparență și realitate

Cercetători de la Universitatea Milano-Bicocca, Ecole Normale Superieure și Universitatea Sapienza au condus o serie de cinci experimente la care au participat peste 3.000 de persoane. Scopul studiului a fost să înțeleagă cum interacțiunea cu un AI modifică pragul decizional al indivizilor în a răspunde la întrebări. Participanții au fost expuși unor întrebări complexe, cu informații vizuale specifice din filme, domenii în care modelele lingvistice AI sunt predispuse la „halucinații”, adică la generarea de informații incorecte, dar prezentate convingător.

Într-o primă etapă, fără acces la AI, aproximativ 44% dintre participanți au ales să spună „nu știu” la întrebările dificile. Când au avut însă la dispoziție un chatbot AI, care în mod intenționat a fost programat să greșească aproape constant, procentul celor care au preferat să recunoască lipsa cunoștințelor a scăzut dramatic la doar 3%. Această schimbare a fost însoțită de o prăbușire a acurateței răspunsurilor. Mai mult, încrederea participanților în propriile judecăți aproape s-a dublat, demonstrând o percepție distorsionată a propriei competențe.

Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și unul dintre autorii studiului, a explicat: „Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”. Acest rezultat subliniază cum aparența de siguranță a răspunsurilor AI, generată de fluența și coerența acestora, poate fi confundată cu veridicitatea informației.

Impactul asupra meta-cogniției

Majoritatea cercetărilor anterioare despre efectele chatboturilor AI s-au axat pe externalizarea efortului cognitiv sau pe riscul pierderii unor competențe pe termen lung. Noul studiu, însă, aduce în discuție impactul AI asupra meta-cogniției, capacitatea de a evalua propriile cunoștințe și de a distinge între „știu”, „cred că știu” și „nu știu”. Lipsa acestei abilități ne face mai vulnerabili la erori și la formularea unor concluzii pripite, riscând să „halucinăm” răspunsuri la fel ca sistemele AI.

În mod neașteptat, studiul a relevat și cazuri în care participanții au renunțat la răspunsuri corecte pe care le-ar fi formulat bazându-se pe propria judecată, înlocuindu-le cu informații eronate, dar prezentate convingător de AI. Această cedare în fața unui sfat extern, chiar și atunci când contrazice propriile convingeri inițiale, este un fenomen ce merită o atenție sporită în contextul integrării tot mai profunde a inteligenței artificiale în viața cotidiană.

Sursa: HotNews