Google a decis să înlăture temporar rezultatele generate de AI Overviews pentru o serie de căutări din domeniul medical, după ce investigații și specialiști în sănătate au semnalat riscuri grave legate de informațiile oferite. Măsura vine într-un context marcat de criticile și suspiciunile existente față de funcționalitatea bazată pe inteligență artificială a gigantului tech, care au evidențiat erori, uneori potențial fatale.

De ce a fost retrasă funcția AI Overviews pentru anumite căutări medicale?

Informațiile false furnizate de AI Overviews au ieșit la iveală recent după publicarea unui raport amplu, realizat de The Guardian, în care se arată că numirea acestor rezultate sintetizate ca fiind „recomandări medicale” poate fi extrem de periculos. Mai exact, unele recomandări generate de sistemul AI au contrazis complet practica medicală standard, iar această discrepanță poate avea consecințe dramatice pentru pacienți. Într-un caz concret, sistemul le-ar fi spus pacienților diagnosticați cu cancer pancreatic să evite alimentele bogate în grăsimi, ceea ce sfat medical corect ar fi fost cel opus, având în vedere nevoia acestor pacienți de calorii suplimentare pentru a-și susține organismul.

Un alt exemplu alarmant se referă la valorile normale ale testelor hepatice. AI Overviews ar fi transmis date eronate, ceea ce poate induce în eroare persoane care, în realitate, au afecțiuni grave ale ficatului. Astfel de informații greșite pot întârzia prezentarea la medic și pot complica tratamentul, crescând riscul unor agravări dramatice ale stării de sănătate. În urma acestor dezvăluiri, Google a decis să elimine complet rezultatele generate de AI pentru întrebări legate de analizele de sânge, limitându-se la rezultatele clasice, fără intervenția inteligenței artificiale.

Controverse și probleme vechi ale AI Overviews

Decizia de a suspenda aceste rezultate pentru anumite căutări medicale nu survine însă pe nerăsite. Funcția AI Overviews, lansată în urmă cu câțiva ani ca un instrument menit să pună rapid la dispoziție răspunsuri sintetice și relevante, a stârnit de-a lungul timpului suspiciuni și criticism grave. Sistemul a fost criticat pentru generarea de recomandări absurde sau chiar periculoase, care au devenit subiecte virale pe rețelele sociale sau în presa internațională.

Printre cele mai frecvente exemple s-au numărat sfaturi precum „lipiciul pe pizza” sau ideea fictivă că anumite pietre pot fi consumate ca remediu, situații care au ridicat semne de întrebare legate de modul în care Google verifică și controlează aceste informații generate automat. În plus, funcția a fost implicată în mai multe procese legale, reclamanții susținând că generarea de răspunsuri eronate poate induce în eroare utilizatorii și, în cazuri extreme, poate provoca daune materiale și psihologice.

Riscurile pentru domeniul medical și limitele actuale ale AI

Domeniul sănătății este considerat una dintre cele mai sensibile arii în care inteligența artificială trebuie folosită cu mare responsabilitate. Specialiștii avertizează că orice greșeală prezentată ca un fapt poate avea consecințe directe asupra sănătății publice. În cazul de față, retragerea anumitor rezultate din cadrul funcției AI Overviews poate fi interpretată drept o recunoaștere implicită a faptului că, în prezent, tehnologia nu este încă pregătită să ofere sfaturi medicale de încredere.

Deși Google continuă să promoveze AI-ul ca un instrument de sprijin pentru informații rapide și sintetice, această situație accentuează pericolul ca astfel de sisteme să fie percepute ca surse autoritare, fără verificări și filtre riguroase. În plus, cazul evidențiază necesitatea de a dezvolta mecanisme robuste de verificare a datelor generate automat, mai ales în domenii critice precum sănătatea.

Pe măsură ce tehnologia avansează, înlocuind tot mai mult intervenția umană cu algoritmi, riscurile unei dezinformări grave devin tot mai evidente. În mod evident, Google își asumă acum un pas important de corectare a unei direcții care, în trecut, a dus la probleme de imagine și încredere. Rămâne de văzut dacă această retragere temporară va duce la o reevaluare serioasă a modului în care AI Overviews este utilizat în domeniul medical și dacă va determina dezvoltarea unor sisteme mai sigure, mai eficiente și mai fiabile pentru utilizatori. Cu toate că momentul pare unul de criză, el poate reprezenta totodată un prilej pentru revizuirea și îmbunătățirea accentuată a tehnologiilor de inteligență artificială în domenii atât de sensibile.