Atenție la sfaturile medicale oferite de inteligența artificială: cercetările arată limitele chatbot-ilor

Două studii recente trag un semnal de alarmă cu privire la utilizarea chatbot-ilor cu inteligență artificială pentru informații medicale. Cercetările au evidențiat capacitatea acestor sisteme de a oferi răspunsuri convingătoare, dar și dificultatea lor de a identifica informațiile medicale incorecte. Publicul larg este sfătuit să fie precaut și să verifice informațiile obținute din astfel de surse.

Limbajul medical poate induce în eroare sistemele AI

Un studiu publicat în revista științifică The Lancet Digital Health a analizat modul în care modelele de inteligență artificială reacționează la informațiile medicale false. Cercetătorii au testat 20 de modele AI, utilizând peste 3,4 milioane de solicitări inspirate din discuții reale de pe forumuri, rețele sociale și documente medicale modificate intenționat. Rezultatele au arătat că aceste sisteme pot fi ușor influențate atunci când dezinformarea este prezentată într-un limbaj specific domeniului medical.

Dacă o afirmație falsă este formulată într-un stil informal, asemănător conversațiilor online, chatbot-ii tind să fie mai sceptici. Situația se schimbă, însă, când informațiile sunt prezentate sub forma unui raport medical. În astfel de cazuri, modelele AI acceptă mai ușor afirmațiile și pot repeta recomandări greșite. „Problema principală este modul în care aceste modele livrează informația”, a explicat Mahmud Omar, cercetător la Mount Sinai Medical Center și coautor al studiului. Spre deosebire de un medic, care poate exprima incertitudini sau recomanda investigații suplimentare, un chatbot poate oferi un răspuns eronat cu aceeași încredere cu care ar oferi unul corect.

Răspunsurile AI, comparabile cu o căutare online simplă

Un alt studiu, publicat în Nature Medicine, a analizat utilitatea chatbot-ilor în luarea deciziilor medicale, cum ar fi stabilirea momentului potrivit pentru a solicita asistență medicală. Concluzia generală a cercetătorilor a fost că, în multe situații, răspunsurile generate de inteligența artificială nu oferă o valoare adăugată semnificativă, comparativ cu o căutare pe internet. Utilizatorii nu formulează întotdeauna întrebările corect, iar răspunsurile pot combina informații exacte cu recomandări discutabile.

Totuși, specialiștii subliniază că aceste sisteme nu sunt complet inutile. Potrivit cercetătorului Marvin Kopka de la Universitatea Tehnică din Berlin, chatbot-ii pot genera uneori sugestii utile. Problema constă în faptul că persoanele fără pregătire medicală nu au întotdeauna capacitatea de a evalua corectitudinea informațiilor primite. Acest lucru poate fi periculos. De exemplu, un utilizator care întreabă despre o durere severă de cap ar putea primi sugestia de a aștepta înainte de a merge la medic, ignorând potențialul de a indica o problemă gravă.

În contextul acestor rezultate, experții încurajează utilizatorii să fie precauți și să considere informațiile obținute de la chatbot-i ca puncte de plecare, nu ca înlocuitori ai sfatului medical profesional. Dezvoltatorii de astfel de tehnologii lucrează la îmbunătățirea algoritmilor. Scopul este de a reduce riscurile asociate cu utilizarea generalizată a inteligenței artificiale în domeniul medical.

Sursa: Playtech.ro