Chatboții de inteligență artificială (AI), precum ChatGPT și Gemini, riscă să ofere diagnostice medicale greșite într-un procent alarmant de cazuri, conform unui studiu recent. Cercetarea arată că aceste instrumente pot induce în eroare utilizatorii, chiar și atunci când au acces la informații complete despre o afecțiune. Rezultatele studiului ridică semne de întrebare serioase cu privire la utilizarea AI în domeniul medical.

Rată mare de eroare, chiar și cu date complete

Studiul, realizat de specialiști din Massachusetts, a testat 21 de modele lingvistice, inclusiv cele dezvoltate de companii precum OpenAI, Anthropic și Google. Chatboților li s-au oferit informații medicale detaliate, inclusiv constatări ale consultațiilor și rezultate ale analizelor de laborator. Rezultatele au arătat că aceste modele pot greși diagnosticele în peste 40% din cazuri, chiar și atunci când au la dispoziție toate datele necesare.

Mai mult, rata de eroare crește dramatic, depășind 80%, atunci când informațiile disponibile sunt incomplete. Această constatare subliniază limitele actuale ale inteligenței artificiale în ceea ce privește capacitatea de a face judecăți medicale precise. Specialiștii avertizează asupra riscului ca pacienții să fie induși în eroare de aceste instrumente.

Limitări și „halucinații”

Una dintre principalele probleme identificate de cercetători este tendința chatboților de a „halucina”, adică de a inventa informații atunci când nu pot oferi un răspuns clar. Aceste „halucinații” pot duce la diagnostice greșite și, implicit, la tratamente inadecvate. Chiar și cu acces la date complete, modelele lingvistice pot interpreta greșit informațiile sau pot genera concluzii eronate.

Studiul subliniază că performanța acestor instrumente depinde de volumul și calitatea informațiilor. Cu toate acestea, chiar și în condiții optime, riscul de eroare rămâne semnificativ. Experții avertizează că utilizarea necontrolată a acestor tehnologii în medicină poate avea consecințe grave pentru pacienți.

Implicații pentru viitorul medicinei

Aceste descoperiri au implicații importante pentru viitorul medicinei și pentru modul în care AI va fi integrată în sistemele de sănătate. Este crucial ca dezvoltarea acestor tehnologii să fie însoțită de o evaluare riguroasă a performanțelor lor și de măsuri de prevenire a erorilor. De asemenea, este important ca pacienții să fie conștienți de limitele acestor instrumente și să nu se bazeze exclusiv pe ele pentru a obține un diagnostic medical.

Rezultatele studiului vor fi prezentate în cadrul unei conferințe medicale internaționale luna viitoare, unde se vor discuta modalitățile de îmbunătățire a acurateței și fiabilității AI în domeniul medical.

Sursa: Stiripesurse.ro