Cercetătorii trag un semnal de alarmă: Chatboții medicali dau diagnostice greșite în majoritatea cazurilor

Un nou studiu, realizat de specialiști în domeniu, relevă o problemă majoră în utilizarea inteligenței artificiale în domeniul medical. Rezultatele arată că chatboții obișnuiți, cum ar fi ChatGPT și Gemini, eșuează în a oferi diagnostice corecte în peste 80% din cazurile analizate. Această constatare ridică semne serioase de întrebare cu privire la siguranța și fiabilitatea acestor instrumente în contextul sănătății. În imagine, un bărbat în spital, potențial victime a unui diagnostic greșit.

Impactul potențial asupra pacienților

Studiul a fost efectuat prin testarea acestor modele de inteligență artificială pe un număr semnificativ de cazuri medicale reale. Concluzia este clară: chatboții nu dispun de informațiile necesare pentru a oferi un diagnostic corect. Acest lucru poate duce la recomandări medicale greșite, tratamente inadecvate și, în cele din urmă, la agravarea stării de sănătate a pacienților. Cercetătorii avertizează că utilizarea necontrolată a acestor tehnologii ar putea avea consecințe grave. Riscul este ca pacienții să urmeze sfaturi eronate, bazate pe date incomplete sau interpretări greșite. Această situație subliniază importanța consultării unui medic specialist pentru orice problemă de sănătate.

Principalul motiv pentru aceste erori este lipsa de profunzime a datelor pe care se bazează chatboții. Chiar dacă tehnologia a evoluat rapid, modelele de inteligență artificială nu au capacitatea de a înțelege complexitatea cazurilor medicale. Ele pot reproduce informații, dar nu pot înlocui judecata clinică a unui medic. Această lipsă de discernământ poate fi periculoasă, mai ales în situații de urgență sau în cazul bolilor rare și complexe. Dezvoltatorii acestor tehnologii au nevoie de o mai bună calibrare pentru a putea fi utilizate în siguranță.

Necesitatea unor reglementări clare

Specialiștii subliniază nevoia urgentă de reglementări clare și standarde stricte pentru utilizarea inteligenței artificiale în medicină. Este esențial ca aceste instrumente să fie supuse unor evaluări riguroase și să fie integrate în sistemul medical doar sub supravegherea personalului medical calificat. Reglementările ar trebui să vizeze atât protecția datelor pacienților, cât și asigurarea acurateței informațiilor furnizate de chatboți. Asigurarea calității și a siguranței este crucială.

Utilizarea inteligenței artificiale în domeniul medical are un potențial uriaș, dar trebuie abordată cu prudență. Cercetările viitoare ar trebui să se concentreze pe dezvoltarea unor modele mai precise și mai sigure, capabile să ofere asistență medicală de calitate, fără a pune în pericol sănătatea pacienților. O colaborare strânsă între dezvoltatorii de tehnologie, medici și autorități este necesară pentru a garanta o implementare responsabilă și etică a acestor instrumente. Companiile de tehnologie trebuie să își asume responsabilitatea pentru acuratețea și fiabilitatea produselor lor.

Studiul a fost publicat în revista medicală Jama Network Open.