ChatGPT, utilizat de milioane de oameni pentru informații medicale, prezintă riscuri serioase

Sistemul de inteligență artificială ChatGPT, dezvoltat de OpenAI, este utilizat săptămânal de peste 230 de milioane de persoane, inclusiv pentru a obține informații despre sănătate. Cu toate acestea, un studiu recent arată că sistemul poate subestima gravitatea unor afecțiuni, punând în pericol sănătatea utilizatorilor.

În ianuarie 2026, OpenAI a lansat ChatGPT Health, o funcție care permite utilizatorilor să conecteze informații medicale personale pentru a primi răspunsuri personalizate. Utilizatorii pot pune întrebări despre diverse probleme de sănătate, de la verificarea siguranței alimentelor până la gestionarea alergiilor. Cu toate acestea, cercetările recente atrag atenția asupra limitelor acestei tehnologii.

Subestimarea urgențelor medicale

Un studiu realizat de cercetători de la Mount Sinai din New York a analizat performanța ChatGPT Health în diferite scenarii medicale. Concluziile studiului indică faptul că sistemul poate funcționa bine în cazuri medicale evidente, precum accidente vasculare cerebrale. Însă, problemele apar în situațiile în care gravitatea unei afecțiuni nu este imediat clară.

Cercetătorii au examinat 60 de scenarii clinice din 21 de specialități medicale. Rezultatele au arătat că ChatGPT Health a subestimat peste jumătate dintre cazurile care necesitau intervenție medicală de urgență. Într-un scenariu legat de astm, de exemplu, sistemul a identificat corect semnele timpurii ale insuficienței respiratorii, dar a recomandat așteptarea în loc să indice prezentarea la urgență.

Reacții inadecvate în cazul gândurilor suicidare

Studiul a analizat și modul în care sistemul reacționează atunci când utilizatorii menționează gânduri de auto-vătămare sau suicid. Chatbotul ar trebui să afișeze automat un mesaj de tipul „Help is available” (Ajutor disponibil) și să direcționeze utilizatorii către linii de criză specializate. Cu toate acestea, cercetătorii au constatat că aceste avertismente nu apăreau mereu, iar în unele cazuri reacția sistemului era paradoxal mai slabă în situațiile mai grave.

Autorii studiului nu recomandă abandonarea completă a instrumentelor bazate pe inteligență artificială pentru sănătate. Potrivit acestora, „aceste sisteme pot fi utile pentru informare, dar nu trebuie să înlocuiască evaluarea medicală profesionistă”. Specialiștii subliniază importanța solicitării ajutorului medical dedicat în cazul apariției simptomelor serioase, precum durere în piept, dificultăți de respirație, reacții alergice severe sau modificări ale stării mentale. Aceștia recomandă ca persoanele cu astfel de probleme să se adreseze direct medicilor.

În ciuda limitărilor, cercetătorii subliniază că modelele de inteligență artificială sunt în continuă evoluție. Performața lor se poate îmbunătăți pe măsură ce sunt actualizate. În prezent, companiile de tehnologie explorează modalități de a integra inteligența artificială în sistemele medicale, în timp ce autoritățile de reglementare încearcă să stabilească standarde pentru siguranța și eficacitatea acestor instrumente.

Sursa: Mediafax