Inteligența Artificială (AI) generativă de la Google, în ciuda progreselor recente, se confruntă cu o problemă majoră: acuratețea. Funcția „AI Overview”, concepută pentru a oferi rezumate ale căutărilor, afișează erori semnificative, chiar dacă ratele de succes pot părea promițătoare la prima vedere. Impactul acestor erori este amplificat de volumul uriaș de căutări procesate de Google în fiecare zi.

Erori sub estimate

Un studiu recent sugerează că „AI Overview” oferă răspunsuri corecte în 90% din cazuri. Totuși, această rată de precizie ascunde un număr considerabil de erori. Având în vedere că Google ar putea procesa sute de milioane de căutări zilnic, chiar și o rată de eroare de 10% se traduce în zeci de mii de răspunsuri potențial greșite în fiecare oră.

Problema este agravată de faptul că acuratețea este imprevizibilă. Un răspuns incorect poate deveni corect la o căutare ulterioară, făcând sistemul dificil de evaluat. În plus, poziția funcției „AI Overview” în partea de sus a paginii de rezultate crește încrederea utilizatorilor, ceea ce poate duce la difuzarea informațiilor eronate.

Dezinformare și surse problematice

O parte din problemele de acuratețe ale AI provin din sursele informațiilor utilizate. Cercetătorii au constatat că platforme precum Facebook și Reddit sunt citate frecvent, uneori în mod eronat. În unele cazuri, AI-ul citează surse credibile, dar interpretează greșit informațiile.

Există, de asemenea, riscul ca persoane rău intenționate să manipuleze sistemul. Prin crearea de conținut fals și prin creșterea artificială a vizibilității acestuia, informațiile eronate pot fi preluate de AI și reproduse în răspunsuri.
Un reprezentant Google a declarat că sistemele lor folosesc aceleași mecanisme de filtrare ca motorul de căutare. Multe exemple problematice provin din interogări nerealiste.

Recomandări și Precauții

În ciuda dezvoltărilor, utilizatorii ar trebui să abordeze informațiile furnizate de „AI Overview” cu scepticism. Este esențial să se verifice informațiile înainte de a le considera exacte. Dependența excesivă de astfel de tehnologii poate afecta capacitățile cognitive.

Conștient de aceste limitări, sistemul afișează un avertisment clar: „AI-ul poate greși, așa că verifică informațiile!”