Inteligența artificială redefinește cercetarea științifică: noi provocări și oportunități

Noile modele de inteligență artificială (AI) sunt pe cale să transforme radical modul în care se desfășoară cercetarea științifică, nu doar prin eficientizarea sarcinilor repetitive, ci prin automatizarea unor procese considerate până acum apanajul exclusiv al minții umane, precum formularea de ipoteze și interpretarea rezultatelor. Această evoluție rapidă ridică însă o serie de întrebări cruciale privind integritatea, evaluarea și viitorul cercetării. Revista Nature a publicat recent un editorial care analizează impactul acestor schimbări.

Riscuri majore: de la „halucinații” la supraproducție de studii

Deși aceste instrumente promit o accelerare semnificativă a procesului de cercetare, ele prezintă și riscuri considerabile. Modelele de AI pot genera „halucinații”, adică date sau citări inexistente, sau pot rata pași logici importanți. Unul dintre principalele pericole semnalate este potențialul de a „sufoca” sistemele de peer review, finanțare și publicare cu un volum mare de articole și rezultate aparent convingătoare, dar lipsite de valoare reală. Din cauza lor, cercetarea de calitate ar putea fi afectată.

Într-o analiză mai profundă, editorialul sugerează că AI-ul ar putea chiar facilita apariția unui fenomen similar cu „p-hacking”-ul automatizat, în care se explorează date automatizat, fără o direcție științifică clară, până la găsirea unor rezultate „semnificative”. Astfel, AI-ul ar putea nu doar să accelereze cercetarea validă, ci și să amplifice producția de lucrări slabe.

Universitățile și revistele de specialitate, în fața unor decizii urgente

Editorialul din Nature avertizează că problema nu mai este teoretică. Companii precum Google, OpenAI și Anthropic dezvoltă și testează deja sisteme capabile să automatizeze bucăți tot mai mari din procesul științific. Un exemplu concret este un recent preprint din fizică teoretică, unde modelul GPT-5 a jucat un rol esențial, demonstrând că aceste instrumente încep să fie relevante chiar și în domenii sofisticate.

Acest context obligă instituțiile academice să regândească regulile vechi. Cum mai măsori meritul academic când o parte din muncă este făcută de o mașină? Cum evaluezi originalitatea unei idei, dacă nu poți urmări sursele de inspirație ale AI-ului? Ce se întâmplă cu tinerii cercetători, ale căror etape de formare sunt preluate acum de algoritmi?

Pentru a răspunde acestor provocări, Nature solicită transparență totală în privința utilizării modelelor lingvistice în articolele trimise spre publicare și refuză să considere astfel de sisteme ca autori. Revista încurajează, de asemenea, prezentarea prompturilor și a răspunsurilor generate de model pentru a permite reproducerea și verificarea studiilor.

În timp ce promisiunile legate de AI și cercetare sunt mari, Academia Română și-a exprimat recent îngrijorarea cu privire la impactul potențial al inteligenței artificiale asupra sistemului educațional.