Administrația publică cheltuie zeci de mii de euro pe ChatGPT: Curiozitate sau instrument de lucru?

Instituții publice din România, de la primării la universități, au început să folosească inteligența artificială (IA) generativă, cheltuind peste 63.000 de euro pe abonamente la ChatGPT. Utilizarea acestui tip de tehnologie ridică semne de întrebare legate de modul în care aceasta este integrată în procesele administrative și de riscurile asociate, conform unor investigații recente.

ChatGPT, de la „a doua opinie” la instrument de lucru

Primăria Slobozia este un exemplu timpuriu, achiziționând abonamente ChatGPT împreună cu servicii VPN. Primarul Alexandru Potor a explicat că scopul nu este de a înlocui funcționarii, ci de a oferi „o a doua opinie în spețe juridice, proiecte de hotărâri sau alte probleme administrative”. Ideea de bază este accelerarea muncii și identificarea de soluții. Totuși, se pune întrebarea unde se trasează limita dintre „sprijin” și dependența de un sistem cu potențial de erori, după cum se arată în materialele consultate.

Consiliul Județean Călărași și Universitatea din Craiova se înscriu și ele în rândul instituțiilor care folosesc ChatGPT, inclusiv pentru dezvoltarea de proiecte și consultanță în diverse domenii. Declarațiile oficiale subliniază constant că IA este un instrument de asistență, nu de decizie. Cu toate acestea, succesul acestei abordări depinde de capacitatea angajaților de a verifica informațiile generate de sistem. Utilizarea de către instituții de învățământ sugerează că aceste instrumente sunt considerate infrastructură digitală de lucru, nu doar experimente.

Riscuri: de la date sensibile la răspunsuri eronate

Principalul risc nu este utilizarea IA în sine, ci modul în care este folosită, conform analizei. Un chatbot poate fi util pentru organizarea informațiilor, dar devine problematic atunci când răspunsurile sale sunt tratate ca adevăruri absolute, mai ales în domenii critice. Un sistem cu potențialul de a „halucina” sau de a oferi informații incomplete poate influența decizii importante, de la aspecte juridice la cele financiare, afectând cetățenii și procesele administrative.

Protecția datelor și securitatea informațiilor sunt și ele preocupări majore. Achiziționarea de servicii conexe, cum ar fi VPN-uri, indică o conștientizare a acestor riscuri. Cu toate acestea, simpla existență a unor măsuri tehnice nu garantează securitatea. Accesul la date, tipurile de date introduse, politicile interne și înțelegerea limitelor instrumentului sunt factori cruciali. Modul de achiziție, prin intermediari locali, sugerează o abordare pragmatică, dar fragmentată, a implementării IA în sectorul public, fără o dezbatere publică amplă despre standarde și bune practici.

Numărul instituțiilor care utilizează IA generativă va crește, având în vedere presiunea pentru eficiență și digitalizare. Pentru a evita capcanele, este necesar un cadru clar care să definească sarcinile pentru care IA este adecvată, cine verifică rezultatele, cum sunt protejate datele și în ce condiții este justificată cheltuirea banului public.

Sursa: Playtech.ro