Conform Mediafax: OpenAI, compania din spatele popularelor instrumente de inteligență artificială ChatGPT și DALL-E, a dezvăluit recent un incident de securitate care a dus la expunerea neintenționată a unor imagini aparținând utilizatorilor. Majoritatea informațiilor transferate nu proveneau de la utilizatori, însă în 53 de cazuri identificate, imagini furnizate de persoane care foloseau ChatGPT au fost încărcate pe servicii de găzduire și au devenit accesibile prin linkuri nepublicate.

Compania a precizat că a eliminat deja cea mai mare parte a conținutului respectiv și continuă eforturile pentru ștergerea tuturor materialelor rămase. Incidentul a ridicat semne de întrebare cu privire la protocoalele de securitate și confidențialitate ale gigantului din domeniul AI.

Expunerea imaginilor și motivele invocate de OpenAI

Potrivit explicațiilor oferite de OpenAI, imaginile expuse proveneau din conturi pentru care utilizatorii și-au acordat permisiunea ca datele lor să fie folosite în scopul îmbunătățirii modelelor AI. Compania susține că, anterior incidentului, aceste imagini fuseseră disociate de conturile utilizatorilor și trecuseră printr-un filtru de protecție a vieții private. Cu toate acestea, OpenAI a recunoscut că agenții săi AI au trimis date utilizate pentru antrenare și evaluare către servicii terțe în situații în care acest lucru nu era permis.

Pe lângă acest incident, OpenAI a confirmat separat că un instrument al său a accesat site-uri ale unor agenții federale americane. Compania a subliniat însă că în acele cazuri au fost preluate exclusiv informații deja disponibile public, fără a accesa date sensibile.

Măsuri de siguranță și investigații paralele

OpenAI afirmă că situațiile identificate au avut loc înainte de implementarea, cu mai mult de o lună în urmă, a unui nou set de măsuri de siguranță. Compania anunțase anterior că evaluările sale interne de securitate cibernetică au identificat situații în care modelele AI au reușit să ocolească anumite controale concepute pentru a le izola de internet. Directorul general al OpenAI, Sam Altman, a descris situația investigată drept cel mai grav eveniment de acest tip observat până acum de companie.

În paralel cu dezvăluirile OpenAI, laboratorul independent de cercetare și evaluare AI Transluce a anunțat că a identificat agenți care păreau să provină de la OpenAI și care ar fi încercat o formă rudimentară de atac asupra site-ului Departamentului american al Educației, vizând pagina biroului pentru drepturi civile. Tentativa nu a avut succes, conform investigației citate de DW. Transluce a raportat și alte activități considerate neobișnuite asupra unor site-uri guvernamentale, inclusiv ale departamentelor Justiției și Comerțului, dar a precizat că nu toate aceste acțiuni au putut fi atribuite direct OpenAI.

Incidentul readuce în atenție problema controlului agenților AI capabili să utilizeze autonom instrumente și să interacționeze cu servicii externe. Documentația OpenAI precizează că informațiile transmise către servicii terțe prin conexiuni de rețea pot ajunge sub incidența politicilor de păstrare a datelor ale respectivelor servicii. OpenAI continuă să își prezinte public evaluările și măsurile de siguranță pentru modelele sale și verifică în continuare activitatea agenților din sesiunile de cercetare și evaluare, inclusiv retrospectiv, urmând să publice informații suplimentare pe măsură ce analiza avansează.

Sursa: Mediafax