Conform HotNews: Ce se ascunde în spatele modelelor AI de top: Temeri de „cal troian” în Silicon Valley

Marile laboratoare de inteligență artificială care comercializează modele avansate ar putea acționa, involuntar sau nu, ca niște „cai troieni”, susțin entuziaști și directori din domeniul tehnologiei din Silicon Valley. Această îngrijorare principală vizează modul în care startup-urile și companiile care folosesc aceste modele obțin acces la informații extrem de sensibile, date pe care dezvoltatorii le-ar putea folosi ulterior în propriul interes, chiar concurând cu propriii clienți.

Printre vocile care au lansat astfel de avertismente se numără investitori importanți și directori din companii tehnologice, precum ALEX KARP, CEO al Palantir. Acum, SATYA NADELLA, CEO-ul Microsoft, se alătură acestui cor de critici, publicând un mesaj pe blogul său care, conform analiștilor de la TechCrunch, este șocant prin natura sa publică.

CEO-ul Microsoft: „Plătești inteligența de două ori”

NADELLA avertizează că utilizatorii de inteligență artificială, pe care îi numește „cumpărătorii”, ajung să plătească de două ori pentru beneficiile obținute. Pe lângă costul explicit al utilizării tokenurilor AI, aceștia cedează, fără să realizeze pe deplin, date valoroase despre afacerile lor. Tokenurile AI reprezintă, în esență, unitatea de măsură prin care furnizorii de servicii AI își facturează clienții în funcție de consum.

„În esență, plătești pentru inteligență de două ori: o dată cu bani și încă o dată cu ceva și mai valoros – cunoștințele proprietare pe care trebuie să le dezvălui pentru ca acea inteligență să fie cu adevărat utilă. Cu cât vrei ca modelul să aibă performanțe mai bune, cu atât trebuie să îl hrănești cu mai multe dintre aceste cunoștințe!”, a explicat NADELLA în postarea sa.

„Distilarea” modelelor AI, o provocare pentru companii

Potrivit lui NADELLA, cel mai mare risc este că firmele își învață, practic, algoritmii despre specificul afacerilor lor. Modelele AI învață din „reziduuri”: din comenzile (prompt-urile) introduse de utilizatori, din instrumentele folosite de agenții AI și, crucial, din corecturile făcute atunci când modelul greșește. Fiecare astfel de corectură se distilează într-un „know-how” instituțional, o cunoaștere extrem de valoroasă, pe care concurența ar fi incapabilă să o obțină prin mijloace tradiționale.

NADELLA susține că, dacă dezvoltatorii de modele AI au libertatea de a extrage informații de pe internet pentru a-și antrena propriile modele, este firesc ca și companiile să aibă dreptul de a studia sau „distila” acele modele la rândul lor. Practica „distilării” implică utilizarea rezultatelor generate de un model AI pentru a înțelege modul său de funcționare și pentru a antrena un nou model, adesea mai eficient din punct de vedere al costurilor. În februarie, compania Anthropic a acuzat anumite firme din China, printre care Alibaba, că au trimis milioane de comenzi către modelul său Claude pentru a-și îmbunătăți propriile tehnologii AI, solicitând guvernului SUA să consolideze controalele la export.

NADELLA argumentează că dezvoltatorii de modele AI nu pot revendica simultan atât avantajele accesului liber la date, cât și protecția împotriva analizei propriilor creații. Este considerat ipocrit ca aceștia să își antreneze liber modelele pe date publice, dar să restricționeze alte companii să facă același lucru cu modelele lor. „Deși este necesar ca furnizorii de modele să beneficieze de dreptul la utilizare echitabilă («fair use») pentru a-și antrena modelele pe date publice, mi se pare ironic că, ulterior, impun condiții restrictive privind distilarea”, a subliniat NADELLA, într-un context în care Microsoft este un investitor major în OpenAI, compania din spatele ChatGPT.

Microsoft propune soluții pentru protecția datelor

CEO-ul Microsoft este deosebit de preocupat de situațiile în care dezvoltatorii de modele AI își rezervă dreptul de a învăța din datele de utilizare și interacțiunile clienților. Soluția propusă de el implică un mecanism prin care firmele să își păstreze proprietatea asupra propriilor date, inclusiv asupra comenzilor, feedback-ului și altor informații similare. De asemenea, el recomandă companiilor să implementeze ceea ce numește „straturi de orchestrare”, mecanisme care să le permită o tranziție fluidă între diverse modele AI furnizate de diferiți compani, evitând astfel dependența de un singur furnizor. „Atunci când consumi inteligență, creezi, la rândul tău, inteligență. Iar ceea ce creezi ar trebui să îți aparțină”, a punctat NADELLA.

Sursa: HotNews