Yoshua Bengio, unul dintre părinții inteligenței artificiale moderne și laureat al Premiului Turing, ridică o întrebare fundamentală despre viitorul AI: „Cum putem construi o inteligență artificială care, prin însăși concepția sa, să nu le facă rău oamenilor?”. Aceste cuvinte, rostite de unul dintre cei mai citați cercetători la nivel mondial, subliniază necesitatea stringentă de a integra etica și siguranța încă din faza incipientă a dezvoltării AI.

Bengio nu este doar un vizionar teoretic, ci și un actor activ în discuțiile globale privind securitatea sistemelor AI. El co-conduce panelul științific independent al Organizației Națiunilor Unite dedicat inteligenței artificiale, un grup select de 40 de experți de renume internațional.

Responsabilitatea creatorilor de AI

Colaborarea cu un om care a contribuit enorm la progresul tehnologic al AI, dar care pune un accent la fel de puternic pe responsabilitatea în construcția acestor sisteme, oferă o perspectivă valoroasă. Dialogul cu Bengio scoate în evidență o conștientizare crescândă în comunitatea științifică despre riscurile potențiale ale unei tehnologii atât de puternice. Preocuparea nu este doar teoretică, ci se materializează în eforturi concrete de a stabili principii și ghiduri pentru dezvoltarea și implementarea AI.

Provocările construirii unui AI sigur

Întrebarea lui Bengio nu este una retorică. Ea atinge inima provocării tehnologice și etice. Cum se pot crea algoritmi care să nu dezvolte comportamente neprevăzute, ostile sau dăunătoare? Aceasta implică nu doar inginerie complexă, ci și o înțelegere profundă a modului în care sistemele AI învață, iau decizii și interacționează cu mediul și cu oamenii.

Se pune accent pe conceptul de „AI alignment”, un domeniu de cercetare dedicat asigurării că obiectivele și valorile sistemelor AI sunt aliniate cu cele umane. Aceasta presupune dezvoltarea unor mecanisme de control, transparență și explicabilitate a deciziilor luate de AI, precum și stabilirea unor limite clare în ceea ce privește autonomia acestora.

Perspectivele viitoare și rolul ONU

Prin rolul său la ONU, Yoshua Bengio contribuie la crearea unui cadru de guvernanță globală pentru AI. Panelul științific își propune să ofere recomandări concrete pentru crearea unor politici și reglementări care să maximize

Sursa: Facebook.com