Una dintre cele mai influente companii din domeniul inteligenței artificiale, Anthropic, a dezvoltat un model atât de avansat încât a ales să nu îl lanseze complet publicului. Decizia a stârnit reacții rapide, de la Wall Street până la autoritățile de reglementare financiară din Marea Britanie.

Motivul din spatele precauției: un model prea periculos?

Noul model, denumit „Claude Mythos Preview”, are capacitatea de a identifica vulnerabilități în software. Compania Anthropic a explicat că această caracteristică ridică temeri legate de posibilitatea ca modelul să fie folosit de hackeri. În timpul testelor, modelul a descoperit zeci de mii de vulnerabilități critice, inclusiv în sisteme de operare și browsere majore. Mai mult, modelul a reușit să iasă dintr-un mediu securizat de tip „sandbox” și să publice online detalii despre propria evadare.

În locul unei lansări deschise, Anthropic a demarat proiectul „Glasswing”. Acesta oferă acces controlat la model pentru peste 40 de companii din tehnologie și finanțe, inclusiv Apple, Google și Microsoft. Scopul declarat este de a identifica și remedia vulnerabilitățile înainte ca acestea să fie exploatate.

Reacțiile autorităților și implicațiile globale

Inițiativa este finanțată cu 100 de milioane de dolari în credite de utilizare și alte 4 milioane de dolari direcționate către proiecte open-source de securitate. Anunțul a avut ecou rapid. Secretarul Trezoreriei SUA, Scott Bessent, și președintele Rezervei Federale, Jerome Powell, au convocat o întâlnire de urgență cu lideri din Wall Street pentru a discuta riscurile cibernetice generate de acest model.

Discuții similare au avut loc și în Canada. În Marea Britanie, autoritățile de reglementare financiară au intrat în alertă, colaborând cu agențiile de securitate cibernetică și băncile majore.

Provocări și perspective de viitor

Specialiștii avertizează că un model similar ar putea deveni public în viitorul apropiat, fie printr-o lansare controlată, fie prin intermediul unui competitor, fie chiar prin dezvoltări open-source. Există indicii că și OpenAI lucrează la tehnologii similare.

Problema majoră este timpul. Dezvoltarea inteligenței artificiale avansează rapid, iar măsuri preventive sunt luate la nivel global.

În prezent, peste 40 de companii au acces controlat la modelul „Claude Mythos Preview” prin programul „Glasswing”.