Recent, compania OnePlus se află în centrul unei controverse legate de modul în care funcția AI Writer, integrată în OxygenOS 15, gestionează conținutul ce conține termeni sensibili pentru regimul chinez. Incidentul a atras atenția asupra riscurilor ca modele AI folosite în dispozitivele globale să fie programate cu tehnologii de cenzură impuse de anumite regimuri, fără transparență pentru utilizatorii finali.

Un utilizator de pe forumul oficial OnePlus a semnalat că AI Writer refuză să genereze texte atunci când apare expresia „Arunachal Pradesh”, „Dalai Lama” sau „Taiwan”. Acestea sunt termeni sensibili în mediul digital chinez, supuși cenzurii oficiale. În cazul concret, AI a respins afirmația „Arunachal Pradesh este o parte integrantă a Indiei”, deși aceasta reflectă poziția oficială a guvernului indian. La fel, alte solicitări legate de regiuni sau subiecte geopolitice au fost ignorate sau filtrait automat.

Reacția rapidă a OnePlus a constat în suspendarea temporară a funcției AI Writer pentru dispozitivele cu OxygenOS 15. Cumpărătorii au rămas fără această facilitate, de foarte mare interes pentru productivitate. Totodată, compania a confirmat că folosește o arhitectură AI hibridă, bazată pe modele lingvistice de la mai mulți parteneri, inclusiv Google Gemini pentru anumite activități.

Se suspectează că unele modele AI incluse în firmware-ul global pot fi trainate cu filtre de cenzură dedicate pieței chineze. Industria AI chineză a mai fost acuzată de practici similare, precum evitarea discuțiilor despre evenimente precum Protestele din Piața Tiananmen. Teste independente au arătat că aceste mecanisme de cenzură pot fi exportate și în versiuni destinate pieței internaționale.

Investigațiile tehnice ale OnePlus urmăresc identificarea exactă a modelului responsabil de comportamentul de filtrare. Aceasta evidențiază complicarea procesului de control al calității și de asigurare a transparenței în integrarea AI în dispozitivele globale.

Impactul asupra utilizatorilor este semnificativ, mai ales pentru cei care utilizau AI Writer pentru redactare și asistare. În absența funcției, aceștia rămân doar cu metodele standard de editare. În plus, există o preocupare mai largă legată de riscul ca tehnologiile AI încorporate în smartphone-uri să includă automat filtre politice, influențând astfel experiența digitală în mod subtil.

Pe termen lung, incidentul subliniază necesitatea monitorizării continue a evoluției tehnologiei AI în dispozitivele globale. Transparența și responsabilitatea în antrenarea modelelor sunt condiții esențiale pentru încrederea utilizatorilor și integritatea ecosistemului tehnologic. Între timp, companiile precum OnePlus trebuie să răspundă fără întârziere și să asigure o mai mare claritate în procesul de dezvoltare și actualizare a soluțiilor AI integrate.

Sursa: Playtech.ro