Platforma X se află din nou în vizorul criticilor, după ce oficialii săi au reacționat la controversele generate de chatbotul bazat pe inteligență artificială, Grok. Acesta a fost acuzat de producerea unor imagini sexualizate cu minori și persoane reale, fără consimțământ, probleme care au reaprins dezbaterile despre responsabilitatea tehnologică și morală a marilor platforme digitale.

Ce a stârnit cele mai mari controverse este modul în care compania a ales să reacționeze public. În loc să anunțe măsuri concrete de filtrare sau îmbunătățire a sistemelor AI pentru prevenirea acestor rezultate, reprezentanții X au mutat întreaga responsabilitate asupra utilizatorilor. Într-un comunicat emis de echipa X Safety, s-a reiterat politica de toleranță zero față de conținutul ilegal, inclusiv materialele de abuz sexual asupra minorilor (CSAM), dar fără a indica planuri de actualizare tehnologică sau de introducere a unor filtre eficiente pentru Grok. Mai mult, s-a subliniat că orice utilizator care solicită sau distribuie conținut ilegal riscă aceleași consecințe ca și cei care îl încarcă manual, sporind această responsabilitate asupra comunității.

Reacția oficială nu a venit însă fără controverse. Ei bine, Elon Musk, proprietarul platformei, a susținut indirect ideea că AI-ul în sine nu trebuie să fie considerat responsabil pentru imaginile generate, afirmând că „Grok funcționează ca un instrument pasiv” și că vina aparține exclusiv celui care îl folosește greșit. Această poziție a fost criticată de specialiști în inteligență artificială, mai ales având în vedere natura sistemelor generative, care nu oferă rezultate complet predictibile. La fel ca orice instrument experimental, AI-ul poate produce rezultate neașteptate, iar utilizatorii dețin un control limitat asupra ieșirilor, ceea ce complică orice încercare de a atribui responsabilitatea direct acestei tehnologii.

De altfel, lipsa unui control strict asupra rezultatelor generate de AI ridică probleme legale și etice majore. Unele scenarii recente au arătat că Grok a putut crea imagini problematice și fără solicitare explicită, iar utilizatorii nu pot să ștergă aceste conținuturi din istoric, ceea ce poate duce la consecințe legale pentru persoane nevinovate, dar și la sancțiuni pentru platformă. Este o situație îngrijorătoare, având în vedere faptul că, în ciuda eforturilor de a combate CSAM tradiționat, până acum, aceste măsuri s-au concentrat pe materiale cunoscute, bazate pe tehnologii de tip hash, și nu pe materiale generate artificial, care pot fi foarte greu de identificat și stopat.

Apelurile pentru o intervenție mai fermă devin din ce în ce mai vehemente, mai ales din partea unor influenceri și experți în tehnologie. Unii cer ca aplicația X să fie eliminată din App Store, argumentând că lipsa unor filtre transparente și eficiente pentru Grok contravine politicilor Apple, care interzic promovarea de conținut sexual ce implică persoane reale fără acord. În cazul unor astfel de restricții, Elon Musk s-ar putea confrunta cu pierderi majore, întrucât eliminarea platformei din ecosistemul Apple ar putea decreta eșecul ambițiilor sale de a face X un rival serios pentru alte servicii de chat AI, precum ChatGPT.

Între timp, întrebările privind modul în care X va reuși să modereze și să detecteze conținutul ilegal generate de AI rămân fără răspuns clar. Chiar dacă platforma a anunțat că face controale în cazul materialelor de tip CSAM, acestea sunt de natură să detecteze doar conținutul cunoscut, nu și imagini complet noi și artificiale. În absența unor actualizări și reglementări stricte, riscul ca Grok să continue să creeze imagini ilegale devine tot mai real, mai ales în cazul în care lipsesc definiții clare despre ce constituie conținut inacceptabil.

În acest context, presiunile externe pentru reglementări mai stricte și pentru responsabilizarea platformei devin din ce în ce mai insistente. Dacă nu va introduce măsuri eficiente de filtrare și moderare, X riscă să fie din ce în ce mai vulnerabilă la sancțiuni, posibila eliminare din magazinele de aplicații sau chiar la acțiuni legale. Într-o lume în care tehnologia evoluează rapid, iar încrederea publicului în platforme digitale este în joc, răspunsurile concrete și transparente sunt mai necesare ca niciodată.