Un tribunal din Amsterdam a interzis companiei xAI, fondată de Elon Musk, şi chatbotului său Grok să creeze imagini nud generate de inteligenţă artificială fără consimţământ, inclusiv în cazul adulţilor şi al minorilor, într-o decizie care intensifică presiunea juridică asupra companiei, transmite CNBC citat de news ro
Tribunalul Districtual din Amsterdam a emis joi o ordonanţă prin care interzice xAI să genereze şi să distribuie imagini sexualizate ”în care persoane sunt parţial sau complet dezbrăcate fără să fi oferit permisiunea explicită”, potrivit declaraţiei instanţei.
Hotărârea, considerată prima de acest tip în Europa împotriva chatbotului Grok, se extinde şi asupra materialelor de abuz sexual asupra minorilor şi împiedică platforma X, cunoscută anterior sub numele de Twitter, să ofere funcţia Grok în regiune. În cazul în care nu respectă decizia, xAI riscă o penalitate de 100.000 de euro pe zi, până la un maximum de 10 milioane de euro.
Procesul a fost iniţiat de organizaţia olandeză non-profit Offlimits, care luptă împotriva abuzurilor sexuale online, în special împotriva copiilor şi tinerilor. Instanţa a decis, de asemenea, ca xAI să plătească organizaţiei cheltuieli de judecată de 2,2 milioane de euro în termen de 14 zile.
”Judecătorul a trasat o linie clară: tehnologia nu este o licenţă pentru încălcarea drepturilor omului în mediul online”, a declarat Robbert Hoving, directorul executiv al Offlimits.
Potrivit organizaţiei Center for Countering Digital Hate (CCDH), aproximativ trei milioane de imagini sexualizate au fost generate de Grok între 29 decembrie 2025 şi 9 ianuarie 2026. Dintre acestea, peste 23.000 ar fi reprezentat copii.
xAI a anunţat în ianuarie că a blocat posibilitatea ca Grok să creeze imagini sexualizate ale persoanelor reale pe platforma X, restricţia aplicându-se tuturor utilizatorilor, inclusiv celor cu abonamente plătite. Totuşi, Offlimits a susţinut că aceste restricţii pot fi uşor ocolite, iar instanţa a considerat măsurile insuficiente pentru protejarea utilizatorilor.
Compania se confruntă cu mai multe procese în instanţă. Oraşul Baltimore a devenit marţi primul mare oraş american care a dat în judecată xAI, acuzând compania că a încălcat legislaţia privind protecţia consumatorilor şi că a promovat în mod înşelător Grok şi platforma X ca fiind sigure pentru utilizatori.
Plângerea menţionează un trend online în care utilizatorii foloseau Grok pentru a transforma imagini ale altor persoane în fotografii nud sau sexualizate. Elon Musk însuşi a participat la acest trend, distribuind o imagine generată de Grok în care apare într-un costum de baie extrem de sumar.
De asemenea, trei adolescenţi din statul american Tennessee au intentat săptămâna trecută un proces împotriva xAI, după ce Grok a generat conţinut în care aceştia apăreau în ipostaze sexuale explicite.
În paralel, Comisia Europeană a deschis în ianuarie o investigaţie privind xAI pentru distribuirea de imagini sexuale explicite generate fără consimţământ, inclusiv cu minori, în cadrul reglementărilor Digital Services Act.
Autorităţile britanice pentru siguranţă online, Ofcom şi Biroul Comisarului pentru Informaţii, au lansat la rândul lor investigaţii separate privind platforma X şi distribuirea imaginilor sexualizate fără consimţământ.
În afara Europei, Malaysia şi Indonezia au blocat în ianuarie accesul la Grok după ce instrumentul de inteligenţă artificială a generat conţinut sexual fără consimţământ, autorităţile invocând „eşecuri repetate” ale companiei X Corp de a controla riscurile asociate tehnologiei.
Comentează