Ora puoi usare l’AI per modificare foto e video direttamente nelle Stories
24 Ottobre 2025 - 3 minuti
condividi questo articolo
News
Grok sotto accusa per immagini violente e sessualizzate generate con l’AI
12 Gennaio 2026
Grok, lo strumento di intelligenza artificiale sviluppato da xAI, è finito al centro di un caso che solleva interrogativi profondi sull’uso improprio dell’AI generativa.
Grok e l’uso improprio dell’intelligenza artificiale
Secondo una nuova ricerca, Grok sarebbe stato utilizzato per creare immagini e video sessualmente violenti e contenuti espliciti che prendono di mira soprattutto donne.
Il tema non riguarda solo la tecnologia, ma il modo in cui strumenti sempre più potenti vengono messi a disposizione degli utenti senza adeguate barriere di sicurezza.
Un problema che va oltre la sperimentazione
L’uso di Grok per generare contenuti pornografici e violenti evidenzia il rischio concreto di un’AI capace di produrre immagini fotorealistiche senza controlli efficaci.
LEGGI ANCHE: ChatGPT e salute mentale: le nuove salvaguardie di OpenAI per proteggere gli utenti
La ricerca di AI Forensics sui contenuti generati con Grok
L’indagine è stata condotta da AI Forensics, un’organizzazione no-profit con sede a Parigi. Analizzando migliaia di contenuti, i ricercatori hanno individuato circa 800 immagini e video generati tramite Grok Imagine contenenti materiale pornografico.
Secondo i dati raccolti, molti contenuti presentano donne in pose esplicite, scene di nudità totale e atti sessuali, con un livello di qualità tale da sembrare produzioni professionali.
Immagini recuperate tramite archivi pubblici
AI Forensics ha potuto analizzare questi materiali grazie ai link di condivisione generati dagli utenti e successivamente archiviati dalla Wayback Machine, dimostrando come i contenuti possano restare accessibili anche dopo la rimozione.
Il caso Renee Nicole Good e la violenza simbolica dell’AI
Tra gli episodi più controversi citati dalla ricerca c’è l’alterazione dell’immagine di Renee Nicole Good, una donna uccisa da un agente dell’ICE negli Stati Uniti. Grok sarebbe stato utilizzato per spogliare digitalmente la vittima e rappresentarla in modo degradante e violento.
In un caso documentato, l’AI avrebbe risposto in modo ironico a una richiesta di questo tipo, rafforzando la percezione di un sistema privo di limiti etici adeguati.
Quando l’AI amplifica l’umiliazione
Questi episodi mostrano come l’intelligenza artificiale possa diventare uno strumento di violenza simbolica, capace di prolungare e amplificare il danno anche dopo la morte di una persona.
Le reazioni politiche nel Regno Unito
La vicenda ha provocato una dura reazione da parte del primo ministro britannico Keir Starmer, che ha chiesto a X di intervenire contro la diffusione di immagini generate con l’AI giudicate “disgustose” e “intollerabili”.
Starmer ha indicato che Ofcom potrebbe arrivare a misure drastiche, inclusa la possibilità di bloccare l’accesso alla piattaforma nel Regno Unito, sfruttando i poteri previsti dall’Online Safety Act.
La pressione sulla regolazione dell’AI
Il caso Grok si inserisce in un contesto di crescente richiesta di regole più stringenti sull’uso dell’intelligenza artificiale, soprattutto quando coinvolge immagini di donne e minori.
LEGGI ANCHE: Gli AI companion sono una minaccia per l’amore o nuova forma di relazione?
Donne, AI e rischi sistemici senza tutele
Secondo AI Forensics, oltre la metà delle immagini analizzate mostrava persone in abiti minimi, perlopiù donne sotto i 30 anni, e una percentuale, seppur ridotta, sembrava coinvolgere soggetti minorenni. I dati rafforzano le critiche delle associazioni per i diritti delle donne, che parlano di un’AI usata per umiliare e sessualizzare.
Anche esponenti del mondo istituzionale e dell’attivismo chiedono interventi urgenti per evitare che l’innovazione tecnologica proceda senza responsabilità sociale.
Le risposte di Elon Musk e xAI
Elon Musk ha dichiarato che chi utilizza Grok per creare contenuti illegali subirà le stesse conseguenze previste per chi carica materiale illecito. Una posizione che, secondo molti osservatori, non basta a risolvere un problema strutturale.
LEGGI ANCHE: Perché l’impatto ambientale dell’intelligenza artificiale non può più essere ignorato dal marketing
Il nodo irrisolto della governance dell’AI
Il caso Grok mostra come la questione non sia solo tecnologica, ma politica e culturale. Senza controlli efficaci, l’intelligenza artificiale rischia di diventare un moltiplicatore di abusi, discriminazioni e violenze già presenti nella società.
La domanda, sempre più urgente, non è cosa l’AI può fare, ma chi risponde dei suoi effetti.
Potrebbe interessarti anche
Corsi, articoli, eventi: il mondo Ninja è ricco di risorse e di appuntamenti da non perdere.
