La proliferazione di contenuti non consensuali e il ruolo dell’intelligenza artificiale
La recente indipendenza di piattaforme come Phica.eu aveva generato un senso di sollievo tra gli utenti, poiché si trattava di una community privata che conservava contenuti intimi di donne, spesso senza il loro consenso. Tuttavia, queste dinamiche di possesso e scambio di immagini, che spesso sottraggono volontariamente la facoltà decisionale alle vittime, rappresentano solo una parte di un problema più complesso.
Attualmente si torna a parlare di contenuti non consensuali grazie alle segnalazioni riguardanti SocialMediaGirls.com. In questo portale, immagini pornografiche generate tramite intelligenza artificiale (IA) riproducono volti di celebrità e figure pubbliche, come cantanti, giornaliste e politiche. A differenza di semplici modifiche digitali, queste immagini sono create ex novo dall’IA, aumentando il rischio di falsificazioni perfette e rendendo difficile individuare la violenza o attribuire le responsabilità.
La creazione di deepfake e la loro diffusione nelle istituzioni scolastiche
Il fenomeno non si limita al web privato ma si estende alle scuole, dove la condivisione di contenuti manipolati è diventata un problema crescente. L’utilizzo di deepfake pornografici, spesso prodotti tramite IA, è sempre più frequente e mira a screditare studentesse, insegnanti e figure di rilievo scolastico.
In evidenza alcuni episodi:
- 2024, provincia di Latina: cinque studenti minorenni hanno manipolato foto di compagne per creare contenuti falsi.
- 2023, Roma: due studenti delle medie sono stati arrestati dopo aver condiviso, tramite social, immagini fake di coetanee realizzate con app come BikiniOff.
Il fenomeno si intensifica con l’uso di IA per generare deepfake pornografici di ragazze e insegnanti, spesso condivisi in chat scolastiche e accompagnati da commenti denigratori. Un caso significativo riguarda un liceo romano del 2024, dove sono state diffuse video deepfake di coetanee e di un docente.
Le conseguenze sulla salute psicologica e sulla socialità delle vittime
La diffusione di immagini falsificate o manipolate provoca danni forti e duraturi, anche se le immagini non sono reali. Le vittime, soprattutto donne oltre il 90% dei casi, spesso diventano oggetto di scherno, insinuazioni e analisi dei loro corpi, sia fisici che virtuali. Questo processo va a compromettere anche la loro reputazione sociale e l’immagine pubblica, riducendole a stereotipi come “quella del video” o “quella della foto”.
Implicazioni psicologiche e sociali
- Isolamento sociale: molte ragazze interrompono le relazioni, cambiano scuola o lavoro, smettono di usare i social e si isolano patologicamente.
- Sfiducia nelle istituzioni: la percezione di vulnerabilità aumenta, le denunce spesso rimangono senza risposta e il sistema giudiziario risulta troppo lento rispetto alla rapidità di diffusione dei contenuti.
Come le scuole possono rispondere a questa emergenza digitale
Le istituzioni scolastiche devono andare oltre le semplici sanzioni disciplinari e investire in percorsi di educazione alle relazioni e alla cittadinanza digitale. Le iniziative devono puntare a:
- Integrare la didattica con il rafforzamento delle competenze emotive e critiche, fondamentali per riconoscere manipolazioni e comportamenti patologici online.
- Promuovere il concetto di consenso digitale, ossia il diritto inviolabile di ciascuno sulla propria immagine, reale o virtuale.
- Educare al rispetto dellaPrivacy e alla responsabilità nel condividere contenuti digitali sui social media.
Per supportare queste strategie, le scuole dispongono di strumenti normativi come la Legge 71/2017 sul cyberbullismo e di figure di riferimento come il Referente d’istituto per la media literacy. Queste figure aiutano studenti e docenti a interpretare correttamente l’ambiente online, riconoscendo manipolazioni e rispettando la dignità di ogni persona.
Concludendo: un percorso educativo per il futuro
Per affrontare efficacemente questa emergenza, è essenziale coinvolgere le famiglie e stimolare confronti in classe, decostruendo i meccanismi di violenza di genere sottesi a questi fenomeni. Solo attraverso un’efficace educazione civica e tecnologica si potrà ridare alla tecnologia il suo vero ruolo: uno strumento di crescita, tutela e rispetto reciproco, piuttosto che un’arma di oppressione e diffamazione.
SocialMediaGirls.com è un portale che ospita immagini pornografiche generate tramite intelligenza artificiale, spesso riproducendo volti di celebrità e figure pubbliche senza consenso. Questo tipo di contenuti aumenta il rischio di falsificazioni visive e di diffusione di materiale non consensuale, compromettendo la privacy e la sicurezza delle persone coinvolte.
L'intelligenza artificiale permette di creare deepfake pornografici che vengono condivisi in chat scolastiche e sui social, spesso per screditare studentesse, insegnanti o figure di rilievo. Questa tecnologia rende difficile distinguere tra contenuti autentici e falsi, aumentando il rischio di danno psicologico e sociale.
Tra gli episodi più significativi, nel 2024 a Latina cinque studenti minorenni hanno manipolato foto di compagne, mentre a Roma due studenti delle medie sono stati arrestati dopo aver condiviso immagini fake di coetanee realizzate con app come BikiniOff. Questi casi evidenziano la crescente presenza di contenuti falsi nelle istituzioni scolastiche.
Le vittime, per lo più donne, soffrono di danni psicologici profondi: isolamento sociale, perdita di fiducia, deterioramento dell’autostima e timore per la propria reputazione. La diffusione di immagini false può portare a depressione, ansia e allontanamento dalle relazioni sociali, con effetti duraturi nel tempo.
Le scuole devono adottare percorsi di educazione digitale e relazionale, rafforzare le competenze emotive, promuovere il rispetto della privacy e il consenso digitale. La formazione su questi temi, insieme all’utilizzo di figure come il Referente d’istituto per la media literacy, è fondamentale per riconoscere e contrastare le manipolazioni online.
La Legge 71/2017 sul cyberbullismo rappresenta uno strumento normativo importante, che permette alle scuole e alle autorità di intervenire contro i reati online, incluso il diffondersi di deepfake e contenuti non consensuali. Tuttavia, è necessario un maggior coinvolgimento delle istituzioni per rispondere tempestivamente e efficacemente a questi fenomeni.
Esistono software e strumenti di media literacy, oltre a corsi di formazione, che aiutano studenti e docenti a identificare manipolazioni digitali e deepfake. La consapevolezza critica è la prima difesa contro la diffusione di contenuti falsi.
L’educazione civica, estesa all’ambito digitale, può promuovere valori di rispetto, consenso e responsabilità. Coinvolgere le famiglie e le comunità scolastiche in discussioni aperte aiuta a decostruire stereotipi di genere e a sensibilizzare sulla tutela della dignità di ogni persona online.
Le famiglie giocano un ruolo cruciale nel monitorare l’uso dei social e nel educare i giovani a un uso responsabile della tecnologia. Un dialogo aperto e informato può prevenire casi di manipolazione e aiutare le vittime a chiedere supporto tempestivo.
