Dal Deepfake alla voce clonata: le nuove frontiere del cyberbullismo e la sfida educativa nell'era dell'IA

Pubblicato il 28 agosto 2026

L'evoluzione tecnologica sta trasformando radicalmente le dinamiche di violenza digitale, portando il fenomeno del cyberbullismo verso territori inediti e pericolosi. L'integrazione dell'Intelligenza Artificiale generativa ha reso possibile la creazione di deepfake — video e immagini manipolate con estremo realismo — e la clonazione vocale, strumenti che permettono di attribuire a persone reali comportamenti, dichiarazioni o immagini mai avvenute. Questa capacità di produrre prove false altamente realistiche rappresenta un salto di qualità rispetto alle forme tradizionali di bullismo, poiché la "memoria della rete" rende i contenuti pubblicati permanenti e accessibili a una platea potenzialmente illimitata.

Il caso emblematico avvenuto a Storo, che ha visto 16 ragazze minorenni diventare vittime di una campagna di deepfake condotta da 6 adolescenti, evidenzia la gravità della situazione. In questo episodio, i volti delle vittime sono stati sovrapposti su corpi nudi, creando contenuti degradanti che sono stati poi diffusi in ambito scolastico e zone pubbliche. La rapidità con cui queste tecnologie possono essere utilizzate per generare atti persecutori ha reso necessaria una riflessione urgente sulla prevenzione scolastica, che non può più limitarsi alla semplice alfabetizzazione tecnica, ma deve puntare sulla costruzione di una vera consapevolezza digitale e sulla tutela della privacy.

L'impatto della digitalizzazione: quando la vittimizzazione perde i confini fisici

Il passaggio dal bullismo tradizionale al cyberbullismo ha eliminato i confini spaziali della violenza. Se un tempo l'aggressione rimaneva confinata all'interno delle mura scolastiche, oggi, grazie alla pervasività degli smartphone, la violenza "esce fuori" istantaneamente. Come sottolineato dal criminologo Cristian Bonatti, la platea degli spettatori può passare da pochi compagni di classe a migliaia di utenti online in pochi secondi.

Questo fenomeno è aggravato dalla natura persistente del web: una volta che un contenuto viene caricato, esso rimane disponibile nel tempo, creando una forma di vittimizzazione cronica e costante che può avere conseguenze emotive e relazionali devastanti per i minori. La complessità del fenomeno risiede anche nella capacità dell'IA di creare "prove" false che possono distruggere la reputazione di una persona in modo quasi irreversibile. I deepfake non sono semplici scherzi innocenti, ma strumenti di una cultura di disprezzo che richiede un intervento educativo strutturato.

È fondamentale che la scuola lavori sulla responsabilità individuale, aiutando gli studenti a comprendere che la tecnologia non è un territorio senza regole, ma un ambiente che richiede un pensiero critico costante per distinguere il vero dal falso e per riconoscere i bias e le allucinazioni dei sistemi generativi. Come evidenziato dalla Rete educazione alla parità di genere, i deepfake rappresentano un episodio di una cultura di disprezzo delle donne che richiede una solida educazione affettivo-relazionale.

Segnali di disagio e dinamiche relazionali: il ruolo della scuola

Per contrastare efficacemente queste nuove forme di aggressione, è necessario che adulti, docenti e genitori imparino a leggere i segnali di disagio che spesso rimangono nascosti. Le vittime tendono a tacere per paura del giudizio, ma esistono indicatori precisi che non vanno sottovalutati. Tra questi, il criminologo Bonatti identifica:

• Il silenzio improvviso o un cambiamento repentino dell'umore;
• Un evidente abbassamento della media scolastica o un calo del rendimento;
• Il rifiuto di frequentare determinati ambienti, come ad esempio gli spogliatoi dopo l'attività sportiva;
• Modifiche comportamentali senza una spiegazione apparente.

È cruciale costruire un rapporto di fiducia che permetta ai ragazzi di parlare senza timore. Spesso, la responsabilità viene erroneamente demandata alla vittima, facendole credere che la colpa sia sua. Tuttavia, è necessario analizzare anche le figure dei bulli, che spesso sono essi stessi vittime di sistemi familiari o genitoriali che li spingono verso tali comportamenti. La prevenzione deve quindi essere affettivo-relazionale, puntando a smantellare la cultura del disprezzo che alimenta l'uso improprio delle tecnologie.

Cosa cambia concretamente per docenti e didattica: dalla sorveglianza alla consapevolezza

L'introduzione dell'IA nella prevenzione non deve tradursi in un sistema di controllo o sorveglianza degli studenti, ma in uno strumento di supporto per la didattica. Per i docenti, il ruolo si conferma come supervisore umano: l'IA può essere utilizzata per generare basi di studio, casi di studio e questionari, ma non può sostituire la valutazione e la decisione educativa. In classe, è fondamentale utilizzare gli strumenti generativi per creare situazioni simulate e confronti critici, assicurandosi però di non inserire mai dati personali degli studenti nei sistemi esterni.

L'obiettivo educativo deve essere paragonato all'apprendimento della guida: non si insegna solo a "correre", ma a gestire correttamente il veicolo seguendo le regole. Gli studenti devono essere educati a:

1. Riconoscere i bias e le allucinazioni dei modelli di IA;
2. Verificare sistematicamente le fonti delle informazioni;
3. Comprendere le implicazioni legali dei reati di diffamazione e uso illecito dell'immagine;
4. Sviluppare una cittadinanza digitale basata sulla tutela della privacy.

In sintesi, la sfida per la scuola italiana consiste nell'integrare programmi di educazione digitale strutturati che vadano oltre il semplice "saper usare" i dispositivi. È necessario un approccio che promuova la cittadinanza digitale, dove la tecnologia sia un mezzo per costruire consapevolezza e non un fine che scavalca la responsabilità etica. La prevenzione efficace passa attraverso il dialogo costante e la capacità di anticipare le derive di strumenti che, se usati senza criteri, possono trasformarsi in armi di violenza digitale.

Attualmente, la rapidità dello sviluppo dei deepfake supera la capacità di aggiornamento delle normative giuridiche, creando un vuoto normativo in continua evoluzione. In questo scenario, la scuola diventa il primo presidio di difesa, dove l'educazione alla parità di genere e alla tutela della dignità umana deve diventare il pilastro fondamentale per contrastare una cultura di disprezzo che si autoalimenta attraverso gli algoritmi.

L'IA deve essere uno strumento di supporto e non di sostituzione per i docenti, un principio che deve guidare ogni scelta didattica per proteggere i minori dalle nuove frontiere del cyberbullismo.