L'emergere del fenomeno dei deepfake pornografici e i rischi per i minori
Negli ultimi anni, il problema dei deepfake a luci rosse è diventato un crescente motivo di preoccupazione a livello globale. Una ricerca condotta dall'organizzazione no profit americana Thorn evidenzia che 1 adolescente su 17 tra i 13 e i 20 anni è stato vittima di pornografia deepfake. Inoltre, circa uno su otto di questi giovani conosce personalmente qualcuno coinvolto in questo tipo di abuso digitale.
Questo fenomeno si sta diffondendo rapidamente, generando allarme sociale in Italia e nel mondo, e coinvolge soprattutto i Minori, soggetti vulnerabili alle manipolazioni delle immagini e ai rischi correlati.
Modalità di manipolazione e piattaforme coinvolte
Le piattaforme di intelligenza artificiale generativa come Clothoff, BikiniOff e DeepNude consentono di alterare fotografie di persone reali, creando immagini sessualmente esplicite senza consenso. Secondo dati di Graphika, oltre 100 siti web che offrono servizi di "nudify" attraggono milioni di visitatori mensili.
Il fenomeno riguarda anche celebrità: nel 2014, immagini pornografiche false a sfondo virale riguardarono Taylor Swift, dimostrando quanto questa problematica possa raggiungere un vasto pubblico e diffondere contenuti dannosi.
Impatto e diffusione tra gli utenti più giovani
- In Gran Bretagna, uno studio di ESET svela che una donna su 10 è stata vittima di deepfake pornografico.
- La stessa ricerca evidenzia che il 13% degli adolescenti conosce qualcuno che ha generato o condiviso materiale pornografico deepfake raffigurante minorenni.
Il ruolo del Garante italiano e le azioni di contrasto
Il 3 ottobre, il Garante per la protezione dei dati personali ha urgentemente bloccato la piattaforma Clothoff, gestita dalla società britannica AI/Robotics Venture Strategy 3. Questa piattaforma offriva servizi gratuiti e a pagamento per la creazione di deep nude, immagini manipolate di persone reali, spesso senza verifiche di identità o consenso.
Il provvedimento prevede:
- Limitazioni immediate nel trattamento dei dati degli utenti italiani
- Il divieto di utilizzo di immagini manipolate di persone, minori inclusi, pubblicate online senza adeguate verifiche di identità e consenso
Normative e violazioni rilevate
Il blocco si fonda sul GDPR e sul AI Act europeo, che impongono la marcatura chiara di contenuti generati dall’intelligenza artificiale. Clothoff, inoltre, trasferisce la responsabilità d’uso agli utenti, senza adottare adeguate misure di prevenzione o verifica.
La legge italiana 132/2025 richiede che, per i minorenni sotto i 14 anni, sia necessario il consenso dei genitori, mentre tra i 14 e i 18 anni deve essere fornita informativa comprensibile sui rischi associati all’utilizzo di queste tecnologie. La piattaforma in questione non effettua verifiche anagrafiche, violando chiaramente queste norme.
Il trattamento artificiale di immagini rappresenta un alto rischio per la dignità, la riservatezza e la protezione dei dati personali delle persone coinvolte. Già nel 2020, il Garante Privacy aveva avviato un’istruttoria su piattaforme come Telegram e diffuso schede informative sui pericoli della nudificazione artificiale.
In Italia, si sono verificati casi di cronaca come quello di alcuni studenti di una scuola media di Roma e di Latina, che nel 2023 e 2024 hanno manipolato immagini di coetanee, divulgando contenuti violenti e dannosi sui social. Il Garante ha annunciato una più ampia indagine per contrastare efficacemente tutte le applicazioni di nudificazione artificiale, estendendo i controlli anche ad altre piattaforme del settore.
Il blocco di Clothoff rimarrà in vigore fino al completamento dell’istruttoria, durante la quale si valuteranno le misure di sicurezza e la conformità alle normative europee e italiane, in un contesto di crescente attenzione alla tutela dei minori e alla lotta contro i deepfake a luci rosse.
FAQs
Il Garante blocca Clothoff: un caso di deepfake a luci rosse coinvolge un minore
L'emergere del fenomeno dei deepfake pornografici e i rischi per i minori
Negli ultimi anni, analizzando l'espansione di questa minaccia digitale, emerge come il fenomeno dei deepfake a luci rosse rappresenti una crescente preoccupazione a livello globale. Spesso, infatti, si sottolinea come la ricerca condotta dall'organizzazione no profit americana Thorn evidenzi che 1 adolescente su 17 tra i 13 e i 20 anni si trovi involontariamente coinvolto in situazioni di pornografia deepfake. Inoltre, si nota con preoccupazione come circa uno su otto di questi giovani conosca personalmente qualcuno che abbia vissuto questa esperienza.
Quest'onda di violazioni si sta diffondendo rapidamente, generando un allarme sociale sia in Italia che nel resto del mondo, soprattutto tra i soggetti più vulnerabili: i Minori. Questi, infatti, risultano particolarmente suscettibili alle manipolazioni delle immagini e ai conseguenti rischi di natura psicologica e legale.
Modalità di manipolazione e piattaforme coinvolte
Più nel dettaglio, le piattaforme di intelligenza artificiale generativa come Clothoff, BikiniOff e DeepNude permettono di alterare fotografie di persone reali, creando immagini sessualmente esplicite senza alcun consenso. Dati forniti da Graphika, inoltre, indicano che oltre 100 siti web che offrono servizi di "nudify" attirano quotidianamente milioni di visitatori, evidenziando la diffusione capillare di questo fenomeno.
Questo problema non riguarda solo cittadini comuni, ma coinvolge anche celebrità: nel 2014, immagini pornografiche false di Taylor Swift sono diventate virali, dimostrando come questa problematica possa raggiungere un pubblico vastissimo e diffondere contenuti dannosi e ingannevoli.
Impatto e diffusione tra gli utenti più giovani
- In Gran Bretagna, uno studio di ESET rivela che una donna su 10 è stata vittima di deepfake pornografico, confermando la gravità del problema anche in contesti più ampi.
- La stessa ricerca sottolinea che il 13% degli adolescenti conosce qualcuno che ha generato o condiviso materiale pornografico deepfake raffigurante minorenni, mettendo in luce l’ampiezza della diffusione tra i più giovani.
Il ruolo del Garante italiano e le azioni di contrasto
In risposta a questa emergenza, il 3 ottobre, il Garante per la protezione dei dati personali ha immediatamente bloccato la piattaforma Clothoff, gestita dalla società britannica AI/Robotics Venture Strategy 3. Quest’ultima offriva servizi gratuiti e a pagamento per la creazione di deep nude, ovvero immagini manipolate di persone reali, spesso senza verifiche di identità o consenso, aumentando così i rischi di abusi.
Il provvedimento normativo, inoltre, ha previsto:
- Limitazioni immediate nel trattamento dei dati degli utenti italiani coinvolti;
- Il divieto di utilizzo di immagini manipolate di persone, specialmente se minorenni, pubblicate online senza adeguate verifiche di identità e consenso.
Normative e violazioni rilevate
Le motivazioni del blocco si fondano sul rispetto del GDPR e sul AI Act europeo, che impongono regole stringenti sulla marcatura chiara dei contenuti generati dall’intelligenza artificiale. In aggiunta, Clothoff trasferisce la responsabilità d’uso agli utenti, senza adottare adeguate misure di prevenzione o verifica, aumentando così il rischio di abusi.
Per quanto riguarda la normativa italiana, la legge 132/2025 stabilisce, tra le altre cose, che per i minorenni sotto i 14 anni è necessario il consenso dei genitori, mentre tra i 14 e i 18 anni bisogna fornire informativa comprensibile sui rischi di questa tecnologia. Tuttavia, la piattaforma oggetto del blocco non effettua verifiche anagrafiche, violando evidentemente queste norme.
Il trattamento artificiale di immagini, inoltre, rappresenta un alto rischio per la dignità, la riservatezza e la protezione dei dati personali delle persone coinvolte. Già nel 2020, il Garante Privacy aveva avviato un’istruttoria su piattaforme come Telegram, diffondendo schede informative sui pericoli della nudificazione artificiale.
In Italia, si sono verificati casi di cronaca, come quelli di alcuni studenti di una scuola media di Roma e di Latina nel 2023 e 2024, che hanno manipolato immagini di coetanee, divulgando contenuti violenti e dannosi sui social. Di fronte a tali episodi, il Garante ha annunciato un’indagine più ampia per contrastare efficacemente tutte le applicazioni di nudificazione artificiale, estendendo i controlli anche ad altre piattaforme del settore.
Il blocco di Clothoff rimarrà in vigore fino al completamento dell’istruttoria, durante la quale si valuteranno le misure di sicurezza e la conformità alle normative europee e italiane, in un contesto di crescente attenzione alla tutela dei minori e alla lotta contro i deepfake a luci rosse.
Domande frequenti (FAQ)
Un deepfake è un contenuto video o immagine manipolato attraverso tecniche di intelligenza artificiale, che permette di sovrapporre volti o alterare la realtà visiva in modo realistico. La realizzazione avviene utilizzando algoritmi di deep learning, che analizzano e riproducono le caratteristiche di persone reali, spesso senza il loro consenso.
I principali rischi includono la perdita di privacy, danni alla dignità, traumi psicologici e la possibilità di essere coinvolti in attività illegali o diffamatorie. Inoltre, l'uso non autorizzato può portare a conseguenze legali e sociali molto serie, specialmente per i minori vulnerabili.
Riconoscere un deepfake può essere difficile, ma alcuni segnali includono inconsistenze visive, movimenti innaturali, anomalie nei dettagli del volto o dello sfondo, eccessiva deformazione delle caratteristiche facciali o delle proporzioni corporee. Tuttavia, con l’evoluzione della tecnologia, i deepfake stanno diventando sempre più realistici.
Piattaforme di intelligenza artificiale generativa come Clothoff, BikiniOff, DeepNude, e altri siti web dedicati alla nudify e manipolazione di immagini rappresentano i principali strumenti utilizzati per creare e diffondere deepfake a luci rosse, spesso senza adeguate misure di sicurezza o verifica dell’identità.
Il Garante italiano ha approvato il blocco immediato di piattaforme come Clothoff, imponendo restrizioni sul trattamento dei dati e vietando la pubblicazione di immagini manipolate di minori senza consenso. Inoltre, avvia indagini e controlli più approfonditi sul settore, per contrastare efficacemente questo fenomeno e proteggere i soggetti più vulnerabili.
Le normative principali includono il GDPR e l'AI Act europeo, che impongono l’obbligo di marcatura chiara dei contenuti generati dall’intelligenza artificiale e la responsabilità degli utenti. La legge italiana 132/2025 richiede il consenso dei genitori per i minorenni sotto i 14 anni e un’informativa comprensibile tra i 14 e i 18 anni, norme che molti servizi attualmente non rispettano.
Il trattamento artificiale di immagini rappresenta un alto rischio per la dignità, la riservatezza e la protezione dei dati personali dei minori coinvolti. Può portare a traumi psicologici, abuso, cyberbullismo e implicazioni legali, rendendo essenziale un intervento normativo e di tutela più efficace.
Il Garante ha avviato indagini, bloccato piattaforme come Clothoff e promosso campagne di sensibilizzazione per aumentare la consapevolezza sui rischi dei deepfake pornografici. È inoltre impegnato nell’estendere i controlli alle nuove piattaforme che emergono nel settore, per tutelare i minori e contrastare queste forme di abuso digitale.
