Intervento urgente dell’Autorità Garante della Privacy contro Clothoff
Il Garante Privacy ha disposto un provvedimento immediato nei confronti di Clothoff, piattaforma di intelligenza artificiale generativa che permette di creare immagini sessualmente esplicite manipolando fotografie digitali. La decisione nasce dalla crescente preoccupazione per il rischio che l’app rappresenta per i minori e la tutela della privacy.
Il 3 ottobre, l’ente ha annunciato la limitazione temporanea del trattamento dei dati personali degli utenti italiani, rivolgendosi alla società AI/Robotics Venture Strategy 3, con sede nelle Isole Vergini Britanniche, evidenziando l’urgenza di arginare le pratiche lesive.
I pericoli rischi legati alla tecnologia di Clothoff e l’accessibilità senza filtri
Clothoff offre servizi di AI generativa che consentono, sia gratuitamente che tramite canali a pagamento, di generare i famigerati “deep nude”: immagini e video falsificati di persone reali in pose esplicite, spesso con soggetti minorenni. La piattaforma è facilmente accessibile, senza richiedere verifiche d’identità o consenso, facilitando così il diffondersi di contenuti pericolosi.
Un elemento particolarmente critico sottolineato dal Garante riguarda la scarsa visibilità del watermark, ovvero il marchio che potrebbe indicare la provenienza artificiale delle immagini. La sua facile rimozione agevola la diffusione di contenuti illeciti, rendendo più difficile l’identificazione e la prevenzione di abusi.
Violazioni delle normative e responsabilità
Il provvedimento si basa sulle norme del Regolamento Generale sulla Protezione dei Dati (GDPR) e del nuovo AI Act europeo, che impongono di marcare i contenuti generati o manipolati da AI. La società, tuttavia, non avrebbe adottato misure tecniche efficaci per prevenire usi impropri, lasciando agli utenti la responsabilità di manipolare immagini di minorenni senza adeguate verifiche.
Il mancato rispetto di tali obblighi rappresenta una grave violazione della normativa, rischiando sanzioni e danni irreparabili alla tutela dei soggetti coinvolti.
Le norme sull’età e le criticità di Clothoff
- I minori sotto i 14 anni devono ottenere il consenso dei genitori per accedere ai servizi di AI.
- Tra 14 e 18 anni, è richiesta una chiara informativa sui rischi collegati all’uso della piattaforma.
Clothoff, tuttavia, non svolge verifiche d’età, permettendo l’accesso indiscriminato anche a soggetti minorenni e facilitando la manipolazione di immagini di minori stessi, in violazione delle disposizioni legislative italiane come la legge n. 132/2025.
Rischi sociali e futuro monitoraggio
La decisione di bloccare temporaneamente Clothoff scaturisce dai rischi elevati che le pratiche di nudificazione artificiale rappresentano per la dignità, la privacy e la sicurezza dei minori. In un contesto in cui si moltiplicano i casi di abusi digitali evidenziati dai fatti di cronaca, l’intervento del Garante mira a prevenire danni irreparabili.
L’Autorità ha avviato un monitoraggio più ampio su altre piattaforme simili, con l’obiettivo di contrastare efficacemente ogni forma di manipolazione delle immagini e garantire la piena conformità alle normative europee e nazionali.
Il blocco temporaneo sarà in vigore fino alla conclusione delle indagini, durante le quali si valuteranno le misure di sicurezza adottate e si garantirà la tutela dei soggetti più vulnerabili, in special modo i minori.
FAQs
Clothoff sotto sequestro dal Garante Privacy: intervento urgente contro l’app “deep nude” minacciosa per i minori
Domande frequenti su Clothoff bloccata dal Garante Privacy: intervento d’urgenza contro l’app "deep nude" che minaccia i minori
Il Garante Privacy ha deciso di intervenire urgentemente per fermare Clothoff a causa dei rischi elevati di manipolazione di immagini sessualmente esplicite, spesso involving minors, senza adeguate protezioni o verifiche d’età, mettendo a rischio la privacy e la sicurezza dei soggetti più vulnerabili.
I principali pericoli includono la diffusione di immagini manipolate di minori in pose esplicite, spesso senza consenso, e la possibilità che tali contenuti vengano utilizzati per scopi illeciti o di cyberbullismo, amplificando il rischio di danni psicologici e alla privacy.
Clothoff utilizza intelligenza artificiale generativa per manipolare fotografie digitali e creare immagini sessualmente esplicite, spesso partendo da immagini reali o foto di persone, inclusi minorenni, rendendo il processo estremamente semplice e accessibile senza filtri grandi o verifiche d’identità.
La mancanza di verifiche d’età permette a minori di accedere facilmente alla piattaforma e manipolare immagini di altri minori, violando normative sulla protezione dei minori e aumentando il rischio di esposizione a contenuti dannosi e illegali.
Clothoff ha violato il GDPR e l’AI Act europeo, che impongono trasparenza, marcatura dei contenuti generati da AI, e l’implementazione di misure di sicurezza per prevenire abusi e manipolazioni di contenuti sensibili.
La legge italiana, come la legge n. 132/2025, vieta la manipolazione e la diffusione di immagini di minori senza consenso e impone verifiche d’età rigorose, oltre a sanzioni severe per chi viola tali norme, garantendo così la tutela dei soggetti più vulnerabili.
L’uso non controllato può favorire l’aumento di abusi digitali, cyberbullismo, distribuzione di contenuti illeciti e la perdita di fiducia nei strumenti tecnologici, comprometendo la sicurezza di minori e adulti.
Il Garante sta effettuando un monitoraggio attento e continuo di altre piattaforme, valutando le misure di sicurezza adottate, promuovendo l’applicazione delle normative e intervenendo prontamente per bloccare contenuti illegali o dannosi.
Il provvedimento definitivo si attende al termine delle indagini in corso, durante le quali si valuteranno le misure di sicurezza adottate e si prenderanno decisioni per garantire la tutela dei minori e l’applicazione delle normative vigenti.
