L'intelligenza artificiale e il rischio dell'automiglioramento ricorsivo: le sfide normative e i nuovi obblighi per la scuola

Il dibattito sull'integrazione dell'intelligenza artificiale (IA) nel sistema educativo italiano sta assumendo una connotazione di estrema urgenza, spostandosi da una semplice riflessione pedagogica a un piano di sicurezza esistenziale e conformità normativa. Il professor Vincenzo Schettini, noto fisico e divulgatore, ha recentemente lanciato un allarme serrato sulla velocità con cui queste tecnologie stanno evolvendo, citando il monito dell'azienda Anthropic. Il cuore della preoccupazione risiede nel passaggio dell'IA da strumento passivo, capace di eseguire compiti predefiniti, a un agente attivo dotato di capacità di automiglioramento ricorsivo.

Questo fenomeno, paragonato dalla comunità scientifica alla fissione nucleare per la sua capacità di auto-alimentarsi e moltiplicarsi in modo esponenziale, rappresenta una sfida senza precedenti per i regolatori. Se un sistema di IA inizia a progettare autonomamente le proprie versioni successive, il rischio è che la velocità di innovazione superi drasticamente la capacità umana di comprensione e di controllo. In questo scenario, la scuola non può limitarsi a un approccio acritico: l'uso non regolamentato di tali strumenti da parte degli studenti e del personale potrebbe portare a quella che Schettini definisce un "suicidio mentale", compromettendo le basi stesse dell'apprendimento e della consapevolezza critica.

Parallelamente alla riflessione etica, il quadro normativo europeo si sta strutturando per rispondere a queste minacce attraverso l'AI Act (Regolamento UE 2024/1689). Questo testo rappresenta il primo quadro giuridico globale volto a garantire un'IA affidabile, classificando i rischi e stabilendo obblighi rigorosi per i fornitori e gli utilizzatori. Per le istituzioni scolastiche, la sfida è duplice: da un lato, garantire la sicurezza dei dati e dei diritti fondamentali degli studenti; dall'altro, assicurare che gli strumenti adottati siano conformi alle scadenze perentorie e alle severe sanzioni previste dalla normativa comunitaria.

Il quadro normativo europeo: scadenze e obblighi per il settore educativo

L'applicazione dell'AI Act non è immediata ma avviene per fasi, con scadenze specifiche che le scuole e le amministrazioni devono monitorare con precisione. Già dal 2 febbraio 2025, sono entrate in vigore le proibizioni sulle pratiche di IA dannose. Questo include, in modo molto specifico per il contesto scolastico, il divieto di utilizzare sistemi di IA per il riconoscimento delle emozioni negli ambienti educativi e lavorativi. Tale divieto mira a proteggere la privacy e l'integrità psicologica degli studenti, impedendo forme di sorveglianza biometrica o comportamentale che potrebbero influenzare negativamente il percorso di apprendimento.

Un altro pilastro fondamentale, entrato in vigore nella medesima data, è l'obbligo di alfabetizzazione sull'IA (AI literacy). Questo requisito impone ai fornitori e ai "deployer" (ovvero chi utilizza i sistemi nell'ambito organizzativo) di garantire che il personale abbia un livello di consapevolezza adeguato. Per i docenti e il personale ATA, ciò significa che la formazione non può essere facoltativa: è necessario comprendere i limiti, i rischi di bias e le potenzialità degli strumenti per evitare una dipendenza tecnologica che svuoti di significato le competenze umane. La scuola deve diventare il luogo dove si impara a "navigare" l'IA, non solo a consumarla.

Le scadenze successive delineano un percorso di conformità sempre più stringente. Dal 2 agosto 2025, iniziano ad applicarsi le regole per i modelli di IA generativa (GPAI) e la definizione delle autorità nazionali di vigilanza. Tuttavia, il punto di svolta per le istituzioni scolastiche riguarda i sistemi di alto rischio. Grazie al Regolamento (UE) 2026/1744 (AI Omnibus), le scadenze per i sistemi ad alto rischio sono state posticipate al 2 dicembre 2027. Questi sistemi includono esplicitamente le soluzioni di IA utilizzate nelle istituzioni educative che determinano l'accesso all'istruzione o il percorso professionale, come gli algoritmi di valutazione degli esami o di selezione degli studenti.

Sanzioni e responsabilità: il costo della non conformità

La severità dell'AI Act si riflette direttamente nel sistema sanzionatorio, che è stato progettato per essere più rigido rispetto a quello del GDPR. Le violazioni delle norme di trasparenza possono comportare multe fino a 15 milioni di euro o il 3% del fatturato globale. Ancora più pesanti sono le sanzioni per la violazione delle proibizioni esplicite (come il riconoscimento delle emozioni a scuola), che possono raggiungere i 35 milioni di euro o il 7% del fatturato globale. Questi numeri sottolineano come la responsabilità legale non ricada solo sui giganti tecnologici, ma anche su chi decide di integrare questi sistemi nei processi decisionali pubblici e scolastici senza le dovute verifiche.

Il rischio identificato da esperti come Schettini e dai documenti tecnici di Anthropic è che, in assenza di una "pausa" o di un rallentamento consapevole, i difetti di programmazione originari possano essere ingigantiti in modo esponenziale attraverso l'automiglioramento ricorsivo. Se un software scolastico inizia a generare autonomamente i propri aggiornamenti, potrebbe allontanarsi drasticamente dallo scopo originario per cui è stato creato, portando a risultati non allineati con il benessere degli studenti. Per questo motivo, la supervisione umana non è solo un requisito tecnico, ma una garanzia etica imprescindibile che deve essere documentata e verificabile in ogni fase dell'adozione tecnologica.

Impatto operativo: cosa cambia davvero per docenti, ATA e dirigenti

L'analisi del quadro normativo e delle preoccupazioni scientifiche delinea un percorso operativo chiaro per chi opera quotidianamente negli istituti scolastici. Non si tratta solo di "usare o meno" l'intelligenza artificiale, ma di gestire una transizione verso un ecosistema digitale regolamentato. Per i dirigenti scolastici, la priorità immediata è l'inventario dei sistemi già in uso: ogni software che utilizzi algoritmi per la gestione degli studenti deve essere classificato in base al rischio. È fondamentale verificare che i fornitori di tali servizi garantiscano la conformità agli standard di qualità dei dati e alla documentazione tecnica richiesta dall'AI Act.

Per il personale docente e ATA, il cambiamento più tangibile riguarda la formazione continua. L'obbligo di alfabetizzazione sull'IA non deve essere interpretato come un semplice corso teorico, ma come uno strumento per sviluppare una consapevolezza critica. I docenti dovranno essere in grado di identificare quando un sistema di IA sta fornendo risposte basate su pregiudizi o quando un contenuto generato da una macchina richiede una verifica umana approfondita. La scuola deve promuovere un uso dell'IA che sia finalizzato al potenziamento delle capacità umane e non alla loro sostituzione, evitando che la tecnologia diventi una "scatola nera" decisionale.

Per le famiglie, la trasparenza diventa un diritto fondamentale. Le scuole dovranno essere in grado di spiegare chiaramente quali strumenti di IA vengono utilizzati, con quali finalità e quali garanzie di privacy sono state adottate. La consapevolezza dei genitori è essenziale per monitorare l'impatto dell'IA sui percorsi di studio dei figli, assicurando che l'uso di queste tecnologie non avvenga in modo acritico, ma sia supportato da una guida pedagogica solida e da una supervisione costante degli adulti.

Azioni concrete per la scuola: checklist di conformità e preparazione

Per prepararsi alle scadenze del 2027 e gestire le norme già in vigore, le istituzioni scolastiche dovrebbero intraprendere le seguenti azioni operative:

• Audit dei sistemi attuali: Censire tutti i software e le piattaforme digitali utilizzate per la valutazione, la gestione degli accessi o la personalizzazione dell'apprendimento.
• Verifica dei fornitori: Richiedere ai fornitori di tecnologia dichiarazioni di conformità all'AI Act, con particolare attenzione alla classificazione dei rischi (Annex III).
• Piano di Alfabetizzazione: Avviare programmi di formazione per docenti e personale ATA focalizzati sull'etica dell'IA, sulla gestione dei dati e sul riconoscimento dei contenuti sintetici.
• Revisione dei programmi: Integrare nei piani di studio la componente etica della tecnologia, educando gli studenti ai rischi dell'automiglioramento ricorsivo e alla necessità di un pensiero critico indipendente.
• Monitoraggio delle proibizioni: Verificare che nessun sistema di IA utilizzato nell'ambito scolastico sia destinato al riconoscimento delle emozioni o ad altre pratiche vietate dal Regolamento UE 2024/1689.

Sebbene i dettagli tecnici specifici delle autorità nazionali italiane per la vigilanza sui sistemi ad alto rischio nel settore scolastico non siano ancora pienamente definiti, la direzione è chiara: la conformità non può essere rimandata. Le istituzioni che iniziano oggi la revisione dei propri processi e la formazione del personale saranno quelle in grado di trasformare la sfida dell'intelligenza artificiale in un'opportunità di reale evoluzione educativa, proteggendo al contempo i diritti fondamentali della comunità scolastica. Il monito di Schettini e la richiesta di "pausa" di Anthropic non sono un invito all'isolamento tecnologico, ma un richiamo alla responsabilità. La scuola deve agire come un filtro critico, assicurandosi che l'innovazione non scappi di mano, ma rimanga uno strumento al servizio dell'uomo, della pedagogia e della sicurezza.

Per approfondimenti tecnici sulla normativa europea, è possibile consultare il portale ufficiale della Digital Strategy della Commissione Europea relativo all'AI Act.