Italian Tech

Governance

Perché le IA fanno fatica a prevenire le stragi nelle scuole

Perché le IA fanno fatica a prevenire le stragi nelle scuole

Negli istituti americani stanno prendendo piede software per individuare le armi ma i pareri dei distretti scolastici non sono unanimi nel riconoscerne l’utilità. Il problema non sono le IA, ma la governance

3 minuti di lettura

Il panorama della sicurezza nelle scuole degli Stati Uniti è al centro di una trasformazione guidata dalle IA, adottata dagli istituti in seguito ai tanti episodi di violenza.

Quella che più è rimasta impressa nella memoria collettiva è la strage alla Columbine High School (Colorado) del 1999, costata la vita a 13 persone. Nel corso del tempo si sono consumati altri episodi, tra i quali la strage del 2012 alla scuola Sandy Hook di Newtown (Connecticut) e la più recente sparatoria alla Florida State University, occorsa ad aprile del 2025.

Tutto ciò è successo nonostante l’ampia diffusione di videocamere di cui sono dotati il 93% dei plessi scolastici americani.

Ciò suggerisce che il mero osservare non restituisce gli effetti voluti. Nel contempo, un numero crescente di distretti scolastici ha adottato strumenti IA per individuare armi o alterchi fisici, cercando così di colmare il divario tra l'uso forense delle immagini e il rilevamento proattivo di una minaccia proprio mentre questa si sviluppa.

Come sempre, l’automazione promette velocità ma introduce nuove complessità. Questo vale per qualsiasi ambito, anche al di fuori di quello scolastico, e vale in qualsiasi Paese, anche al di fuori degli Usa.

Il dilemma tra efficacia e falsi allarmi

L'efficacia di questi sistemi IA è oggetto di dibattito a causa di risultati contrastanti sul campo.

Nel distretto di Nashville (Tennessee), l'adozione di una tecnologia di rilevamento ha permesso di identificare sei armi da fuoco, dimostrando risultati apprezzabili. Tuttavia, la cronaca riporta episodi di segno opposto come quello avvenuto a fine 2025 nella contea di Baltimore, dove il software ha scambiato un sacchetto di patatine per una pistola, provocando l'intervento della polizia ad armi spianate.

Una successiva indagine condotta dall'ispettore generale locale ha raccomandato una maggiore formazione del personale, evidenziando come l'instradamento degli allarmi verso dipendenti esperti, piuttosto che ai soli presidi, può ridurre drasticamente i falsi positivi.

Il successo tecnologico dipende quindi in modo critico dal posizionamento delle telecamere e dalla verifica umana.

Standard tecnici e lacune nella governance

La velocità con cui queste tecnologie vengono acquistate sta superando la capacità delle istituzioni di stabilire regole condivise e buone norme d’uso.

ASIS International, l'associazione internazionale per i professionisti della gestione della sicurezza, sta lavorando per definire linee guida comuni e, a luglio del 2024, ha pubblicato uno standard per la sicurezza scolastica che è in realtà un cantiere aperto, giacché al centro di revisioni per adeguarlo ai ritmi con cui evolve l’innovazione.

Ron Self, direttore delle iniziative strategiche presso Centegix, una società che sviluppa piattaforme di allerta rapida per le emergenze, osserva che ogni scuola è un ecosistema unico e che non esiste una soluzione universale.

I limiti delle IA, anche di quelle più evolute

La disposizione di videocamere e l’adozione di algoritmi non sono sufficienti a scongiurare il peggio. L’analisi dei dati, automatizzata per restituire risultati in tempo reale, è vitale ancorché insufficiente.

Ed è qui che si può uscire dall’ambito scolastico e pure dagli Stati Uniti, perché il problema è più o meno lo stesso ovunque un sistema di IA venga chiamato a riconoscere un pericolo e suggerire una reazione adeguata.

Vedere non significa capire e, parallelamente, capire non vuole dire per forza di cose decidere nel modo giusto. Un algoritmo può segnalare una pistola, un comportamento anomalo, un veicolo fuori posto o una persona che entra in un’area vietata. Tra ciò che può sfuggirgli c’è il conteso, ci sono le intenzioni, la logica dell’etica e la capacità di misurare le intenzioni. A corredo, e questa è forse la montagna più alta da scalare, occorre stabilire chi deve assumersi le responsabilità che derivano da un errore.

L’intervento umano

In contesti simili, il controllo umano smette di essere un accessorio e diventa parte integrante del sistema IA. Infatti, qualcuno deve verificare l’allarme, stabilire se si tratta di una minaccia reale, scegliere quale procedura attivare e valutare se la risposta automatica rischia di produrre un danno maggiore di quello che dovrebbe prevenire. In assenza di questi passaggi l’IA può pagare lo scotto di essere monca. Più veloce dell’uomo nel riconoscere schemi ma scevra di quella sensibilità intellettuale che consente di distinguere un indizio da una prova, un’anomalia da un’eccezione e, ancora prima, una probabilità da una certezza.

Riflessioni che vanno oltre gli istituti scolastici e valgono negli ospedali, nei trasporti, nelle fabbriche, nella cybersecurity e in ogni altro settore in cui una macchina può accorciare i tempi di individuazione di un problema. L’IA può vedere prima, correlare più dati e avvertire più rapidamente. Ma quando da un allarme dipendono libertà, sicurezza o persino l’incolumità delle persone, l’ultima parola non può essere ridotta a una soglia statistica.