Per decenni una telecamera ha avuto un compito relativamente semplice: registrare. Raccoglieva immagini che qualcuno avrebbe guardato dopo un evento, alla ricerca di una presenza, di una targa o di un gesto. La visione artificiale cambia questa sequenza. Un sistema può individuare persone e veicoli, seguire una traiettoria, contare accessi, riconoscere oggetti lasciati in un luogo o segnalare una situazione che si discosta da una regola impostata. Non è più soltanto un archivio di immagini: diventa un filtro che decide a cosa prestare attenzione.
Questo può essere utile quando l’attenzione umana non basta. In una stazione, in un ospedale, in un cantiere o in un museo, il software può aiutare a ridurre ore di materiale da controllare e inviare un avviso su una porta lasciata aperta, un veicolo in un’area vietata, una caduta o un affollamento anomalo. Ma “anomalo” non è un dato naturale: è una definizione. Qualcuno sceglie quali comportamenti contano, quale soglia fa partire l’allerta e chi riceve la segnalazione. La vera domanda non è se la camera vede meglio; è chi ha scritto la regola con cui interpreta ciò che vede.
Occorre distinguere questa analisi dal riconoscimento facciale. Rilevare che una persona attraversa uno spazio, o che un oggetto resta incustodito, non equivale a stabilire l’identità di chi appare nell’immagine. Il riconoscimento biometrico crea o confronta una rappresentazione del volto e può portare a identificare, verificare o categorizzare una persona. Sono tecnologie diverse, con conseguenze diverse. Confonderle rende più difficile capire quando un sistema sta soltanto assistendo un operatore e quando invece sta costruendo un profilo su qualcuno.
Nella fantascienza questo passaggio è stato raccontato prima che diventasse ordinario. In *Minority Report* gli schermi non si limitano a osservare: anticipano e inseguono. In *Blade Runner* l’immagine viene ingrandita fino a diventare una prova da interrogare. *Gattaca* trasforma il corpo in una chiave d’accesso, mentre *Person of Interest* immagina una macchina che seleziona ogni giorno quali vite meritino attenzione. Queste opere non prevedono il presente in modo letterale: ci ricordano che il problema comincia quando uno sguardo tecnico diventa una decisione sociale.
L’approfondimento più importante non riguarda quindi soltanto la precisione del modello. I test del NIST mostrano che gli errori di riconoscimento possono variare per età, sesso e gruppi demografici; qualità dell’immagine, condizioni di ripresa e soglia scelta incidono sul risultato. Un alert non dovrebbe essere trattato come una colpa, né una somiglianza come un’identità accertata. Più una tecnologia viene usata per limitare un accesso, fermare una persona o orientare un intervento, più servono verifica umana, registri delle decisioni e possibilità di contestare un errore.
In Europa il quadro non è lasciato alla sola buona volontà del fornitore. Le linee guida dell’EDPB richiamano principi di necessità, proporzionalità, trasparenza e limitazione della raccolta per l’uso di dispositivi video. L’AI Act introduce poi limiti specifici, inclusi quelli per l’identificazione biometrica remota in tempo reale in spazi accessibili al pubblico, con eccezioni circoscritte per le forze dell’ordine. Non è un dettaglio burocratico: significa che un progetto di sicurezza deve essere pensato come un sistema tecnico, giuridico e organizzativo insieme.
Per chi progetta spazi e immagini, questo apre anche una questione di linguaggio. Un luogo può essere sicuro senza diventare opaco? Un avviso può essere comprensibile senza rivelare più dati del necessario? Una camera può aiutare a prevenire un rischio senza trasformare ogni passante in una variabile sospetta? La qualità di un sistema non si misura soltanto da quanti eventi rileva, ma da quanti falsi allarmi evita, da quanto rende visibili le proprie regole e da quanto restituisce controllo alle persone coinvolte.
SGUARDO DI CONTROLLO non è un invito a demonizzare le telecamere intelligenti. È un promemoria: quando un dispositivo comincia a selezionare, classificare e suggerire, la sua visione entra nel campo delle decisioni. L’AI può rendere la sicurezza più tempestiva; non può rendere automatica la responsabilità. Quella resta umana, prima dell’allerta e dopo.