Laura Carrer

Black Box

Sicurezza e sorveglianza nelle nostre citt

Ledizioni

© 2023 Ledizioni LediPublishing

Via Boselli 10, 20136 Milano, Italy

http://www.ledizioni.it

e-mail: info@ledizioni.it

Laura Carrer, Black Box. Sicurezza e sorveglianza nelle nostre città

Prima edizione Ledizioni: giugno 2023

ISBN cartaceo 9788855267397
ISBN eBook 9788855269490

Responsabile di collana: Massimo Colasurdo

Illustrazioni di copertina: Fabio Di Corleto

Le riproduzioni a uso differente da quello personale potranno avvenire, per un numero di pagine non superiore al 15% del presente volume, solo a seguito di specifica autorizzazione rilasciata da Ledizioni, Via Boselli 10, 20136 Milano, e-mail: info@ledizioni.it

Indice

Prefazione. L'antidoto è la realtà
di Fabio Chiusi

Come codici a barre: l'identificazione diventa un'arma

Quo vadis? Ti vedo

Un algoritmo è solo una probabilità

Cosa c’è nella black box?

Se non c’è legge, in un mondo di leggi

Per una visione critica dell’IA: no al tecnosoluzionismo

Catalogare la pestilenza, sorvegliare le carceri

La sorveglianza silenziosa del Panottico

Impronte digitali: lo scandalo francese

Dal Bertillonage all’enorme database Afis

2001: anno spartiacque per la sorveglianza biometrica

La fabbrica della sicurezza

Governare l’insicurezza

Sul significato di sicurezza

Città sicure…ma per chi?

La sicurezza è percezione?

La supposta “integrità delle città”

Un esempio di insicurezza su Milano

Una città per donne, minoranze etniche, persone lgbtq+

Ceci n’est pas une solution

I sindaci “sceriffi” e il ministero dell’interno

Il clou della sicurezza urbana: finanziare la videosorveglianza

Soldi pubblici mal spesi, privacy in secondo piano

Prima nazionale, poi locale: il sistema SARI e il comune di Como

“Sotto la legge la libertà”... di essere identificati con SARI

Non possiamo saperlo

Scoperchiare il vaso di Pandora

Schedati “gli stranieri”. La relazione AFIS-immigrazione

Sari real-time: è sorveglianza di massa

Riprenditi la faccia

Huawei al Parco Tokamachi

Storia di un’inchiesta

A decidere sull’innovazione a Como è Huawei

Face detection non è face recognition

Como non è l’unica: Torino e Udine

La cultura della sorveglianza

Dalla società della disciplina a quella del controllo

La città come laboratorio di sorveglianza

Chilling effect: quel diritto non esercitato

Di smart non c’è niente: la dataveillance city

L’utente non è prodotto, ma fonte della materia prima

La dataveillance city

Riprendersi la città

Tutti sorvegliano tutti

PREFAZIONE. L'antidoto  la realt

di Fabio Chiusi

Il libro che avete tra le mani è un antidoto. Un principio di cura per la nostra società malata di controllo. Un libro importante, questo della ricercatrice e giornalista Laura Carrer. Perché ci mette di fronte al grande assente di troppi dibattiti su tecnologia, politica e società: il reale.

Scrivo queste righe mentre il mondo intero è ammaliato dalle panzane parascientifiche dei sostenitori della “superintelligenza” alle porte, che starebbe per portarci insieme in un’utopia di abbondanza senza precedenti né fine e alle soglie dell’estinzione della razza umana (come si governa un dio, dopotutto, per quanto digitale?). Articoli su articoli (perlopiù scandalistici, informati dall’immaginario della fantascienza anni ’80 più che dagli ultimi dati scientifici); conferenze su conferenze (dove chi si è arricchito per anni costruendo l’attuale status quo algoritmico si batte il petto pieno di rimorsi e pentimento, per catalizzare altre attenzioni e denaro); e tante, tante previsioni (quante nemmeno una intelligenza artificiale sarebbe capace di produrne). Tante da occupare lo spazio del dibattito pubblico, interamente.

Il risultato è che l’ipotetico si sostituisce al fattuale, l’ideale al reale. Perché mentre i talk show e le prime pagine si riempiono delle parole chiave della nuova religione di Silicon Valley (quella che ha un dio, sì, ma artificiale), lo spazio e il tempo per riflettere in modo critico sui reali effetti prodotti dalle nuove tecnologie “intelligenti” (o presunte tali) scompaiono.

Così, quando ogni mattina compio con il mio cane il tragitto che ci separa dal nostro bar preferito per la colazione, posso incrociare delle videocamere di sorveglianza cinesi a guardia del tribunale della mia città, Udine, senza che ciò sia mai considerato un problema. Così, giunto finalmente di fronte a un caffè, posso leggere la stampa locale riportare le parole dell’ex sindaco sulla necessità di dotare di riconoscimento facciale le telecamere di mezza città (o di tutta, a piacere, chissà), così da mettere al riparo la sicura e sonnacchiosa cittadina di provincia dagli infiniti pericoli che starebbe (pare) correndo. A partire dal mio quartiere, la zona della stazione. Il quartiere non più malfamato, ma più diffamato della mia città. Un luogo che posso dire sicuro, avendoci oramai vissuto per oltre due anni, frequentandolo di giorno e di notte, spesso di nuovo per le urgenze del mio ansioso quadrupede. Ma che invece è militarizzato come il fronte di un conflitto. Un nuovo presidio della polizia locale. Pattuglie costanti. Perquisizioni a passanti. Videocamere di sorveglianza ovunque. Perfino una camionetta dell’esercito, perennemente in circolo come una lenta vettura di soccorso su un immaginario tracciato di Formula 1, a dimostrare con la sua presenza che sì, lo Stato c’è e ci protegge. Ma da cosa?

È questo il punto cruciale che lega la mia esperienza personale ai tanti insegnamenti che si possono trarre dal libro di Carrer. Quello da cui questo assemblaggio di strumenti e risorse di controllo e sorveglianza ci protegge, infatti, non sono tanto pericoli reali, quanto rischi percepiti. È una posizione condivisa dalla precedente amministrazione (di destra) della mia cittadina così come, e il libro lo mostra benissimo, da tutti i fautori del controllo totale (di ogni colore politico). Se serve riconoscimento biometrico ovunque, è per combattere la percezione dell’insicurezza nella popolazione. Si badi bene: non si parla di sradicare le cause profonde di ciò che attenta alla sicurezza pubblica e alla convivenza civile. Si dice chiaramente, e lo si dichiara come progetto politico, che la belva da addomesticare sono le nostre percezioni. Percezioni che, naturalmente, sono state nutrite da decenni di terrorismo mediatico; sui migranti immediatamente equiparati a criminali e/o pericoli per la sicurezza nazionale, innanzitutto.

Ed ecco realizzato il circolo vizioso che fa, di nuovo, scomparire la realtà: politica e media ideologicamente affini nutrono le stesse paure che poi le amministrazioni in carica promettono di sconfiggere (le paure, non chi o cosa le causa). E come? Con la tecnologia, naturalmente. A questo modo, finiamo per chiedere soluzioni fasulle a problemi irreali, giustificandone le premesse e perfino le conseguenze. È a questo modo che l’apparentemente vago e astratto dominio del “soluzionismo tecnologico” (l’idea che ogni problema sociale sia riducibile a problema tecnologico, e dunque risolvibile con una tecnologia) si traduce nello spuntare di videocamere di sorveglianza cinesi di fronte a tribunali e luoghi pubblici, in città grandi e piccole che però in ogni caso ricordano, dal mero punto di vista logico, sempre più luoghi in cui è normale il controllo digitale continuo, di ogni cosa avvenuta (e ancora non avvenuta, grazie alle analisi “predittive”). Non è solo tecnologia cinese: è logica cinese. Se l’accettiamo, è perché accettiamo di avere paura di ciò di cui ci viene detto di avere paura (i migranti); e perché accettiamo la plausibilità della soluzione (le tecnologie di sorveglianza). Così, terrorizzati e insieme rincuorati, possiamo dedicarci a futuribili pensieri sulle superintelligenze che verranno, e continuare a ignorare tutti gli infiniti problemi che quelle soluzioni tecnologiche proposte presentano già oggi. Non come rischi, ma come danni concreti.

Prendiamo il riconoscimento biometrico. Carrer ne spiega mirabilmente origini storiche e filosofiche, ma soprattutto la logica. Noi, si dice, dobbiamo diventare il nostro volto (o la nostra iride, la nostra impronta digitale, il nostro passo, etc.), perché a questo modo la gestione della nostra identità (e dunque l’esercizio dei diritti a essa connessi) diventerà più rapida ed efficiente. Al limite, diventerà frictionless, cioè priva di sforzo o frizioni. Tutto si eseguirà da sé. Un paradiso di automazione che ci libererà finalmente dalle code ai controlli di sicurezza in aeroporto, da lunghe e laboriose procedure di identificazione ai confini, dall’impiccio di dover cercare in tasca il portafogli o le chiavi di casa (si paga e si apre con lo sguardo, come si sblocca lo smartphone), e via automatizzando. È un mondo di comfort impalpabili ma concreti, questo che ci viene venduto quotidianamente insieme al marketing della paura (quello, cioè, che crea la domanda che l’offerta tecnologica dovrà poi soddisfare). È così che capiremo all’istante e senza fallo, in modo neutro e oggettivo, se un “migrante economico” (qualunque cosa sia) si spaccia per rifugiato; così che riusciremo a prevenire i crimini nelle nostre città prima ancora che avvengano (come in India, con telecamere addestrate a individuare comportamenti che indicano possibili crimini di genere); così che si compone in tempo reale il pedigree del cittadino modello, tracciato, seguito, addestrato (e dunque manipolato) in ogni suo comportamento sociale (come nei “crediti sociali” cinesi, o nella occidentalissima “gig economy”).

A tutta questa imposizione di fandonie ideologiche, il libro di Carrer contrappone il muro insormontabile della realtà. E quando vi ci si scontra, è impossibile parlare di immateriali fantasmi di controllo. Qui la sorveglianza è tutta carne, tutta fatti.
Andate a parlare di efficienza e rapporti sociali e burocratici frictionless ai neri arrestati senza motivo perché erroneamente identificati come criminali dal riconoscimento facciale usato dalle forze dell’ordine negli Stati Uniti; ai migranti ingiustamente discriminati ai confini; ai palestinesi vittima dell’apartheid automatico (come lo definisce Amnesty International) dispiegato dalle forze dell’ordine israeliane; ai passanti identificati tra le folle in Gran Bretagna (per esempio, a un recente concerto di Beyoncé a Cardiff) in assenza di qualunque base legale; ai russi in protesta contro la guerra criminale di Putin, arrestati dal riconoscimento facciale che era stato introdotto nella metropolitana di Mosca durante la pandemia con la scusa di garantire il distanziamento sociale; ai residenti delle case popolari sfrattati a seguito della strumentalizzazione di comportamenti registrati dall’occhio digitale degli amministratori. E via dicendo, con esempi che potrebbero da soli riempire un altro libro.

Difficile incantare con questi trucchi da prestigiatori del controllo totale i lettori di questo libro. Impossibile continuino a cascare nell’inganno che ci costringe a considerare ogni problema come una questione ingegneristica, da ottimizzare e risolvere tramite tecnologie ed equazioni. Le questioni sollevate dalla pervasività del controllo biometrico nelle nostre vite sono questioni di democrazia, non di innovazione, e il testo di Carrer lo mette perfettamente in luce mostrando l’opacità, l’arbitrarietà, le discriminazioni, e più in generale la politica che si cela dietro alla pretesa neutralità delle soluzioni tecnologiche dispiegate non in Silicon Valley o in Cina, ma a Como, a Torino, a Udine. Di conseguenza, opporvisi è una battaglia culturale, prima ancora che di policy-making; e va combattuta a suon di pensiero, oltre che delle pur indispensabili norme e regole. E di nuovo, le domande fondamentali sono quelle poste dall’autrice nel testo: se l’intelligenza artificiale è una questione di potere, allora dobbiamo partire dal chiederci “di chi è il potere?” E, soprattutto, “a quale società futura vogliamo aspirare?

È questo che dovremmo chiederci. Vogliamo una società costruita essenzialmente sull’idea che esistano cittadini di serie A, per cui valgono (almeno per ora) diritti fondamentali e tutele di uno stato democratico, e cittadini di serie B, i migranti, per cui invece vale la presunzione di colpevolezza, e dunque la legittimità del controllo totale, opaco, indiscriminato?
Vogliamo − come un precedente governo italiano − una società in cui, con la scusa di combattere il razzismo, si introduce il riconoscimento facciale (e sonoro) dal vivo di ogni spettatore a ogni partita di calcio? In cui per pagare alcunché si deve registrare la propria iride in un registro globale (come vorrebbe il fondatore di OpenAI, Sam Altman, con la sua startup Worldcoin)? Più in generale, è possibile conciliare le libertà democratiche con un’idea di sicurezza che comporta necessariamente la riduzione di ogni aspetto dell’umano a numero, quantificazione, categoria, valutazione di rischio, predizione automatica?

L’antidoto inoculato da questo libro ci porta a dubitarne, dati e fatti concreti alla mano. Perché le soluzioni non sono tali. I problemi che dovrebbero risolvere, a loro volta, non sono tali. Le macchine che dovrebbero essere oggettive e perfette non lo sono. La sottomissione dell’umano all’automatico, che dovrebbe quantomeno metterci al riparo dagli altri esseri umani, si rivela dunque stupida, oltre che intrinsecamente autoritaria. Stupida, come nella famosa terza legge di Cipolla, nel senso di nuocere a sé e agli altri. Perché sono le democrazie a delegittimare se stesse, comportandosi come regimi impauriti la cui unica risorsa contro i problemi sociali sono controllo e repressione. Lo Stato, che tanto si crede forte grazie agli ultimi ritrovati tecnologici, perde in realtà la sua presa sui reali problemi della popolazione. Se ne disinteressa strutturalmente: dopotutto, contano le percezioni, non i fatti.

Non lasciamoci contagiare da questo immaginario totalizzante, dice il libro di Carrer. Non perdiamo la nostra capacità di guardare in modo critico l’occhio perenne che ci scruta, trasformando le nostre città in Panopticon (Carrer le chiama giustamente “dataveillance” − non “smart” − cities) in cui ogni gesto potrà essere registrato e, se occorre, strumentalizzato per dipingerci come ciò che non siamo. L’Unione Europea, lentamente e in modo imperfetto, lo ha capito, e sta per incastonare nell’AI Act, il suo pacchetto normativo sull’intelligenza artificiale, alcuni divieti in materia. Sono migliorabili, certo. Ma la logica è finalmente quella giusta: sono ammesse, in democrazia, solo le tecnologie che non siano strutturalmente in conflitto con valori democratici. Discutere di questo conflitto, alla radice, è possibile solo avendo ben chiaro cosa ciò comporti già oggi nelle nostre vite quotidiane.
Dopo aver letto questo libro, avrete tutti gli strumenti per osservare dritto negli occhi lo status quo, e decidere se continuare con l’assuefazione o ribellarvi. Io propendo per la seconda ipotesi.

Come codici a barre: l'identificazione diventa un'arma

Quo vadis? Ti vedo

Uno tra gli esempi più utili per comprendere quanto i database siano importanti nella nostra società è legato alle tecnologie biometriche. Queste utilizzano caratteristiche distintive e misurabili di un individuo per identificarlo: tecnologie in grado di funzionare solo se gli algoritmi che effettuano il riconoscimento vengono “nutriti” attraverso la continua immissione di dati all’interno del database. Laddove questo non è popolato in maniera corretta allora sarà più difficile stabilire se al volto di una persona è associabile con certezza la sua identità.

I sistemi di dati su larga scala svolgono un ruolo centrale nella società e nel modo in cui molti attori, tra cui anche le burocrazie statali, raccolgono informazioni e gestiscono di conseguenza il rapporto con le persone. I database sono funzionali alla raccolta e all’archiviazione di informazioni o dati in maniera strutturata, permettendone poi l’utilizzo in vari campi e settori. Se un governo locale conosce il numero di persone che usufruisce di un servizio cittadino, così come l’età anagrafica, la professione lavorativa o il background scolastico, potrà mettere in campo soluzioni migliorative o che possano allargare la platea di persone in grado di accedere a quel servizio. Il modo in cui è progettato un database è dunque essenziale per rendere le informazioni contenute al suo interno aggiornate e accurate, così come per definire quali dati o informazioni devono essere inserite al suo interno e in che modo.

Se questi cruciali aspetti vengono meno, o sono considerati in modo superficiale, è probabile che in alcune situazioni i database creati per semplificare e standardizzare la mole di dati che produciamo abbiano conseguenze escludenti o discriminatorie.

L’esempio è calzante anche per un altro motivo. Tecnologie di questo tipo sono utilizzate ormai in molti settori, e attraversano la nostra quotidianità in vario modo. Con il volto possiamo sbloccare uno smartphone o accelerare il processo di verifica della nostra identità prima di prendere un aereo. In alcune parti del mondo, soprattutto in stati del sud Africa o in India, l’iride è il lasciapassare di miliardi di persone per accedere al welfare e quindi alle cure mediche e ai benefit sociali. L’utilizzo principale delle tecnologie biometriche è però legato a doppio filo al macro tema della sicurezza e del controllo: monitoraggio delle presenze sul luogo di lavoro, controllo degli accessi in determinate strutture, sorveglianza alle frontiere o ai grandi eventi sportivi sono solo alcune delle applicazioni attuali in questo senso.

La sicurezza, d’altronde, è più o meno la risposta politica ad ogni cosa per sorvegliare e controllare che un certo status quo e certe regole siano mantenute intatte. Questi ultimi due imperativi sono sempre stati, come vedremo, un mezzo utilizzato per gestire la popolazione, ma attraverso la tecnologia sono diventate azioni più semplici da eseguire e, pare, più necessarie rispetto a prima.

L’evoluzione tecnologica in questo campo è stata largamente sperimentata nello scorso trentennio nella parte meridionale della San Francisco Bay Area, nota al mondo come Silicon Valley, così come da altre aziende private in Europa e in Asia. Fra tutte, il riconoscimento facciale è il sistema di identificazione1 sul quale i reparti di ricerca e sviluppo delle aziende tech hanno investito più denaro negli ultimi anni. Studi recenti sulla dimensione del mercato del riconoscimento facciale a livello globale parlano chiaro: nel 2020 è stato valutato 3,86 miliardi di dollari2 ed è previsto che si espanda ancora, con una crescita annuale del 15,4% tra il 2021 e il 2028. Il motivo di questa grande espansione è proprio legato al fatto che, diversamente da altre tecnologie simili, il riconoscimento facciale ha un incredibile risvolto pratico nella nostra società alla ricerca continua di sicurezza.

Il suo funzionamento è apparentemente semplice, ma da un punto di vista tecnico le cose si fanno più complesse. Partiamo dal dire che il riconoscimento facciale si basa su un aspetto universalmente riconosciuto, una caratteristica distintiva di un soggetto che permette di distinguerlo in maniera inequivocabile da un altro. Il DNA, il pattern della voce o della retina, e anche la mappatura del volto, sono strettamente legate al soggetto dal quale sono prelevate e, a differenza di una carta di identità o di una password (che possono essere smarrite, duplicate o rubate) sono inscindibili dal suo corpo. Ecco un primo aspetto da tenere in conto quando si parla di tecnologie biometriche: la sorveglianza odierna si serve molto più di prima e in maniera decisamente invasiva di prima di parti del nostro corpo che difficilmente possiamo modificare. Se viene rubata una password è possibile cambiarla, se invece una persona malintenzionata replica la vostra impronta digitale avrete altre nove possibilità che mano mano però si esauriranno nel tempo. Per quanto riguarda il volto ancora peggio: ogni essere umano ne possiede uno e uno soltanto, e quindi “cambiare la password” in caso di violazione del proprio account sarà praticamente impossibile a meno che non ricorriate alla chirurgia estetica.

Un algoritmo è solo una probabilità

Attraverso la scannerizzazione del volto la tecnologia del riconoscimento facciale è in grado di produrre un template biometrico, ovvero una mappa digitale del viso. Ciò è possibile perché, come sperimentato negli studi del matematico e informatico statunitense Woody Bledsoe insieme ad altri colleghi, il sistema di riconoscimento facciale guarda il volto che ha davanti ed estrae dati relativi alle caratteristiche facciali dell’individuo, come ad esempio la distanza tra gli occhi, tra il naso e la bocca, tra gli occhi e il mento e via dicendo. Una volta estratte le informazioni il sistema le trasforma in bit artificiali. Il funzionamento dei sistemi di riconoscimento facciale è determinato da un algoritmo, ovvero una sequenza finita di operazioni che permette di ottenere un risultato specifico sulla base delle istruzioni impartite da chi sviluppa il sistema. L’algoritmo in questo caso permette il calcolo della probabilità che due immagini di un viso siano legate alla stessa persona. Gli algoritmi non sono tutti uguali, anzi, possono portare a risultati diversi che dipendono essenzialmente dal database di immagini sui quali sono stati addestrati e dalle persone che li creano, che ne scrivono il codice. Se utilizzassimo un database contenente unicamente immagini di persone bianche, in cui non vengono inclusi i volti appartenenti alle persone nere e alle minoranze etniche, l’algoritmo sarà completamente incapace di riconoscere volti di donne e uomini non bianchi. Ma non solo: se un algoritmo non è in grado di riconoscere una persona nera non significa che non produrrà dei risultati, bensì che rischierà di fornire quello che viene definito “falso positivo”, portando ad uno scambio di persona. In parole povere una persona nera sarà sì identificata, ma le sarà associato il nome di un’altra persona nera che però non è lei e non c’entra niente (appunto, il “falso positivo”). Secondo l’Agenzia dell’Unione Europea per i Diritti fondamentali (FRA) “un algoritmo non restituisce mai un risultato definitivo, ma solo delle probabilità3”. In linea generale quindi sarebbe saggio non confondere probabilità statistiche con certezze neutrali.

Anche il secondo elemento, quello relativo a “chi” sviluppa un algoritmo, è fondamentale poiché rende più semplice comprendere perché la tecnologia non sia una risposta neutrale a questioni complesse. Il settore tecnologico è ancora in gran parte rappresentato da persone bianche, di genere prevalentemente maschile, di orientamento eterosessuale e appartenenti ad una fascia di popolazione che possiede una condizione sociale ed economica privilegiata. Per questo motivo la tecnologia dovrebbe essere osservata con occhi tutt’altro che ingenui. E ciò non solo quando si parla di tecnologie biometriche, ma di tutte le tecnologie: una macchina è creata in un certo modo perché è utile ad un certo scopo, ed è stata sviluppata da qualcuno che aveva una certa visione del mondo.

Uno studio accademico realizzato dalle ricercatrici Timnit Gibru e Joy Boulamwini nel 2018, poi rilanciato in un lungo e dettagliato articolo sulla testata The New York Times, mette in dubbio per la prima volta il funzionamento neutrale degli algoritmi e delle tecnologie che li utilizzano per funzionare. Gender Shades, questo il titolo dato allo studio per veicolarlo anche al di fuori del contesto accademico, ha analizzato i sistemi di classificazione offerti sul mercato da tre compagnie tecnologiche (IBM, Microsoft e Megvii) dimostrando come, anche se il loro livello di accuratezza fosse piuttosto alto (si va dal 93.7% di Microsoft al 90% di Megvii e all’87.95% di IBM), gli errori di classificazione su alcuni gruppi di volti erano abbastanza elevati. Gli aspetti interessanti emersi dallo studio sono tre: come vengono classificate le donne, come vengono classificate le donne di colore e come sistemi basati su processi decisionali algoritmici siano problematici.

In generale tutte e tre i prodotti identificavano meglio gli uomini (8.1% di errore di Microsoft nel riconoscere un uomo da una donna, 20.6% di Megvii). Stessa cosa quando si trattava di classificare soggetti che avevano un colore di pelle più chiaro, per cui c’era una differenza nell’accuratezza dell’algoritmo che variava dall’11.8% fino al 19.2%. Questo significa che tutti e tre i prodotti non erano in grado di classificare in maniera corretta le persone che avevano un colore di pelle diverso da quello che viene considerato come maggioritario, ovvero quello che appartiene alle persone bianche. Come sarebbe possibile il contrario se, come detto, la maggior parte delle persone che lavora a queste tecnologie, le sviluppa, le definisce, è bianco? Esistono casi di aziende che sviluppano algoritmi e tecnologie biometriche anche nel continente africano e che, consce di questo problema si adoperano per limitarlo. Il punto del discorso non sta però nel favorire una maggiore distribuzione dell’innovazione nel mondo, rendendo quindi maggiormente riconoscibili anche le persone nere evitando i falsi positivi. Al contrario, centrale sarebbe un’analisi chiara e lucida di come questi strumenti tecnologici siano a prescindere critici, come si vedrà nel corso del libro.

Per aggiungere un ulteriore livello di complessità le due ricercatrici hanno provato a capire se l’unione di alcune caratteristiche potesse dare luogo a output differenti: anche in questo caso, per tutti e tre i prodotti testati, i volti delle donne nere erano quelli classificati in modo meno accurato, a differenza degli uomini neri e di donne e uomini bianchi. In risposta allo studio, nel gennaio 2018, la compagnia IBM ha ringraziato ufficialmente4 le ricercatrici − dopo aver raccontato che l’algoritmo da loro venduto è comunque migliore degli altri due − per aver portato alla luce il tema dell’etica dei dati nel campo dell’intelligenza artificiale. La IBM aveva una differenza nel tasso di errore sulla classificazione di uomini bianchi e donne nere del 34.4%. Anche Microsoft ha risposto con una valutazione interna, soprattutto per quanto riguarda la percentuale di errore che il loro algoritmo aveva nella classificazione di individui con la pelle scura. Nel loro statement ufficiale5 si leggeva: “crediamo che l’equità delle tecnologie di intelligenza artificiale sia un tema critico per l’industria e un tema che Microsoft prende in considerazione seriamente”6.

Nella lettera7 inviata al presidente di Amazon Jeff Bezos nel giugno 2018, la dottoressa Boulamwini parla del possibile impatto che il sistema Amazon Rekognition potrebbe avere in un altro campo, quello relativo alle attività di policing - la sorveglianza da parte delle forze dell’ordine in contesti urbani, spesso già criticata in passato negli Stati Uniti come pratica sistematicamente prevenuta nei confronti di alcune minoranze etniche. Amazon Rekognition è un software lanciato nel 2016 dalla multinazionale americana Amazon che permette l’analisi di immagini e video al fine di estrarne informazioni dettagliate come volti, oggetti, testo, e analisi facciale (occhi chiusi, occhiali da vista, etc).

Riportando lo studio Gender Shades come esemplificativo, Boulamwini racconta che: “nel caso della classificazione di genere che è sostanzialmente ridotta a binaria, la tecnologia ha 1 possibilità su 2 di ottenere la risposta giusta semplicemente indovinando”8. Per quanto riguarda invece l’utilizzo di sistemi di riconoscimento facciale, visto che appunto il dato biometrico analizzato è il volto (e i volti sono tutti diversi e unici), “[...] la possibilità di indovinare per caso la faccia corretta si basa sul numero di potenziali corrispondenze di volti memorizzate”9. Questa dichiarazione rende chiaro uno dei motivi per il quale sistemi di questo tipo sono altamente problematici: “[...] quindi per esempio se ci sono 50.000 volti da confrontare e viene identificata una persona di interesse, la possibilità di indovinare casualmente l’individuo giusto è 1 su 50.000”10, così come quella di identificare quello sbagliato (attraverso un falso positivo) è composta dalle restanti.

Con Amazon Rekognition la presa di posizione della ricercatrice ha avuto maggiore impatto sul dibattito pubblico che gravitava intorno al tema, per due motivi: il fatto che il policing fosse una pratica molto utilizzata negli Stati Uniti (cosa che dovrebbe sempre interessare da vicino anche noi europei, vista l’abitudine al policy transfer da questo paese), e la curiosa risposta che Matthew Wood e Michael Punke, vicepresidenti di Amazon Web Services, hanno condiviso sul blog di AWS11, filiale per il cloud computing e l’on demand di Amazon. In due blogpost separati12, i vicepresidenti esprimono pareri contrari allo studio: Wood dice “[...] speriamo (che questo blogpost, nda) aiuti a chiarire molte inaccuratezze e malinterpretazioni13”; Punke scrive “[...] abbiamo dimostrato che il riconoscimento facciale è in realtà uno strumento molto prezioso per migliorare l’accuratezza e rimuovere i pregiudizi rispetto ai processi umani manuali”14. Ma lo studio di Gibru e Boulamwini ha aperto una crepa che non si può più ignorare, e i due vicepresidenti hanno fornito una risposta che travisa alcuni dettagli tecnici e non considera aspetti più generali. Nello specifico Wood parla di differenti feature, di come facial analysis e face recognition siano proprietà diverse del sistema, ignorando scientemente il fatto che anche il riconoscimento facciale è considerato un tipo di analisi. I volti, ad esempio, possono essere rilevati e analizzati prima di essere riconosciuti e i database utilizzati per un altro motivo possono essere impiegati anche per l’addestramento dei sistemi all’analisi facciale. Per non parlare della suddivisione delle persone attraverso una categorizzazione binaria rispetto all’identità di genere, pratica che non fa altro che dimostrare i pregiudizi esistenti sugli individui che non si riconoscono nel binarismo di genere. Un aspetto interessante sul quale entrambi si focalizzano è sostenere che l’accuratezza degli algoritmi non sia esplicativa di tutto: “le persone spesso pensano all’accuratezza come a una misura assoluta, come un punteggio percentuale in un esame di matematica, in cui ogni risposta è giusta o sbagliata. Per comprendere, interpretare e confrontare l’accuratezza dei sistemi di apprendimento automatico, è importante capire cosa viene previsto, l’affidabilità della previsione e come deve essere utilizzata, cosa impossibile da ricavare da un singolo numero assoluto o punteggio”15 si legge nel blogpost. Tutto ciò sarebbe vero se Gender Shades fosse stato realizzato per misurare l’accuratezza dei sistemi, mentre lo scopo era quello di far comprendere come la tecnologia basata su dati biometrici porti con sé la necessità di analizzare in modo intersezionale il suo funzionamento. La categorizzazione in donne bianche, donne nere, uomini bianchi e neri aiuta significativamente a capire come alcune “variabili” mettano in luce le falle di sistemi tecnologici creati da uomini bianchi che però, volente o nolente, sono usati su tutti quanti. La domanda è − e rimane sempre − che cosa succede se ci affidiamo a questi algoritmi per definire cosa sia giusto o sbagliato, per condannare o meno qualcuno? E anche se la domanda dovesse essere posta in un ambito in cui il colore della pelle di un individuo fosse effettivamente una discriminante per comprendere lo sviluppo, ad esempio, di una malattia della pelle, la risposta sarebbe la stessa: finiamo per essere discriminatori e agire un potere automatizzato.

Cosa c’è nella black box?

Non dimentichiamo poi che lo studio di Gibru e Boulamwini dovrebbe essere, come molti studi, contestualizzato nella società in cui Amazon e i suoi prodotti (così come tutti gli altri) operano. Nei due articoli i manager di Amazon contestano infatti le modalità attraverso le quali le due ricercatrici hanno utilizzato e quindi testato il sistema Rekognition. Sono loro stessi ad affermare che, tra le altre cose, andrebbero conosciute le modalità di funzionamento e l’affidabilità di previsione del sistema. Peccato però che molti scenari di utilizzo di Rekognition, ai quali non possiamo sottrarci, non sono prevedibili poiché il sistema è “una scatola nera”, di cui conosciamo unicamente le ripercussioni ma non il modo in cui si è arrivati ad esse. Nella teoria dei sistemi, all’intreccio interdisciplinare tra matematica e scienze naturali e che si occupa di indagare le proprietà e la costituzione di un sistema, un modello black box è per l’appunto una scatola nera: un sistema descrivibile essenzialmente nel suo comportamento esterno, in reazione a una determinata sollecitazione, ma il cui funzionamento interno (come si arriva da A a B) è invisibile o ignoto. Non è di per sè un sistema maligno, se usato in un contesto in cui è più importante capire l’interazione tra sistemi più che il funzionamento di ognuno. Nel caso del riconoscimento facciale però le cose sono molto diverse. L’applicazione della tecnologia nella società dovrebbe sempre essere studiata e prodotta attraverso un approccio socio tecnico, che ne definisca criticamente le motivazioni che vi sottendono, i parametri e i meccanismi che questa pone in essere una volta eseguito il suo “debutto in società”. Sistemi di questo tipo si evolvono e hanno un impatto diverso se guardiamo all’Europa o all’Asia, all’Africa come all’America Latina, e questo proprio a causa della dimensione sociale, culturale e politica che si ha in questi contesti. In un enorme studio16 condotto nel 2016 dal Center on Privacy & Technology dell’Università di Georgetown, The Perpetual Line-Up, si riportano i dati ottenuti dopo un lavoro di oltre un anno di richiesta di informazioni circa l’utilizzo, da parte delle forze dell’ordine statunitensi, di sistemi di riconoscimento facciale. Dallo studio emerge come al tempo erano 117 milioni gli americani sottoposti all’impatto di questa tecnologia, numero inevitabilmente aumentato ad oggi.

Come vedremo nel prossimo paragrafo, utile a delineare il modo in cui siamo arrivati a questo scenario, i database di impronte digitali o di DNA sono stati creati quasi esclusivamente utilizzando dati e informazioni prelevate da criminali o da persone sospettate di crimini. Ciò che invece riporta anche lo studio in questione è che i database che sono dati in pasto alle tecnologie biometriche non per forza includono persone sospette o devianti, ma sono spesso una combinazione tra database civili (come ad esempio quelli che contengono dati anagrafici o afferenti alla sfera lavorativa) e militari. Inoltre, come vedremo nei prossimi capitoli, è possibile che gli operatori delle forze dell’ordine o i funzionari comunali non siano perfettamente a conoscenza del funzionamento delle tecnologie, fatto che potrebbe portare ad una scarsa analisi dei risultati forniti da queste ultime e ad una acritica accettazione degli stessi. Un po’ come quando non sappiamo una definizione delle parole crociate e andiamo a guardare il cruciverba risolto in fondo alla Settimana enigmistica. Non potremo fare a meno di pensare che la risposta sia quella, convinzione che sicuramente vale per i cruciverba ma non per stabilire se una persona è un criminale o meno. Seppur banale, questo esempio aiuta a riportare al centro del discorso sull’automazione di alcuni processi la necessità di fare i conti con la possibilità che un sistema tecnologico possa diventare in fretta un mezzo al quale si garantisce un sempre maggiore peso nel processo decisionale umano, semplicemente perché esiste e perché non si vuole andare contro corrente criticando il progresso tecnologico come i “luddisti”.

Se non c’è legge, in un mondo di leggi

Un altro punto fondamentale che i due vicepresidenti di AWS spiegano in maniera approssimativa è quello relativo alla base legislativa. Nè negli Stati Uniti né in Europa (vedremo poi nei successivi capitoli nello specifico l’Italia) esiste una legge che possa controllare l’utilizzo di sistemi come Rekognition. L’Unione Europea è al momento in una fase di discussione sulla regolamentazione delle intelligenze artificiali, periodo che si protrae ormai da alcuni anni e che vede da una parte la difficoltà di normare un settore così controverso e dall’altra la pressione esercitata dalle lobby del tech. Il vuoto legislativo permette quindi l’utilizzo di sistemi come il riconoscimento facciale, che come detto è uno dei più utilizzati sia a fini securitari che commerciali per permettere l’autenticazione di un volto, senza che si conoscano appieno i tassi di errore che gli algoritmi compiono nell’identificare un individuo, quali siano i volti che compongono il database sul quale viene accertata la corrispondenza tra un volto e un’identità, o se gli agenti demandati all’utilizzo di questi sistemi ne conoscano il funzionamento.

Se mancano risposte come queste non è possibile avere la garanzia che il riconoscimento facciale non sia utilizzato in modo improprio. E questa affermazione vale ancor di più se manca un framework legislativo, cosa che contraddice i buoni propositi enunciati nella risposta data da AWS in cui viene sottolineato come Amazon richieda una legge perché non vuole vendere prodotti che possano violare i diritti umani e le libertà civili delle persone. In questo momento, a rigor di logica andrebbe quindi fermata sia la vendita che l’utilizzo di questi sistemi. Dopo quattro anni dal lancio e due dallo studio Gender Shades, nel giugno 2020, quando il movimento Black Lives Matter comincia a portare le proprie istanze anche al di fuori degli Stati Uniti, Amazon annuncia17 una moratoria di un anno sulla vendita di Rekognition alle forze dell’ordine, spiegando che attenderà l’entrata in vigore delle regolamentazioni in tema di riconoscimento facciale. Solo due giorni prima anche IBM aveva fatto dietrofront18 annunciando il ritiro dal mercato in questo settore inviando una lettera al Congresso americano. Come si vedrà nei prossimi capitoli in Italia il ministero dell’Interno adopera il sistema automatico di riconoscimento immagini SARI senza alcuna base legislativa. Manca inoltre una piena conoscenza dell’algoritmo di identificazione e della provenienza dei volti contenuti all’interno del database AFIS.

Le dichiarazioni delle aziende citate, soprattutto Microsoft, IBM e Face++ (realizzato dalla cinese Megvii) sono propositive e totalmente diverse da quelle fornite da Amazon. Ciò non significa che siano migliori di quelle della multinazionale dell’e-commerce poiché, se guardate da una prospettiva critica, permettono di cogliere quella che forse è la chiave di volta del discorso che si dipana una volta aperto il vaso di Pandora dell’”algoritmo”. Da una parte infatti le aziende che producono questi sistemi non hanno minimamente messo in discussione la possibilità che la tecnologia da loro creata potesse contenere bias, e questo perché il mondo tech presuppone che la visione del mondo sia una, e le aziende non sono obbligate a tenerne conto; dall’altra, che la tecnologia è un tema che si collega a doppio filo a questioni sistemiche che già da tempo permeano la nostra società, non facendo altro che automatizzare ingiustizie e iniquità.

Per una visione critica dell’Ia: no al tecnosoluzionismo

Allo stesso tempo spesso le intelligenze artificiali sono allenate per identificare qualcosa che viene già in principio definito dall’essere umano, per cui al sistema di riconoscimento facciale è richiesto di identificare degli individui che hanno determinate caratteristiche fisiche (volto, colore della pelle, sesso assegnato alla nascita) o personali (vestiario). Nel maggio 2021 ho intervistato19 per Wired Italia Virginia Dignum, docente del dipartimento di Scienze Informatiche dell’Università Umeå in Svezia, e Gry Hasselbach, ricercatrice indipendente sui temi dell’etica dei dati e delle intelligenze artificiali (già membro del gruppo di esperti sull’intelligenza artificiale della Commissione europea tra il 2018 e il 2020). Volevo avere da loro un’opinione sulla costante richiesta di etica nel campo dell’intelligenza artificiale avanzata da una parte dell’opinione pubblica e dei ricercatori nel campo. In quel momento l’Unione Europea aveva appena pubblicato una delle proposte di regolamentazione, adottando quello che ancora oggi è l’approccio su cui si basa tutto l’impianto legislativo: mettere al centro della discussione l’essere umano e il possibile impatto sulla sua esistenza e classificare le tecnologie di intelligenza artificiale attraverso diversi livelli di rischio20.

Il dibattito sull’etica risponde all’esigenza di definire quanto effettivamente un algoritmo sia dotato della capacità di decidere cosa sia meglio o peggio fare; abbia, in sostanza, un’idea di cosa sia giusto e sbagliato. Dalla discussione avuta con le due ricercatrici è emerso come gli algoritmi possano essere definiti come entità dotate di un “agire morale” (moral agency), aspetto che però va inteso come processo innescato dalla nostra volontà: noi, esseri umani, deleghiamo alle macchine alcune scelte che possono avere, a volte, anche un impatto etico. Non è quindi propriamente l’algoritmo ad essere dotato di etica ma è l’essere umano che utilizza una tecnologia e ad essa di conseguenza delega un’azione. Un algoritmo non è in grado di mettere in discussione, soprattutto in alcuni settori della società come la giurisprudenza o la sicurezza, se il proprio giudizio può essere rivedibile o meno perché non ha coscienza di cosa stia definendo come giusto o sbagliato. Dall’altra parte, come già accennato e concretamente vedremo nei prossimi capitoli, la maggior parte delle persone tende a considerare la risposta fornita da un algoritmo come corretta, neutra e reale. Niente di più sbagliato, poiché i dati − in un’accezione generale del termine − utilizzati in uno studio empirico sono frutto di un processo di classificazione e di raccolta operata dal ricercatore o dalla ricercatrice, e dunque non corrispondono alla realtà bensì ad una rappresentazione della stessa. Ciò che mette in pratica un algoritmo è semplicemente l’atto di individuare la caratteristica che chi gli impartisce l’ordine reputa importante per arrivare ad un determinato fine. Come suggerito da Hasselbach, sarebbe quindi necessario spostare il dibattito nato intorno alle intelligenze artificiali sul concetto di potere, in quanto i pregiudizi che sono introiettati in queste macchine non sono nient’altro che la reiterazione di dinamiche generali di potere insite nella società stessa. La riflessione in merito potrebbe quindi nascere da due domande a mio parere fondamentali: di chi è il potere? A quale società futura vogliamo aspirare?

Se “l’etica delle intelligenze artificiali” passa anche dall’inclusività, ovvero dalla necessità di dare spazio a coloro i quali non riescono ad entrare nella catena di produzione della tecnologia, il discorso dovrebbe tenere in conto necessariamente di altri aspetti sistemici. In un interessante studio21 del centro di ricerca americano Data&Society pubblicato nel settembre 2020, gli autori Emanuel Moss e Jacob Metcalf investigano proprio le modalità che le compagnie tech adottano per far fronte alla pressante richiesta di etica derivante da una parte dell’opinione pubblica. Un settore emergente all’interno delle aziende tech della Silicon Valley è composto infatti da coloro che i due ricercatori definiscono ethic owners, professionisti incaricati di gestire l’impatto etico che i prodotti creati e venduti dalle aziende hanno sulla società. Nello specifico, sono figure che hanno il compito di “gestire sfide e dilemmi etici con gli strumenti del tech management e all’interno della struttura aziendale, traducendo la pressione pubblica in nuove pratiche aziendali22”. Secondo i ricercatori, tre sono gli assunti fondamentali che sottendono alla questione dell’etica all’interno delle società tech, assunti che come vedremo non sono affatto specifici in questo contesto ma, riallacciandoci a quanto dicevamo in precedenza attraverso le parole di Dignum e Hasselbach, sono collegati alle modalità con le quali il potere economico e politico si riproduce attraverso la classe sociale, il genere, l’etnia. Il primo assunto fondamentale che i ricercatori hanno riscontrato nel campione di professionisti intervistati è la meritocrazia: una parola e un concetto che hanno molto a che fare con il sistema economico capitalistico, che immagina gli individui uguali nelle capacità personali e soprattutto nelle possibilità iniziali. Nella maggior parte dei casi le figure assunte dalla Silicon Valley provengono da percorsi accademici di tutto punto ai quali si può accedere se si hanno grandi capacità economiche; figure che, in un secondo momento, vivono della narrazione costante attribuitagli dalle aziende stesse. Un passaggio cardine riportato nella ricerca sull’assunto della meritocrazia è quello in cui i ricercatori raccontano di come vi sia una comune visione distorta del ruolo che questi ethic owners hanno all’interno dell’azienda: “un ritornello comune che ci è stato raccontato dagli ethic owners era che i loro team tecnici si riunivano in una stanza e “pensavano molto” alle potenziali implicazioni etiche di un prodotto o di una caratteristica. L’idea che team di buoni tecnici siano bravi anche ad enumerare potenziali implicazioni etiche [...] è supportata da presupposti meritocratici23”. In questo senso il fatto di non comprendere all’interno del team persone con differenti background e provenienze etniche non può essere in qualsiasi modo sopperito da “bravi ingegneri”, poiché seppur bravi non significa che siano capaci di prevedere implicazioni etiche né di calarsi completamente nei panni di un altro essere umano.

Il secondo assunto è quello del tecnosoluzionismo, ovvero la convinzione che tutto ciò che è materia tecnica e tecnologica possa essere una risposta convincente e definitiva. Niente di più falso soprattutto perché la tecnologia, come altre cose, non può essere considerata l’unica soluzione ad un fenomeno sociale complesso, dove per fenomeno intendiamo ad esempio la sicurezza, la migrazione, lo sfruttamento ambientale, la criminalità. Ciò che affermano i ricercatori è che gli ethic owners vedono come qualcosa di “risolvibile” anche il tema dell’etica della tecnologia, “come se più tecnologia potesse risolvere il problema della tecnologia”. A ben guardare sembra invece che la maggior parte delle volte le tecnologie funzionino esattamente come erano state previste, e che ciò “porta ad una intenzionale ricerca di best practices (procedure, checklist, metriche) che possano garantire un risultato etico”24. Com’è possibile immaginare, le best practice non sono così aderenti al mondo reale bensì nascono e si sviluppano in contesti controllati e che rispondo praticamente sempre alle stesse dinamiche procedurali. Un esempio parallelo utile alla comprensione potrebbe essere quello della segnalazione di casi di corruzione o malagestione all’interno di un’azienda: in Italia esistono procedure e codici aziendali che rendono valevole la segnalazione non tanto per il suo contenuto bensì per le modalità attraverso le quali è stata presentata. Se esiste un canale di segnalazione, è obbligatorio usarlo; se è stata istituita una procedura per farlo, è necessario seguirla passo passo. Ciò ignora il fatto che spesso nel contesto aziendale o amministrativo esistono variabili, come la posizione che si ricopre nell’ufficio o la vicinanza ad una figura aziendale, che non dipendono né dalla volontà di segnalare un fatto illecito, né dalle modalità con le quali è consentito farlo.

Il terzo assunto proposto dai ricercatori si ripercuote sul settore tecnologico come in tutti gli altri, come un ospite non invitato del quale non riusciamo a disfarci in nessun discorso. Il fondamentalismo di mercato, così lo definiscono i due ricercatori, è “l’idea che il mercato sia l’arbitro ultimo per definire se gli approcci etici funzionino o meno”, che sottende il fatto che queste pratiche siano o meno implementate solo se effettivamente redditizie per l’azienda. In pratica nelle aziende tech, oltre al greenwashing e al pinkwashing, ci potrebbe essere anche l’ethicwashing. Possiamo quindi creare team inclusivi e rappresentativi di istanze e visioni del mondo diverse, ma se pensiamo che il mercato possa decidere quali idee sia giusto vendere e quali no allora la strada è, anche qui, ancora lunga. È sicuro che, come dice uno degli ethic owners intervistati, “se le persone smettono effettivamente di utilizzare determinati servizi e/o mostrano una maggiore preferenza per servizi che non hanno gli stessi [difetti], puoi stare certo che le aziende reagiranno”25. Alla fine quanto di problematico si trascinano dietro le intelligenze artificiali è ormai evidente a molti, non più unicamente studiosi o addetti ai lavori. Ciò che rimane ancora nascosta, in parte anche per una questione di volontà, è invece una presa di posizione legislativa da parte dell’Europa o internazionale condita da due ingredienti fondamentali: lo strapotere del fondamentalismo di mercato per ragioni di business e un’ideologia tecnosoluzionista che accompagna le aziende tecnologiche sin dalla loro nascita.

Catalogare la pestilenza, sorvegliare le carceri

Come accennato all’inizio del capitolo, raccogliere informazioni o dati sul mondo che ci circonda è molto utile e nella società odierna è praticamente impossibile esimersi dal farlo. D’altronde ottenere dati o informazioni sui fenomeni sociali o economici è importante per definire pratiche e policy che migliorino la capacità di gestirli. Prendiamo ad esempio il fenomeno della migrazione o del cambiamento climatico: è necessario avere numeri per effettuare un monitoraggio che possa descriverne la nascita, l’evoluzione e la possibile previsione. A ciò è doveroso poi corredare sempre una interpretazione qualitativa, che vada oltre al mero dato e che cerchi di dare spessore agli eventi descritti.

Questa pratica non è del tutto nuova anzi, viene portata avanti da molto tempo e riguarda molti aspetti della società. Operazioni di catalogazione, tracciamento e identificazione biometrica appartengono alla storia del genere umano, soprattutto nei momenti più critici di quest’ultima. Lo abbiamo visto durante la pandemia così come nell’Europa del 1300, quando le città erano piegate da epidemie di peste bubbonica che hanno raggiunto uno dei picchi più alti circa trecento anni dopo, all’inizio del 1600. L’insorgenza della malattia, veicolata dai topi anche attraverso il commercio navale, era piuttosto veloce, tra le 24 e le 48 ore. In risposta a questa eccezionale emergenza, alcuni governi locali cominciano a tenere traccia della popolazione e a realizzare una prima vera catalogazione dei cittadini al fine di contenere la diffusione della malattia. La necessità di isolare soggetti malati da quelli sani ha portato alla nascita della quarantena, ovvero una pratica di segregazione di quaranta giorni all’interno di navi, prescritta alle persone affette da malattie contagiose.

Data l’estrema contagiosità della peste però, non vengono istituite solo navi quarantena bensì imposti anche l’isolamento di alcune zone cittadine (denominate lazzaretti) e il coprifuoco. Le città, soprattutto francesi, erano suddivise in quadranti, pratica che il filosofo Michel Foucault, nel libro Sorvegliare e punire. Nascita della prigione del 1975, chiama quadrillage.

Citare Michel Foucault è propedeutico per arrivare al discorso sulle tecnologie biometriche citato in precedenza. Gli studi di Foucault sul tema hanno fornito, e forniscono tuttora, un primo chiaro esempio di come regolamenti e disposizioni imposti alla popolazione per scongiurare il contagio dalla peste fossero l’espressione di una totale riorganizzazione, estremamente gerarchizzata e disciplinata, della città.

Per controllare le persone infette e separarle da quelle sane, Foucault riporta l’esempio di alcuni governi locali francesi che crearono una serie di registri contenenti nome e cognome, età, sesso attribuito alla nascita, cittadina di provenienza. Quelli che ora definiremmo database in un computer dell’ufficio anagrafe. Le informazioni circa la situazione in cui versava la città non erano fornite una sola volta: il database-registro veniva quotidianamente aggiornato con l’aggiunta di nuovi soggetti (i nuovi malati), e permetteva alle autorità di prossimità nonché a quelle centrali di effettuare controlli sul rispetto dell’obbligatorietà dell’isolamento o del decorso della malattia. In questo modo sia i governi locali che quelli centrali, ai quali venivano condivisi i dati per elaborare policy (altamente discutibili ora), potevano esercitare un costante tracciamento e monitoraggio della popolazione infetta e non. Durante la prima ondata di epidemia da Covid-19 alcuni paesi nel mondo come la Cina o la Russia hanno controllato la popolazione nello stesso modo, anche se con mezzi tecnologici più avanzati. I droni cinesi volavano davanti alle finestre dei palazzi per avvisare gli abitanti di non uscire di casa per via delle restrizioni di movimento; in Russia il presidente Vladimir Putin ha implementato per la prima volta nella capitale proprio un sistema di riconoscimento facciale per identificare i cittadini che non rispettavano le regole imposte per la quarantena. Come vedremo in seguito molto spesso le tecnologie impiegate nel contesto della sorveglianza tendono a diventare parte del sistema di sicurezza dei paesi che le introducono, senza troppo scalpore.

“Questo spazio chiuso, tagliato con esattezza, sorvegliato in ogni suo punto, in cui gli individui sono inseriti in un posto fisso, i cui minimi movimenti sono controllati e tutti gli avvenimenti registrati, in cui un ininterrotto lavoro di scrittura collega il centro alla periferia, in cui il potere si esercita senza interruzioni, secondo una figura gerarchica continua, in cui ogni individuo è costantemente reperito, esaminato e distribuito tra i vivi, gli ammalati, i morti. Tutto ciò costituisce un modello compatto di dispositivo disciplinare”.

Così Foucault parla dell’ordine che cala sulla città durante questo periodo pestilenziale, ordine al fine di evitare il contatto e quindi l’infezione, ma che porta con sè anche una disciplina dei corpi che mette ciascuno al suo posto attraverso la registrazione del suo nome, del sesso, del luogo in cui è nato e di quando è venuto al mondo. Il senso della ripartizione tra chi è appestato e chi no deriva dalla volontà di creare una “società disciplinata”: “la peste”, dice Foucault, “è la prova nel corso della quale si può definire idealmente l’esercizio del potere disciplinare”.

La sorveglianza silenziosa del Panottico

Ciò che sappiamo quindi da questo breve excursus storico-filosofico è che le procedure di identificazione e monitoraggio della popolazione sono nate in risposta ad alcuni eventi eccezionali, e che poi hanno avuto una valenza sempre maggiore in un sistema di organizzazione e di gestione degli stati. La chiave del discorso foucaultiano sul potere risiede in un modello teorizzato (e mai veramente realizzato) da un filosofo inglese, che ci è utile introdurre come ulteriore livello per analizzare il discorso sulla sorveglianza e quindi sulle tecnologie biometriche in ambito securitario. In The Panopticon Writings26, il filosofo inglese Jeremy Bentham teorizza una figura architettonica definita “panottico”, un modello di carcere attraverso il quale è possibile esercitare un controllo sociale e un potere che poggia su due basi, la sua visibilità e la sua inverificabilità. Attraverso questa architettura, i cui bracci erano distribuiti a raggiera, Bentham ipotizzava che poche guardie appostate su una torre (sempre visibile al detenuto) potessero visionare l’intera struttura e i carcerati ospitati nelle celle. La luce che entra dalla finestra di queste ultime rende possibile vedere il detenuto in controluce, rendendolo sempre visibile nei suoi movimenti. L’elemento che ha reso celebre la teorizzazione di Bentham è l’inverificabilità, ovvero il fatto che i detenuti non possano vedere quante guardie ci siano e se queste li stiano effettivamente guardando, così come non possono venire a contatto con i compagni vicini di cella poiché a dividerli c’è un muro.

In questo senso non solo i detenuti non sanno di essere guardati né quando, ma non possono nemmeno tramare nulla collettivamente a detrimento del potere esercitato all’interno del panottico. Di fatto i carcerati rinchiusi in questo modello agiscono pensando continuamente di essere sorvegliati. I due vantaggi fondamentali che Bentham ritrova nel modello del panopticon sono l’apparente onnipresenza del sorvegliante e l’estrema facilità che vi sia una sua reale ispezione. In sostanza attraverso il panottico, dice Bentham, si raggiunge un simile risultato a quello che si avrebbe nel caso in cui la sorveglianza ci fosse sempre e comunque: l’obbedienza.

Non importa che la sorveglianza sia materialmente continua, 24 ore su 24 e sette giorni su sette ma che il suo effetto sia permanente, che sia direttamente incorporata all’interno del detenuto e grazie a ciò si assicuri, come affermato da Foucault, il “funzionamento automatico del potere”. Il panottico penetra a tal punto nel corpo di uomini e donne che è in grado di agire anche su coloro che operano nella struttura carceraria come infermieri, dottori, impiegati e personale di guardia, sorvegliati a loro volta da chi è in capo alla struttura, il quale stabilisce attraverso di loro il metodo migliore per controllare i corpi rinchiusi. Come scrive lo stesso Bentham nelle lettere citate, il panottico risponderebbe all’enigmatica e sempreverde domanda “chi sorveglia il sorvegliante?”27. Se utilizziamo il panottico come esempio possiamo delineare un parallelismo con la sorveglianza biometrica: le videocamere che hanno a bordo un sistema di riconoscimento facciale permettono un’identificazione (cioè l’associazione di un volto a un’identità) continua, silenziosa e dalla quale i cittadini non si possono difendere proprio perché non sanno neppure stia avvenendo.

Oltre a non essere in carcere, i cittadini colti dai processi innescati da un’epidemia si trovano davanti a una differenza radicale, secondo Foucault: da una parte il sistema carcerario è un modello che regola la società, definito da precisi rapporti di potere tra le persone; dall’altra c’è una reazione ad un evento imprevedibile, al quale si risponde incasellando e catalogando. Quest’ultima è un’eccezione che risponde unicamente alla dicotomia vita-morte, e non un processo sistemico. Semmai, la catalogazione e il tracciamento operato attraverso la creazione di database-registri durante la peste del ‘300 così come ora è semplicemente un nuovo ingranaggio che si aggiunge al motore, a quello che è considerato un’istituzione e un modello perfetto di funzionamento nella nostra società. Possiamo quindi affermare che la sorveglianza come controllo dei corpi e la biopolitica foucaultiana siano nate da processi e analisi innescati dalla peste? In parte sì, ma non solo.

L’intero sistema di organizzazione e controllo della popolazione è, secondo il filosofo francese, da ritrovare nella nascita degli stati-nazione. Di ciò Foucault parla in Résumé des cours 1970-1982, in cui afferma che la caduta dell’Impero romano porta con sé la fine della logica imperiale e una nuova percezione della Storia: in sostanza non esistono più imperi basati su istituzioni che esercitano un potere a vantaggio dell’imperatore, bensì stati-nazione. La Storia “[...] si apre su un tempo indefinito in cui gli Stati devono lottare gli uni contro gli altri per assicurarsi la sopravvivenza. E, più che i problemi di legittimità di un sovrano su un territorio, ciò che appare importante è la conoscenza e lo sviluppo delle forze di uno Stato”.

Andiamo con ordine. L’obiettivo di ogni Stato-nazione è quello di sopravvivere e, se possibile, di dominare gli altri stati attraverso ciò che Foucault definisce “tecnologia politica” e “polizia”. La “tecnologia politica” è composta da due elementi: diplomazia ed esercito. La diplomazia è utilizzata dagli stati per rapportarsi con gli altri stati e favorire il commercio; l’esercito è ciò al quale uno stato fa appello nel momento in cui è necessario difendersi.

La “polizia” è invece l’insieme di mezzi atti a far crescere, dall’interno, le forze dello stato. Parliamo di risorse naturali, materiali, popolazione. Ovviamente “polizia” ha una definizione ben diversa da quella che intendiamo al di fuori di questo discorso, ed è opportuno sottolinearlo per la comprensione di quest’ultimo.

Attraverso il termine biopolitica (appunto la “polizia”) Foucault si riferisce alle pratiche attraverso le quali il potere gestisce i corpi e regola le popolazioni, una tecnica di valorizzazione della popolazione funzionale all’aumento della forza dello Stato-nazione. Utilizzando la lente di Foucault possiamo quindi affermare che lo stato si assicura la sopravvivenza e la dominazione sugli altri stati non solo attraverso le risorse naturali che possiede entro i suoi confini, ma esercitando un controllo e una regolazione della popolazione, che è forza da lavoro (anche tassata) e corpo per l’esercito.

Secondo Foucault la popolazione è l’elemento più importante per uno Stato-nazione, e per valorizzarla quest’ultimo ha iniziato a regolarne e controllarne molti aspetti di vita quali la salute, l’igiene, la mortalità, l’educazione, la devianza. È proprio in coda al pensiero di Foucault che possono essere aggiunte, come ulteriore strumento dei dispositivi di potere, le tecnologie biometriche. Queste funzionano su dati unici, afferenti al nostro corpo e che ci rendono “corpi sorvegliati” così vulnerabili da potere essere scannerizzati e quindi identificati ovunque, come codici a barre.

Impronte digitali: lo scandalo francese

Come ben descritto anche da Annie Jacobsen in First Platoon. A Story of Modern war in the Age of Identity Dominance, libro uscito a gennaio 2021 e finalista per il premio Pulitzer, la storia dell’identificazione biometrica subisce una rapida evoluzione nell’ultimo secolo per poi arrivare alle tecnologie odierne (riconoscimento facciale, dell’iride, delle impronte digitali).

A parte cataloghi e registri creati su fogli volanti e poco accurati, il primo metodo scientifico che ha permesso l’identificazione di un soggetto fu creato nel diciannovesimo secolo dal poliziotto e ricercatore Alphonse Bertillon, l’inventore delle foto segnaletiche. Potrebbe averlo inventato ovunque, e invece l’ha inventato in un carcere francese. Il motivo è presto detto: identificare i criminali e schedare gli individui per iscriverli nel registro/database dei pregiudicati.

Il “sistema Bertillon” si basava su un’identificazione in due fasi che comprendeva la rilevazione di una descrizione fisica del corpo umano e la misurazione di alcune sue parti come la lunghezza delle braccia, dei piedi, della barba, del dito medio. Bertillon fu il primo ad utilizzare la tecnica dell’antropometria nel settore della sicurezza, favorendone l’utilizzo da parte delle forze di polizia. Come è possibile immaginare un sistema di questo tipo non poteva che avere vita breve, soprattutto a seguito di quello che viene ricordato come “Dreyfus Affair”, uno scandalo politico francese che non possiamo esimerci dal raccontare per via della sua durata (dieci anni) e per il fatto che in Francia, ancora oggi, è un caso discusso animatamente.

Un racconto dettagliato di cosa successe è contenuto nel libro The Dreyfus Affair: the scandal that tore France in two dello scrittore britannico Paul Piers Read, che ripercorre la storia e il clima politico che si respirava durante la guerra franco-prussiana. Una situazione descritta anche dai giornali e che aveva portato alla scoperta di alcune attività di spionaggio operate dalla Germania nei confronti dei militari francesi. Come riporta Read nel libro, al servizio del tenente colonnello Hubert Joseph Henry, nella sezione statistica dell’ambasciata francese a Berlino, c’era un agente di nome Martin-Joseph Brücker che aveva il compito, tra le altre cose, di tenere sotto sorveglianza il personale diplomatico straniero. Quest’ultimo aveva assunto una donna, nome in codice Auguste, per svolgere alcune mansioni di pulizia degli uffici dell’ambasciata. Visti i pregressi tradimenti scoperti, l’attività di controspionaggio posta in essere dai francesi doveva essere molto attenta. Auguste, in accordo economico con il tenente colonnello Henry, durante le sue mansioni di pulizia non bruciava mai il contenuto dei cestini della carta bensì lo consegnava all’ufficiale a mano durante incontri segreti. Come racconta Read, gli eventi arrivano ad un culmine nel 1894 quando, in mezzo alle scartoffie buttate via dall’agente Brücker, viene rinvenuto un foglio strappato in sei pezzi che riportava una serie di informazioni circa il funzionamento dell’artiglieria francese. Il bordereau, così poi venne chiamato, era estremamente dettagliato e allo stesso tempo esplicativo di un fatto: c’era un traditore, una spia che forniva ai tedeschi informazioni sensibili e che, per di più, era un ufficiale dell’esercito francese. Il superiore di Henry decide dunque di iniziare una caccia alla spia cercando di comparare la scrittura presente sul bordereau con i rapporti manoscritti archiviati nella sezione di statistica in cui lavorava. Niente da fare, non si trova nulla e quindi si dà il via alle investigazioni. Poco dopo, gli ufficiali in capo alle indagini puntano il dito contro un artigliere “un ufficiale insoddisfacente, molto intelligente e molto dotato ma pretenzioso e con un carattere poco sviluppato…e delle maniere che lo renderebbero inadatto allo Stato maggiore dell’esercito”28 riporta Read da alcuni documenti ufficiali del caso.

Insomma uno facile da prendere di mira, che tra l’altro era anche figlio di manifatturieri tessili ebrei provenienti dall’Alsazia. Un aspetto che non comportò automaticamente una sentenza di condanna, ma rese semplicemente più comprensibile per il corpo militare e per l’opinione pubblica del tempo l’accusa mossa nei suoi confronti.

Come raccontato da Read, ancor prima di fare qualsiasi tipo di perizia calligrafica (sempre se si potesse definire tale al tempo) il capitano Dreyfus viene arrestato. L’intera vicenda si trasforma in uno scandalo nel momento in cui Alphonse Bertillon, quello che abbiamo detto essere l’inventore dell’antropometria e di un non troppo scientifico metodo per l’identificazione dei criminali, diventa, sull’onda della celebrità appena acquisita, il maggiore esperto di calligrafia, qualifica che in realtà non aveva affatto. In un passaggio molto interessante e che chiarifica il motivo per il quale questo evento è stato, ed è tuttora definito, scandalo, Read scrive: “Bertillon riconobbe subito che i due esempi di grafia non erano identici, ma disse che era ridicolo supporre che una spia scrivesse di propria mano una nota così compromettente. Naturalmente aveva preso la precauzione di mascherare la sua calligrafia. Il bordereau era una ‘auto falsificazione’”. Una strampalata teoria quella di Bertillon, che però portò alla condanna all’ergastolo di Dreyfus sull’isola del Diavolo al largo della costa della Guyana francese, conquistata da Napoleone III e adattata a colonia penale.

Lo scandalo ebbe un impatto così forte che lo scrittore francese Émile Zola indirizzò, all’allora presidente francese Félix Faure, una lettera aperta che esprimeva il suo dissenso nei confronti della condanna a Dreyfus. La lettera, intitolata J’Accuse, fu pubblicata dal giornale L’Aurore il 13 gennaio 1898. Più di centoventi anni dopo, nell’ottobre 2021, il presidente francese Emmanuel Macron ha inaugurato un museo a Médan, nella periferia parigina, dedicato all’ingiusta detenzione di Dreyfus. Come riportato dal The Guardian in un articolo del 30 ottobre 202129, il caso accende ancora polemiche politiche irrisolte proprio per la facilità attraverso la quale una persona innocente è stata condannata ad una pena detentiva senza nessuna prova scientifica a sostegno, e per via di chiari pregiudizi. Dare a un metodo non scientifico o non comprovato un’importanza centrale in un caso giudiziario significa lasciare in capo a qualcosa che è stato ideato dagli essere umani, e per definizione fallibile sotto molti punti di vista, la responsabilità di giudicare un essere umano. Il governo francese, come vedremo più avanti, si è lasciato affascinare in modo molto simile dalle tecnologie biometriche, cercando una risposta univoca ad un problema complesso come la sicurezza nelle città.

Il motivo per il quale il sistema inventato da Bertillon è stato a un certo punto definito totalmente inutile si deve a un altro fatto interessante, accaduto praticamente nello stesso periodo. Come raccontato nell’articolo A Fingerprint Fable: The Will and William West Case, scritto nel 1987 da un agente del Kansas Bureau of Investigation di nome Robert D. Olsen senior, l’utilizzo del sistema di identificazione Bertillon viene abbandonato definitivamente quando un soggetto appena arrestato, e portato in un carcere del Kansas, risulta avere simile identità nonché simili caratteristiche fisiche di un detenuto già presente all’interno della struttura e condannato alla pena dell’ergastolo. È possibile infatti che due persone siano simili (o addirittura identiche nei casi di gemelli omozigoti), o che abbiano simili nomi e cognomi a causa di malinterpretazioni, diminutivi o errori di copiatura. Piano piano le forze dell’ordine si sono rese conto che un sistema basato sulle intuizioni di Bertillon non poteva essere efficace nel garantire che la persona giusta, ovvero che aveva commesso un reato, fosse assicurata alla giustizia.

Praticamente nello stesso periodo, ovvero all’inizio del ‘900, alcuni ufficiali statunitensi sono stati introdotti a una nuova tecnologia per identificare i criminali. Una tecnologia innovativa che circolava in Inghilterra e che si basava sulle impronte digitali. Ne parla Annie Jacobsen in First Platoon, raccontando come solo un anno dopo il sistema Bertillon non venne più utilizzato dalle forze dell’ordine americane.

Le impronte digitali come metodo infallibile di identificazione sono state scoperte da uno scienziato di nome Francis Galton. Un nome che non dice molto se non collegato ad uno scienziato certamente più famoso, col quale condivideva una parte di albero genealogico: Charles Darwin. Alcune speculazioni narrano di come Darwin non avesse avuto tempo di dedicarsi allo studio sulle impronte digitali, e che per questo motivo non fu lui ma il cugino a contribuire alle scoperte nel campo.

Per capire meglio la nuova scoperta partiamo dal dire che le impronte digitali sono formate da un insieme di linee, chiamate creste, e da punti in cui le linee terminano o si biforcano, le minuzie. Nello studio Fingerprints del 1892 Galton, che tra l’altro critica il Bertillonage30, ha analizzato perlopiù impronte digitali e profili umani per capire, tra le altre cose, se ciò potesse aiutare nell’identificazione di un individuo (a quel tempo soprattutto appartenente alla popolazione nelle colonie inglesi di India ed Egitto) utilizzando semplicemente dell’inchiostro sulle dita delle mani. Galton ha poi cercato di capire se fosse possibile classificare le persone per etnia o provenienza sulla base delle loro impronte digitali. L’idea dello scienziato non era sbagliata: immutabilità, unicità e variazioni sono le caratteristiche più importanti attribuibili alle impronte digitali. La loro configurazione è per l’appunto permanente e la probabilità che se ne trovino due coincidenti è praticamente impossibile (pensiamo anche che ogni nostra impronta digitale è diversa dalle altre nove). Infine l’immutabilità delle impronte può in parte venire meno solo se queste sono sottoposte a cause perlopiù innaturali, come ad esempio scottature o tagli.

In uno studio31 condotto dal Centro di eccellenza per l’analisi e il riconoscimento dei documenti del Dipartimento di Informatica e Ingegneria dell’università di New York, intitolato Discriminability of Fingerprints of Twins e pubblicato nel 2008, alcuni ricercatori hanno dimostrato come, nonostante i dettagli e le caratteristiche delle impronte digitali tra gemelli siano molto più simili rispetto alle similitudini che è possibile riscontrare se si comparano le impronte del resto della popolazione, queste non siano comunque identiche. Il campione per l’esperimento è significativo poiché ha coinvolto una popolazione di 298 gemelli, ai quali è stata prelevata la mappatura delle impronte attraverso un lettore digitale.

Il funzionamento della maggior parte degli strumenti di identificazione delle impronte delle dita si affida, al giorno d’oggi, al metodo capacitive: quando appoggiamo il nostro dito al tasto centrale di alcuni telefoni per abilitarne lo sblocco, permettiamo la creazione di un’immagine dell’impronta per mezzo di una carica elettrica generata da alcuni condensatori miniaturizzati, che sono in grado di immagazzinare elettricità. Toccando il tasto o lo scanner, scarichiamo i condensatori. La differenza tra le creste delle impronte digitali e le valli (gli spazi che intercorrono tra la pelle e il sensore) determinano poi uno schema univoco.

Gli scanner ottici invece, molto meno precisi, scattano una semplice fotografia dell’impronta, che viene determinata sia dal sensore che da come la luce si riflette su creste e valli. Al Mobile World Congress del 2015, l’azienda produttrice di semiconduttori statunitense Qualcomm ha presentato qualcosa di molto diverso rispetto alle procedure descritte finora. Lo scanner a ultrasuoni, allora solo un prototipo, utilizza al posto della luce un segnale a ultrasuoni che registra l’eco che creste e valli generano, nonché una parte dell’impronta esterna a quella solitamente considerata da altri lettori. Tutto ciò senza venire a contatto con il nostro dito e favorendo la scoperta di eventuali utilizzi impropri di impronte digitali ai fini di un’autenticazione (per esempio attraverso copie “piatte” replicate su un foglio di carta).

Il fatto che la rilevazione delle impronte digitali ai tempi di Galton fosse definita semplice e affidabile la dice lunga sulle motivazioni, molto simili, che vengono addotte anche oggi quando i governi decidono di servirsi di sistemi che trattano dati biometrici. Il fatto poi che Galton fosse alla ricerca (manualmente) di differenze tra impronte digitali di persone provenienti da nazioni diverse, lo rende probabilmente una delle prime persone a lavorare su possibili similitudini tra le impronte delle dita, un procedimento che ora viene chiamato fingerprints pattern recognition. Oltre ai risultati, il contesto socio-politico del tempo e la visione colonialista che hanno guidato la ricerca di Galton sono due aspetti parimenti importanti da considerare, soprattutto se si vuole comprendere un concetto che, nella società odierna, si tende (a torto) a non considerare: quello che distingue chi sorveglia (e detta le regole) da chi è sorvegliato.

Dal Bertillonage all’enorme database Afis

Abbiamo detto quindi che nessuna impronta può essere identica ad un’altra, nemmeno nei casi di gemelli omozigoti, e di conseguenza, che attraverso un’impronta non è possibile identificare univocamente un soggetto. Il dato biometrico che si ottiene da un’impronta digitale è tutt’oggi un’informazione stoccata in grandi sistemi informatici, ed è estremamente utile alle forze dell’ordine. Ma come siamo passati dall’impronta delle dita al volto o all’iride? Sicuramente l’evoluzione tecnologica ha permesso una maggiore precisione nella raccolta di dati biometrici.

Lo spiega bene Jacobsen32, raccontando la storia di un ispettore generale della polizia bengalese chiamato Sir Edward Henry. Dopo aver letto il libro di Galton Henry ha pensato: perché non creare un database ricercabile di cartellini fotosegnaletici appartenenti a criminali? Non trovando una ragione per non farlo, secondo quanto ricostruito da Jacobsen Henry ordinò di collezionare le impronte digitali di tutti i detenuti presenti nelle prigioni del Bengala attraverso il metodo Galton, portando alla creazione di un sistema chiamato Henry Classification System. Come spesso accade non è solo una persona o un ristretto cerchio di persone a lavorare a un’invenzione. Anche altri paesi stavano lavorando per creare database di impronte digitali simili: negli Stati Uniti ad esempio l’FBI aveva iniziato ad utilizzare qualcosa di simile nel 1924, segnando una svolta non solo nella raccolta di dati biometrici ma anche nel modo in cui le forze dell’ordine svolgevano le indagini. Jacobsen riporta come i criminali identificati in quegli anni tramite raccolta delle impronte digitali negli Stati Uniti furono 810.188. Un database enorme a quel tempo, che arrivò a 11 milioni di cartellini nel giro di venticinque anni e conteneva 150 milioni di impronte singole.

Nel ventennio che ha separato gli anni ‘60 dagli ‘80 nelle società occidentali sono successe molte cose, sotto diversi punti di vista. In quella finestra di tempo l’innovazione tecnologica è stata dirompente anche nel settore della criminalità, rendendo possibile la creazione di un importante sistema di identificazione utilizzato ancora oggi, AFIS (Automated Fingerprint Identity System). Nella pubblicazione The Fingerprint Sourcebook, realizzata dall’Istituto nazionale di giustizia americano e datata 2002, lo specialista nell’analisi del crimine e delle impronte digitali Kenneth Moses cura il sesto capitolo, quello in cui vengono citate anche le conclusioni di uno studio della criminologa Joan Petersilia. L’analisi delle impronte digitali può realmente contribuire all’identificazione di un criminale, dice Petersilia, solo in un caso: “non importa quanto sia competente il tecnico nello svolgimento del suo lavoro, la raccolta di prove fisiche sulla scena del crimine sarà inutile a meno che tali prove non possano essere adeguatamente elaborate e analizzate. Dal momento che le impronte digitali sono di gran lunga le prove fisiche recuperate più frequentemente, rendere efficace il sistema di analisi di tali impronte contribuirà a un maggiore successo nell’identificazione dei criminali attraverso l’uso di prove fisiche”33. Processare significa dunque dare un valore alle impronte, a quei dati biometrici che si sono raccolti sulla scena di un crimine. Nel capitolo citato Moses ripercorre la storia che ha portato alla creazione di quello che abbiamo definito una svolta nel sistema di identificazione della polizia: Automated Fingerprint Identity System. Una dicitura utilizzata internazionalmente per riferirsi ai sistemi automatici di identificazione delle impronte digitali. In sostanza l’FBI, una volta raggiunti numeri cospicui di impronte digitali, decide di concerto con Inghilterra, Francia e Giappone, di automatizzare e rendere questi database ricercabili. Come raccontato da Moses, nel 1966 l’agenzia governativa statunitense manifestò l’interesse di creare un dispositivo che potesse permettere la lettura delle minuzie presenti sulle impronte digitali. Due furono le società coinvolte nella creazione dei due dispositivi (uno di scanning e l’altro di identificazione delle minuzie): la Cornell Aeronautical Labs, Inc. e la North American Aviation, Inc.. Quest’ultima è la compagnia americana che ha prodotto sia il P-51 Mustang che il caccia F-86 Sabre, impiegati massivamente nella seconda guerra mondiale e nella Guerra di Corea. Una terza persona, l’informatico Joseph Henry Wegstein, fu invece incaricato di sviluppare quello che sarebbe stato l’algoritmo, utile a determinare la corrispondenza tra pattern di impronte digitali. Tra il 1975 e il 1976 il sistema Finder34 entrò nell’arsenale degli strumenti utilizzati nelle indagini dell’FBI.

Nello stesso periodo anche il Giappone aveva raccolto una quantità di impronte digitali cospicua, circa 4 milioni. Questo lo rese un altro dei paesi interessati all’evoluzione del sistema di raccolta di impronte digitali da manuale ad automatico, dice Moses. Anche in questo caso le aziende private ebbero un ruolo centrale nell’implementazione di tecnologie per lo Stato: NEC Corporation, una società di tecnologia informatica con sede a Minato-ku, Tokyo, e fondata nel 1898, si lanciò nell’impresa di costruire un sistema simile a quello creato dall’FBI collaborando con i suoi ricercatori e istituti di ricerca. Moses racconta di come NEC abbia lavorato sul progetto AFIS per i successivi dieci anni, raggiungendo solo in quel momento il pieno utilizzo del sistema da parte della National Police Agency of Japan (NAP).

Il caso che rese il sistema AFIS famoso a livello internazionale, però, fu quello che coinvolse il dipartimento di polizia di San Francisco, in California. Moses racconta come il sistema fosse stato “approvato” dai cittadini come strumento da utilizzare per aiutare le forze dell’ordine nella ricerca dei criminali. Addirittura l’80% delle persone si erano definite d’accordo. Per una questione procedurale però il sindaco era contrario: all’appalto sembrava si potesse presentare, e quindi vincere, unicamente una sola azienda che al tempo commercializzava il sistema AFIS. Alla fine, nel 1983, NEC la spuntò. “[...] Ciò che differenziava il sistema di San Francisco da quelli precedenti era il design organizzativo. AFIS è stato visto come un vero sistema che comprende tutti gli aspetti dell’identificazione dalla cresta delle impronte, alla scena del crimine fino all’aula del tribunale”35.

Da quel momento in poi la proliferazione di sistemi AFIS si espanse in tutto il mondo: negli anni ‘90 erano quattro le aziende più famose in questo settore, ovvero Printrak, NEC, Morpho e Cogent. Interessante notare come, in un modo o nell’altro, queste società siano ancora oggi le stesse che componevano l’oligopolio di trent’anni fa. Nel 2009 Sagem Morpho e Printrak si sono fuse per formare MorphoTrak, una compagnia sempre nello stesso settore che lavora perlopiù con il governo francese. Morpho Systèmes, creata in Francia nel 1982 è stata comprata da Sagem, la quale ha separato parte dei suoi capitali creando Sagem Sécurité. Quest’ultima ha cambiato nome nel 2010, diventando Morpho e, dopo una serie di altre fusioni e negoziazioni, nel 2017 spunta IDEMIA, specializzata nell’identificazione biometrica sia attraverso impronte digitali che con l’uso del riconoscimento facciale. Non è raro che società in questo ambito vengano assorbite da altre aziende, anche e soprattutto a seguito di investimenti in ricerca e sviluppo i cui risultati sono appetibili per molti.

Tornando agli Stati Uniti, durante gli anni ‘70 la Criminal Justice Information Services Division (CJIS) era la divisione più grande e importante dell’agenzia governativa di polizia federale segreta americana, l’FBI. Poteva contare su un budget di più di 1 miliardo di dollari, e in questo campo avere accesso a una quantità così ingente di denaro significa poter comprare ma anche creare ex novo strumenti che non esistono sul mercato. Quanto ricostruito da Jacobsen nel suo libro attraverso la consultazione di documenti ottenuti tramite richiesta di accesso alle informazioni (Foia)36, è ancora una volta di estrema rilevanza per tracciare l’evoluzione delle tecnologie biometriche negli ultimi venti anni. Come visto per gli altri dati biometrici, l’introduzione del volto come parte del corpo utile all’identificazione di un individuo è stata abbastanza curiosa. Jacobsen racconta della collaborazione tra l’FBI e il celebre programma TV America’s Most Wanted, andato in onda nel paese dal 1988 al 2013 per agevolare la ricerca dei fuggitivi operata dalle forze dell’ordine attivando anche i cittadini in una sorta di “ronda collettiva”. La spettacolarizzazione televisiva del lavoro delle forze dell’ordine è al centro di alcune storie dal finale non troppo positivo accadute soprattutto in America Latina, in cui da metodo quantomeno utile si è presto trasformato in investigazioni pilotate insieme alle troupe televisive. In questo caso i telespettatori hanno identificato il volto di un criminale ricercato dalla legge attraverso le foto segnaletiche condivise dal programma. Le persone sono infatti abili a ricordare il volto di un individuo e questo esperimento curioso l’aveva reso chiaro alla polizia, che in seguito ha continuato ad avvalersi del metodo.

Integrare le foto di un sospettato in un sistema automatico di riconoscimento dei volti è stato ciò che ha veramente segnato il cambio di passo. Parliamo di un progresso tecnologico estremamente veloce in un lasso di tempo minimo.

Nell’articolo Woody Bledsoe, His Life and Legacy pubblicato sulla rivista AI Magazine nel 1996, si racconta come fu Woody Bledsoe, matematico, informatico e professore di ingegneria nucleare, insieme a Helen Chan e Charles Bisson, a lavorare per la prima volta alla creazione di uno strumento che potesse riconoscere un volto umano e, indirettamente, a segnare l’inizio del percorso che ci ha portato ai sistemi di riconoscimento facciale. La scommessa dei ricercatori era quella di trovare una corrispondenza tra la fotografia di un volto e un database di volti creato utilizzando i raccoglitori di foto segnaletiche. In questo caso gli aspetti più problematici dello studio erano rappresentati dall’età del volto e dalla sua rotazione nella fotografia, variabili che rendevano complesse anche le corrispondenze tra due immagini della stessa persona. “Utilizzando un Grafacon, o Rand tablet37, l’operatore estrae le coordinate di caratteristiche come il centro delle pupille, l’angolo interno degli occhi, l’angolo esterno degli occhi, [...]. Da queste coordinate è stato calcolato un elenco di venti distanze, come la larghezza della bocca e la larghezza degli occhi, la distanza da pupilla a pupilla. [...] Durante la creazione del database, il nome della persona nella fotografia è stato associato all’elenco delle distanze calcolate e memorizzato nel computer. In fase di riconoscimento, l’insieme delle distanze è stato confrontato con la distanza corrispondente per ciascuna fotografia, ottenendo una corrispondenza tra la fotografia e il record presente nel database”. Il riconoscimento funzionava e lo dimostra un esperimento svolto alla fine degli anni ‘60 su un database di oltre 2.000 fotografie: il computer ha superato le prestazioni di riconoscimento dei volti che fino a quel momento erano riservate agli esseri umani.

A seguito di ciò ricerche e prove empiriche si susseguirono fino al 1992 quando, così come raccontato da Jacobsen, la Defence Advanced research Projects Agency (DARPA), ovvero l’agenzia del Pentagono dedita allo sviluppo scientifico e tecnologico, lanciò FERET: Face Recognition Technology program. L’obiettivo, come è intuibile, era quello di evolvere la ricerca nel campo del riconoscimento facciale creando un unico enorme database di volti per militari, forze dell’ordine e servizi segreti. Nel report FERET (Face Recognition Technology) Recognition Algorithm Development and Test Results pubblicato nell’ottobre 1996 dal Dipartimento di ricerca militare statunitense, sono presentati i risultati dei test di valutazione condotti nell’agosto 1994 e nel marzo 1995 su algoritmi creati per l’identificazione automatica dei volti da impiegare nel campo della sicurezza. Nel dettaglio, attraverso il progetto FERET, il Dipartimento della difesa americano voleva raggiungere tre obiettivi: il primo era riuscire a sviluppare un algoritmo e creare un sistema di riconoscimento facciale; il secondo era raccogliere una quantità tale di immagini facciali da poter creare un database, chiave di ogni sistema di questo tipo. Attraverso quest’ultimo è infatti possibile trovare una corrispondenza tra il volto ricercato e i volti presenti nel database, ma anche fornire immagini sulle quali gli algoritmi di riconoscimento facciale possano “allenarsi” a riconoscere volti e quindi “imparare”. Come terzo output il DARPA identificava la possibilità di testare gli algoritmi attraverso procedure standardizzate, al fine di determinare la maturità degli algoritmi di riconoscimento facciale e confrontarli tra di essi. Prima di FERET, solo tre ricercatori avevano creato database composti da un rilevante numero di immagini facciali: al Massachusetts Institute of Technology (MIT) avevano creato un database di circa 7.500 immagini frontali, raccolte in un ambiente controllato; alla Rutgers University, in New Jersey, uno simile ma di soli 250 individui; e infine all’Università della California del Sud, dove erano state collezionate circa 100 immagini di volti (anche ruotati).

2001: anno spartiacque per la sorveglianza biometrica

Il sistema di riconoscimento facciale creato da Darpa aveva il compito di aiutare le forze dell’ordine e l’Intelligence statunitense a identificare in modo automatico un soggetto, sia all’interno di un database di foto segnaletiche sia in aree sensibili come i valichi di frontiera, gli aeroporti, i luoghi di passaggio di grandi folle. Per la prima volta si parla di identificazione 1:1 e di identificazione 1:N, ovvero della possibilità di identificare un individuo sospetto attraverso due fotografie o frame video, così come di identificare una persona in una popolazione molto grande di individui sconosciuti. Con l’invasione dell’Afghanistan e dell’Iraq nel 2001 da parte degli Stati Uniti, la presenza americana e la conseguente raccolta di informazioni e dati sulle popolazioni dei due paesi furono raccontate come necessarie all’azione di contrasto al terrorismo. I militari statunitensi e l’FBI hanno collezionato dati biometrici appartenenti alla popolazione afgana sin dal loro arrivo nel paese: non solo impronte digitali ma anche DNA e pattern dell’iride. Ad un rilevamento simile sono stati sottoposti anche i detenuti di numerose carceri irachene. Nel 2003 anche l’ex presidente iracheno Saddam Hussein, appena catturato, è stato sottoposto al rilevamento di tutte e dieci le impronte digitali delle dita da parte delle forze di occupazione statunitensi.

Di rilevante interesse sono tutti gli strumenti utilizzati per la raccolta di dati biometrici impiegati. Il SEEK, Secure Electronic Enrollment Kit, è un device portatile specifico per l’utilizzo in condizioni particolari in cui è necessario essere rapidi, in grado di catturare impronte digitali di alta qualità così come immagini facciali e iridi. Le informazioni raccolte confluiscono direttamente dentro il database AFIS e dentro ABIS (Automated Biometric Identification System), creato come prototipo nel 2004. Ma prima di Afghanistan e Iraq anche il Kosovo era stato paese di sperimentazione per gli americani: il Biometric Automated Toolset (BAT) è un software impiegato ampiamente all’inizio del 2000 e utilizzato sette anni dopo a Fallujah, in Iraq, per il rilevamento delle impronte digitali, dell’iride e del volto dei cittadini iracheni insieme ad alcuni dispositivi portatili che facevano parte dell’Handheld Interagency Identity Detection Equipment (HIIDE)38. Quest’ultima è una sorta di macchina fotografica che realizza un dossier identificativo per ogni persona scannerizzata, i cui dati confluiscono direttamente all’interno del BAT.

La guerra al terrorismo propugnata in Afghanistan e Iraq da parte degli Stati Uniti e dei suoi maggiori alleati ha portato all’identificazione e alla catalogazione di civili, che nulla c’entravano con il conflitto e che ora molto probabilmente rimarranno per un periodo indefinito all’interno di un database. Proprio nell’agosto 2021, alla vigilia del ritorno dei Talebani in Afghanistan, la testata investigativa The Intercept39 ha riportato un caso di grande interesse per il pubblico di studiosi e attivisti che si occupano di tecnologie biometriche. Una volta ritirate le truppe americane di stanza nel paese alcuni sistemi tra i quali HIIDE sarebbero finiti sotto il controllo dei Talebani, aprendo un dibattito critico sugli strumenti utilizzati nei teatri di guerra e che possono, in qualsiasi momento, cadere nelle mani di altre persone. L’intento con il quale l’esercito di occupazione americano utilizzava il sistema non era più nobile rispetto a quello che presumibilmente hanno avuto i Talebani, motivo per il quale è importante ancora una volta sottolineare come le tecnologie non siano invece neutre e siano uno strumento che viene piegato a interessi differenti. Inoltre grandi database come quelli citati contengono informazioni personali e sensibili molto delicate, e sono particolarmente vulnerabili a cyber attacchi da parte di altri governi o anche privati cittadini. Niente di tecnologico è sicuro al 100%.

Il presidente Joe Biden lo scorso anno ha proposto di destinare un budget militare di 11 milioni di dollari dedicato proprio all’acquisto di altri dispositivi di identificazione biometrica40. La divisione CJIS ha implementato un nuovo sistema chiamato Next Generation Identification (NGI), che prevede la raccolta di dati biometrici di individui inviati da partner federali, statali, locali e persino internazionali. Secondo le informazioni condivise a marzo 2022 dall’FBI il sistema è diviso in due repository, la prima è considerata “civile” e contiene più di 60 milioni di impronte digitali di dita e palmi delle mani di soggetti che non hanno commesso reati, la seconda colleziona gli stessi dati ma da criminali (più di 80 milioni di impronte). L’FBI sta lavorando all’implementazione del sistema dal febbraio 2011, momento in cui AFIS è stato sostituito con AFIT (Advanced Fingerprint Identification Technology), un sistema che ha aumentato la capacità di processare non solo impronte digitali ma in generale tutti i dati biometrici. Per quanto riguarda il riconoscimento facciale, NGI permette la ricerca di un’identità fra 30 milioni di foto segnaletiche raccolte nel momento in cui un individuo entra all’interno del sistema carcerario o è denunciato per un crimine. MorphoTrak, azienda francese creata nel 2009 dalla fusione tra Sagem Morpho e Printrak è tra le imprese coinvolte nella creazione di NGI, insieme anche a IBM e Accenture. A distanza di più di ottant’anni dalla sua prima applicazione in ambito militare, la tecnologia biometrica è più utilizzata che mai e permea sempre di più anche il contesto civile.

1 I sistemi biometrici sono stati inventati per effettuare autenticazioni o identificazioni: la prima consiste nello stabilire se una persona che accede a una struttura o ad un servizio online è veramente colui o colei che dichiara di essere; la seconda è invece determinante se si vuole capire se una persona corrisponde a una di quelle schedate presenti nell’archivio di dati che si utilizzano.

2 Secondo un report della società di consulenza e ricerche sul mercato Grand View Research, consultabile al link https://www.grandviewresearch.com/industry-analysis/facial-recognition-market

3 Consultabile al link https://fra.europa.eu/sites/default/files/fra_uploads/fra-2019-facial-recognition-technology-focus-paper.pdf

4 Il testo è su Gender Shades, consultabile al link http://gendershades.org/docs/ibm.pdf

5 Il testo è su Gender Shades, consultabile al link http://gendershades.org/docs/msft.pdf

6 “We believe the fairness of AI technologies is a critical issue for the industry and one that Microsoft takes very seriously”.

7 Il testo della lettera è consultabile al link https://uploads.strikinglycdn.com/files/e286dfe0-763b-4433-9a4b-7ae610e2dba1/RekognitionGenderandSkinTypeDisparities-June25-Mr.%20Bezos.pdf

8 “In the case of gender classification which has been essentially reduced to binary, the technology has a 1 in 2 chance of getting the answer right simply by guessing”.

9 “[...] the chance of guessing the correct face by chance is based on the number of potential face matches stored”.

10 “[...] so for example if there are 50.000 faces to be matched against and a person of interest is identified, the chance of randomly guessing the right individual is 1 in 50.000”.

11 Da ricordare è il fatto che AWS rappresenta la fonte più importante di incassi per l’azienda madre Amazon, coprendo una percentuale del 58% dei guadagni totali (dati diffusi da CNBC nel gennaio 2019, consultabili al link https://www.cnbc.com/2019/01/31/aws-earnings-q4-2018.html)

12 Blogpost consultabili a questi due link: https://aws.amazon.com/it/blogs/machine-learning/thoughts-on-recent-research-paper-and-associated-article-on-amazon-rekognition/ e https://aws.amazon.com/it/blogs/machine-learning/some-thoughts-on-facial-recognition-legislation/

13 “[...] we hope (this blogpost, nda) will help clarify several misperceptions and inaccuracies”.

14 “[...] we’ve shown that facial recognition is actually a very valuable tool for improving accuracy and removing bias when compared to manual, human processes”.

15 “People often think of accuracy as an absolute measure, such as a percentage score on a math exam, where each answer either right or wrong. To understand, interpret, and compare the accuracy of machine learning systems, it’s important to understand what is being predicted, the confidence of the prediction, and how the prediction is to be used, which is impossible to glean from a single absolute number or score”.

16 Consultabile al link https://www.perpetuallineup.org/

17 L’annuncio è stato pubblicato sul sito dell’azienda ed è consultabile al link https://www.aboutamazon.com/news/policy-news-views/we-are-implementing-a-one-year-moratorium-on-police-use-of-rekognition

18 Dichiarazione consultabile al link https://www.ibm.com/blogs/policy/facial-recognition-sunset-racial-justice-reforms/?mhsrc=ibmsearch_a&mhq=facial%20recognition

19 “Ha senso parlare di etica degli algoritmi?”, Wired Italia, 27 maggio 2021

20 La bozza proposta, e attualmente in discussione alla commissione europea, prevede quattro livelli di rischio: inaccettabile, nei casi in cui l’Ia è considerata una minaccia alla sicurezza e ai diritti fondamentali delle persone (riconoscimento biometrico da parte delle forze dell’ordine, anche se con molte eccezioni; il social scoring su modello cinese e sistemi che in modo subliminale modificano il comportamento di una persona tanto da provocare loro un danno fisico o psichico). L’alto rischio, che comprende i casi in cui l’Ia è utilizzata tra le altre cose anche per infrastrutture critiche come trasporti, accesso all’istruzione o gestione dei lavoratori, alle frontiere o in ambito giuridico. Il rischio limitato, con il quale l’Unione europea prevede di imporre unicamente obblighi di trasparenza, e il rischio minimo.

21 Ethics Owners: A New Model of Organizational Responsibility in Data-Driven Technology Companies, Data&Society, 23 settembre 2020, consultabile al link https://datasociety.net/library/ethics-owners/

22 “[...] they handle challenging ethical dilemmas with the tools of tech management and within familiar tech company structures, translating public pressure into new corporate practices”.

23 “[...] a common refrain we heard from ethic owners was that their technical teams will gather in a room and “think really hard” about the potential ethical implications of a product or feature. The intuition that good technical teams will also be good at enumerating potential ethical implications comports with the importance of technical team member’s intuition in other domains, and is underwritten by meritocratic assumptions”.

24 “[...] This attitude leads to a well-intentioned search for best practices (i.e., procedures, checklists, concrete metrics) that can guarantee an ethical outcome”.

25 “[...] if people actually stop using certain services and/or showed more preference for services that didn’t have the same [flaws], you can be sure companies will be responsive [...]”

26 Bentham, J., The Panopticon Writings. Ed. Miran Bozovic, London, Verso, 1995, p. 29-95.

27 “In no instance could his subordinates either perform or depart from their duty, but he must know the time and degree and manner of their doing so. It presents an answer, and that a satisfactory one, to one of the most puzzling of political questions - quis custodiet ipsos custodes?

28 “An unsatisfactory officer, very intelligent and very gifted but pretentious and with an undeveloped character…and a manner that would make him unsuited to the Army’s General Staff”.

29 Rise of far right puts Dreyfus affair into spotlight in French election race, The Guardian, 30 ottobre 2021, consultabile al link https://www.theguardian.com/global/2021/oct/30/rise-of-far-right-puts-dreyfus-affair-into-spotlight-in-french-election-race

30 “The success of the system is considered by many experts to be fully proved, notwithstanding many apparent objections, one of which is the difficulty due to transitional cases: a belief in its success has certainly obtained a firm hold upon the popular imagination in France. Its general acceptance elsewhere seems to have been delayed in part by a theoretical error in the published calculations of its efficiency: the measures of the limbs which are undoubtedly correlated being treated as independent, and in part by the absence of a sufficiently detailed account of the practical difficulties experienced in its employment”.

31 Consultabile al link https://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.448.5513&rep=rep1&type=pdf

32 Nel capitolo The Two Will West del libro di Jacobsen, A., First Platoon. A Story of Modern War in the Age of Identity Dominance. London, Dutton, 2021.

33 “No matter how competent the evidence technician is at performing his job, the gathering of physical evidence at a crime scene will be futile unless such evidence can be properly processed and analyzed. Since fingerprints are by far the most frequently retrieved physical evidence, making the system of analyzing such prints effective will contribute the most toward greater success in identifying criminal offenders through the use of physical evidence”.

34 Un sistema di lettura automatica di impronte digitali creato dalla Rockwell International, Inc. per conto del governo americano.

35 “What differentiated the San Francisco system from those that had gone before was organisational design. AFIS was viewed as a true system encompassing all aspects of friction ridge identification from the crime scene to the courtroom”.

36 Il Freedom of Information Act è una legge statunitense che consente a chiunque, senza una motivazione, di accedere a documenti, dati e informazioni prodotti e detenuti dalle amministrazioni e dalle agenzie governative che operano su territorio nazionale. Dal 2016 è presente anche nell’ordinamento giuridico italiano attraverso il decreto legislativo 97/2016 che introduce, parallelamente all’accesso civico semplice e documentale, l’accesso civico generalizzato (anche chiamato Foia). È stato istituito per la prima volta in Svezia alla fine del 1700.

37 Computer e tablet creati in collaborazione con DARPA, Defence Advanced Research Projects Agency americana.

38 Introduzione alla biometria e ai sistemi biometrici, slide create dall’ufficio formazione e integrazione nuovi sistemi dell’Agenzia per gestione dell’identità biometrica americana, consultabile al link https://www.tam.usace.army.mil/Portals/53/docs/UDC/Biometrics%20101.pdf

39 The Taliban have seized U.S. military biometrics devices, The Intercept, 18 agosto 2021, consultabile al link https://theintercept.com/2021/08/17/afghanistan-taliban-military-biometrics/

40 Budget per le spese destinate al dipartimento della difesa americano, anno 2022, consultabile al link https://www.asafm.army.mil/Portals/72/Documents/BudgetMaterial/2022/Base%20Budget/Procurement/OPA_BA_2_FY2022_PB_Other_Procurement_BA2_Communications_and_Electronics.pdf

La fabbrica della sicurezza

Governare l’insicurezza

Come affermato da Michel Foucault, nel diciannovesimo secolo si è cominciato ad esercitare un potere disciplinare che consiste nel sottoporre la popolazione ad un incasellamento specifico che agisce secondo un doppio schema: la divisione binaria tra chi è considerato “normale” e chi è invece “pazzo”, chi è “pericoloso” da chi non lo è; e di conseguenza ciò che permette di identificare il primo dal secondo attraverso sorveglianza e controllo continui praticate da istituzioni create ad hoc. Parlare di come le tecnologie di sorveglianza biometrica siano arrivate in Italia significa aprire un più ampio discorso che delinei, seppur sommariamente, la nascita delle politiche securitarie nel nostro paese da un punto di vista normativo e culturale. Quando ho cominciato a studiare più da vicino la tecnologia, anche biometrica, e l’impatto che può avere sulle persone (nello specifico sulla città e i suoi abitanti) mi sono chiesta in che modo e perché dispositivi come questi fossero stati silentemente introdotti nel contesto urbano. Se una videocamera può effettuare un riconoscimento facciale, ovvero associare a un volto l’identità precisa della persona inquadrata, allora andare in giro per la propria città significa essere assimilabili, come detto in modo estremamente esplicativo dal Garante privacy olandese nel 2021, a “codici a barre ambulanti”. A ben vedere la risposta alla mia domanda era all’angolo di ogni via, in ogni piazza, davanti alle scuole e all’uscita della metro: le videocamere di sorveglianza sono ovunque, sguardi impalpabili e fissi ai quali siamo ormai ampiamente abituati. Dunque il riconoscimento facciale non è un dispositivo che è stato calato dal cielo bensì uno strumento che, nel momento in cui ha iniziato ad avere un mercato e quindi ad attirare l’attenzione di politici e imprese, aveva già una struttura sulla quale essere installato. La rete di videosorveglianza creata nei decenni in Italia non è mai stata “tracciata”: non esiste una mappa che raffiguri dove e quanti siano gli occhi installati nei comuni italiani che ci circondano. Eppure se durante una passeggiata per strada, in qualunque cittadina italiana, si volge lo sguardo all’insù ci si rende in poco tempo conto di non essere soli. Le videocamere agli angoli delle strade, ai semafori o intente a scrutare chi si presta ad entrare in negozi e portoni probabilmente potrebbero registrare ogni passo del percorso che facciamo. Compagne di un viaggio che pensavamo fosse solitario.

Sul significato di sicurezza

Nei primi anni Novanta in Italia inizia sempre più a farsi largo il concetto di sicurezza del territorio, un concetto non troppo specifico e che in poco tempo prende una piega securitaria. Molto spesso infatti vari governi politici nazionali di centrodestra e centrosinistra, e a cascata anche locali, hanno sostituito sempre più marcatamente la parola “controllo” con la parola “sicurezza”. Anche se le due parole possono sembrare simili in italiano, non è scontato parlare di sicurezza in questi termini. Nel libro In Search of Politics, Zygmunt Bauman discute della complessità della parola tedesca sicherheit, sicurezza, notando come in inglese la traduzione sia triplice: security, certainty e safety. La prima, security, sta per “qualsiasi cosa sia stata vinta e ottenuta che rimarrà in nostro possesso”. Certainty si riferisce alla conoscenza di una persona di cosa sia bene o male nella società in cui vive, e i rischi connessi a questa distinzione. Safety è invece la parola che definisce l’assenza di pericolo al corpo e alle proprietà di una persona.

Bauman afferma come in ogni società autonoma sia necessario uno spazio in cui gli interessi privati possano essere tradotti in temi pubblici, e che questo spazio è a metà tra la sfera pubblica e quella privata. Se in passato si otteneva sicurezza in cambio della propria libertà personale, ora la relazione è rovesciata: estendiamo le nostre libertà personali a scapito della sicurezza. L’effetto di questo cambio di interpretazione è secondo Bauman la privatizzazione dello spazio pubblico. Le istituzioni pubbliche hanno perso la capacità di fissare un’agenda sul tema e ora vedono la loro funzione primaria nel rispondere (in modo più reattivo possibile) a ciò che resta fuori, ovvero il mercato. La teorizzazione di Bauman sottolinea una criticità molto importante, che possiamo considerare alla base di ogni discorso sulla sicurezza: analizzare questo tema in differenti lingue risulta particolarmente problematico perché la stessa parola potrebbe riferirsi a significati diversi e, per estensione, esiste quindi anche una difficoltà di analisi dovuta alla predominanza della comunità scientifica anglo-americana. Alla fine dei conti la domanda “cosa significa sicurezza?” trova risposta in nuove domande che dipendono da ogni contesto, soprattutto socio-culturale ma anche economico. Procediamo quindi da quello che si può considerare ragionevolmente come l’inizio di un cambio netto nella percezione della città, di cosa non poteva più essere considerato sicuro, del rapporto tra lo spazio libero e lo spazio sorvegliato.

Siamo negli Stati Uniti, è il 1982. Il The Atlantic pubblica un articolo scritto a quattro mani da un sociologo di nome James Q. Wilson e da George L. Kelling (che più tardi diventerà anche un consulente della polizia di New York) dal titolo Broken Windows: the police and neighborhood safety. L’idea alla base dell’articolo, e dei due autori, è che non si debbano cercare le cause sociali dei reati commessi in ambito urbano − cosa che porterebbe poi ad una richiesta di welfare di stato, con conseguenti alti costi di investimento per le amministrazioni pubbliche − bensì che la percezione di sicurezza valga di più dei fatti. Nell’articolo viene descritto l’aumento dei pattugliamenti a piedi effettuati dalla polizia per cinque anni in alcune città del New Jersey abitate prevalentemente da persone nere. Una sperimentazione che non ha portato ai risultati sperati, ovvero alla diminuzione dei crimini di strada. A dimostrazione del fatto che dati ed evidenze di una sperimentazione possono essere letti in differenti modi, i due autori definiscono in quattro e quattr’otto quella che è la teoria regina della sicurezza urbana negli Stati Uniti e in Europa: se i cittadini percepiscono la città sicura, allora non importa (e non dovrà importare) a nessuno se i fatti dicono il contrario, ovvero se alcuni crimini continuano ad essere perpetrati e anche in gran misura. Oppure, al contrario, non importa se questi reati non vengono affatto commessi come invece si dice perché tanto le politiche saranno sempre orientate in ottica securitaria. Nella società occidentale per molte ragioni, tra cui si può annoverare il sistema economico, gli individui sono guidati da una propensione all’individualismo e non alla collettività, ma le risposte alla domanda “perché una persona delinque?” dovrebbero essere ricercate attraverso un’analisi approfondita della società. Ad esempio accanto al concetto di sicurezza urbana sono propugnati anche quello di ordine, decoro, pulizia, e non un ragionamento più generale che potrebbe includere la ricerca o almeno il tentativo di comprensione delle cause alla base di un comportamento criminale. Le famose finestre rotte di cui si parla nell’articolo di Wilson e Kelling si aggiungono alla narrazione della sicurezza urbana non tanto perché ci sia un vero collegamento tra queste ultime e la percezione di abbandono o degrado degli edifici di una città, ma perché come per tutte le teorie un po’ campate in aria è necessario fare di quello che si ritiene un “problema” una via verso la perdizione. E così similmente a come viene fatto per la marijuana, il cui consumo porterebbe secondo alcuni ad imboccare strade lastricate di droghe pesanti, anche le finestre rotte sarebbero il primo campanello d’allarme verso la fine delle città “vivibili” (concetto di difficile interpretazione in generale). A partire da un quartiere popolato da famiglie perbene, basterebbe anche solo la minima cosa lasciata impunita per provocare una escalation di crimini sempre più violenti. È interessante notare quali basi sottendono questa teoria, ovvero il fatto che esistano persone perbene e persone permale e che la sicurezza urbana serva a tenere al sicuro chi è onesto e vive ansiosamente l’idea di essere infastidito da qualcuno. Di conseguenza le persone perbene non sono disordinate, non danno fastidio e non sporcano, né degradano la città. Tutti quelli elencati sono comportamenti e non crimini, come invece certe politiche hanno continuato a costruire nei programmi elettorali. Un discorso che distoglie lo sguardo da ciò che accade ai piani alti della città, dove sono perpetrati crimini non violenti da parte dei cosiddetti white collars, ovvero dirigenti di aziende, di amministrazioni o uomini d’affari in generale che si arricchiscono sulla pelle delle persone attraverso operazioni finanziarie spesso definibili in modo più realistico come vere e proprie speculazioni. La teoria delle finestre rotte si concretizza nel 1994 attraverso le politiche di Tolleranza Zero del sindaco di New York Rudy Giuliani, che comincia a definire quale comportamento possa essere ritenuto consono all’abitante (e non solo) della città americana. Arrestare e tenere in cella chi orina nei parchi, beve alcolici in pubblico o non paga il biglietto dei mezzi pubblici sembra in quel momento più facile rispetto ad adottare politiche reali di contrasto alla criminalità predatoria. Al contempo stava diventando più difficile per le persone considerate marginali come senzatetto, ambulanti o immigrati, vivere una città così ostile.

Città sicure…ma per chi?

Da dove arrivi in Italia la necessità di occuparsi di cosa sia sicuro o meno negli anni ‘90, Rossella Selmini41, professoressa associata di Criminologia al Dipartimento di Scienze politiche dell’Università di Bologna, lo ricostruisce in un lungo capitolo nel quale analizza il policy transfer che ha coinvolto prima l’Inghilterra – abbagliata dalla politica di Tolleranza Zero di Rudy Giuliani per ragioni di vicinanza linguistico-culturale – e poi alcuni paesi europei, tra i quali anche l’Italia. Il fondamento teorico sul quale si basano le politiche di sicurezza urbana è stato in parte anche il realismo criminologico di sinistra (Left Realism), una corrente che puntava anche con buone premesse alla prevenzione della criminalità e all’inclusione sociale. Una crisi, quella data dalla devianza nelle città e dall’incapacità di prevenire efficacemente, alla quale la sinistra inglese ha cercato di trovare un rimedio e che è stata in parte anche conseguenza del processo di globalizzazione.

Le politiche locali hanno visto prevalere la security alla safety, spostando l’attenzione dalla comprensibile necessità dei cittadini di esistere in una condizione di benessere ad un concetto di sicurezza che si autoalimenta attraverso il controllo delle persone, e degli spazi che attraversano. Ordinanze sindacali restrittive, comitati antidegrado, progetti di videosorveglianza per “città sicure” sono solo alcuni esempi di questo processo di securitizzazione. Il lavoro di convincimento che prima la politica nazionale e poi quella locale hanno svolto sul tema è stato in questo senso a dir poco magistrale. Sembra che i cittadini siano stati convinti che la videosorveglianza, e in generale come si vedrà la tecnologia, sia un sinonimo di sicurezza. Un processo che la politica ha innescato senza offrire nessuna spiegazione o correlazione convincente tra criminalità predatoria e controllo del territorio. I sistemi di sorveglianza con i quali sono state tappezzate le città sono paragonabili a intercettazioni ambientali continuative e ottenute senza alcun mandato, ovvero senza alcuna ragione fattuale e comprovabile della necessità e dell’urgenza (a seguito di un reato ad esempio) di dare un’occhiata continua ai cittadini che attraversano la città.

Un esperimento che fornisce una visione critica sui progetti di sorveglianza del territorio e sulla loro invasività, anche se in piccolo e solo su una cittadina, è Anopticon. Un progetto che dal suo creatore è stato definito “autoprodotto, completamente indipendente e partecipato che mira a schedare tutto l’hardware riconducibile alla videosorveglianza urbana”42. Si riferisce ad un concetto diverso rispetto a quello delineato nel capitolo precedente (il Panopticon): descritto dal filosofo Umberto Eco nell’opera Secondo diario minimo, Anopticon dovrebbe essere un carcere costruito in modo tale da rendere il sorvegliante l’unico ad essere visto e che non può vedere coloro che sta sorvegliando. Praticamente il contrario di un carcere e persino contrario alla logica di sorveglianza in sé, per cui il controllo è sempre esercitato da chi ha un certo tipo di potere su chi questo non lo ha. Guardare il progetto Anopticon significa quindi guardare al concetto di sicurezza urbana capovolgendolo, stimolando una riflessione rispetto alla quantità di videosorveglianza presente nelle nostre città per fini che non sembrano affatto giustificare il mezzo. La schedatura delle videocamere presenti nella città di Venezia è stata possibile grazie ad una attenta analisi dei modelli disponibili in quel momento sul mercato, dei loro requisiti tecnici, della loro ampiezza di visione e delle coordinate precise in cui sono state installate nella città (definendone anche la proprietà pubblica o privata). Il progetto è aperto a segnalazioni provenienti da cittadini o da chiunque voglia partecipare alla mappatura delle videocamere del quartiere o della città in generale, e potrebbe essere replicato in altri contesti urbani. Nella sua semplicità teorica, Anopticon si pone come strumento efficace di critica al concetto di videosorveglianza urbana anche solo mettendo la pulce nell’orecchio dello spettatore, totalmente assopito nello sguardo sulla città. Guardare la domanda “in che modo le tecnologie biometriche sono entrate nelle nostre città?” da un’altra prospettiva è dunque possibile, anzi necessario per trovare le ragioni di questa innovativa sorveglianza più indietro. Parlare di riconoscimento facciale infatti non è altro che la punta dell’iceberg, sotto il quale si ritrovano le radici spesse delle politiche di sicurezza urbana. Ma da dove arriva questo termine? E soprattutto cosa significa sicurezza urbana? In che modo si distingue da quella che fino ad un certo momento era considerata “sicurezza pubblica”?

La sicurezza è percezione?

Negli anni ‘90 in Italia il discorso sulla sicurezza pubblica e, in generale, sulla sicurezza, era ancora lontano sia dall’agenda politica nazionale che da quella locale. Come scrive Tamar Pitch, “non se ne parlava come «diminuzione dei rischi di rimanere vittime di criminalità comune»: sicurezza voleva ancora dire, prevalentemente, sicurezza sociale, mentre «ordine pubblico» era ciò che competeva allo Stato garantire”43. Quello che sottolinea Pitch è visibile tutt’oggi: le amministrazioni comunali, tranne in sporadici casi, hanno mischiato la possibilità di dare una risposta completa ad alcuni fenomeni criminali cittadini con la necessità di parlare di “sicurezza”. Da un punto di vista squisitamente semantico sicurezza significa avere una conoscenza tale da poter dire che una situazione non evolverà in termini negativi o dannosi. In questo senso il controllo e l’osservazione di una certa situazione è essenziale per prevedere dove sarà necessaria “più sicurezza”. Come osservato da Selmini il trasferimento di significato dall’inglese ha portato a sviluppare però solo la parte di security e non quella di safety: puntare sulla sicurezza delle cose, delle proprietà, in favore del commercio e non del benessere delle persone o della loro incolumità psico-fisica. Puntare sul concetto di sicurezza come security significa per i decisori fare proprie politiche fondate sull’esclusione, la paura e la punizione, utilizzate in un secondo momento per avere il consenso dei propri elettori. La stessa Tamar Pitch, che racconta in maniera critica del momento in cui il concetto di sicurezza urbana ha preso piede, ha preso posto al tavolo del comitato scientifico bolognese riunito intorno al progetto Città sicure. Il comitato è stato istituito in Emilia-Romagna nel 1994 ed era composto da esponenti politici, ricercatori e accademici che avevano lo scopo di individuare una o più risposte al problema della sicurezza/insicurezza delle città della regione. Quando nel maggio 2021 ho intervistato Enrico Gargiulo, sociologo e ricercatore presso l’Università di Bologna, per un articolo pubblicato su Wired Italia44, il suo racconto inizia con il definire chiaramente come il discorso sulla sicurezza urbana nasce in termini concreti e politici proprio attorno al progetto “Città Sicure”, in una regione che vede Pier Luigi Bersani ricoprire il ruolo di Presidente. Molti accademici del tempo, anche sociologi e criminologi, furono entusiasti di far parte di un comitato scientifico che mettesse al centro dei discorsi del territorio la necessità di città più sicure per gli abitanti (e non solo). Così come per il percorso portato avanti in Inghilterra, anche a Bologna vengono riproposti i punti cardine che il Left realism prevedeva nei paesi anglosassoni. In Quaderni di città sicure del luglio 199545, un periodico bimestrale della regione Emilia-Romagna ideato all’indomani dell’inizio del progetto, chi scrive afferma di in modo chiaro di voler dare importanza alla paura della criminalità, adottando un approccio “dal basso” che scongiuri la privatizzazione della sicurezza sociale, favorendo la prevenzione e una risposta che facesse ricorso il meno possibile al sistema penale. Ventotto anni dopo è tranquillamente possibile affermare che il percorso intrapreso è stato di segno opposto a quello delineato in quell’estate del 1995.

Un altro aspetto cruciale che quel momento storico ha reso palesemente chiaro è il fatto che non esistono dati a supporto della tesi politica della sicurezza urbana. In un articolo scritto proprio su Quaderni di città sicure da Pier Luigi Bersani si intravedono le sabbie mobili nelle quali sono nate le politiche di sicurezza urbana securitaria. La sicurezza è definita come “uno dei più significativi indicatori per definire la qualità della vita nei diversi contesti urbani”, “[...] un elemento significativo nella valorizzazione economica delle diverse aree urbane”. E ancora, “nelle recenti elezioni amministrative il tema della sicurezza è stato oggetto di confronto in tutte le principali città dell’Emilia-Romagna mentre solo cinque anni fa [...] era assente”. Il concetto di sicurezza viene però talmente strizzato al punto da rendere palese una destatisticalizzazione46 del fenomeno della criminalità: lo stesso presidente Bersani ammette che basi oggettive che supportino questo lavoro e progetto non ce ne sono. “Non sappiamo quanto di queste preoccupazioni sia imputabile ad un aumento effettivo dei rischi e quanto sia invece da attribuire ad un autonomo aumento del sentimento di insicurezza”. E la ragione per la quale, secondo Bersani, non si conosce l’origine di questa preoccupazione, è che “[...] non esiste nel nostro Paese una pratica diffusa di ricerca su questi problemi.” Citare questo aspetto è tutt’altro che sbagliato. Un fenomeno complesso come la criminalità potrebbe essere desumibile e dunque affrontabile solo cercando una corrispondenza nei dati statistici o nelle evidenze empiriche? Non del tutto. Ma appare quantomeno strano il fatto che in una società basata sulla razionalità e sull’oggettività come quella attuale, non sia necessario addurre nessun dato rilevante quando si affronta un fenomeno sociale come la criminalità. Detto ciò non si dovrebbe incappare nell’errore banale di definire la percezione di insicurezza come un aspetto irrilevante del fenomeno, o da escludere dal dibattito sulle città unicamente perché non ci sono basi oggettive sul quale poggiare.

Da quanto è possibile leggere nel numero di febbraio del 199647 di Quaderni di città sicure, il Comitato del tempo aveva deciso di articolare il primo anno di lavoro in due direzioni: la prima di ricerca, basata su quanto già realizzato dal comitato “Città sicure” in termini regionali, comprendendo una ricostruzione statistica della microcriminalità a Modena dal 1983 al 1995 basata su fonti di polizia e di magistratura. A questo proposito è necessario sottolineare che, quando vengono osservati, i dati statistici relativi a un fenomeno come la criminalità sono da considerare parziali poiché si riferiscono unicamente ai fatti delittuosi di cui le autorità di competenza vengono a conoscenza a seguito di una denuncia. Per questo motivo il comitato aveva deciso di approfondire realizzando un sondaggio sulla percezione di insicurezza che al tempo aveva coinvolto 600 cittadini e 40 opinion leaders, questi ultimi interpellati per comprendere quali meccanismi formassero l’opinione pubblica sul tema della sicurezza. La seconda direttrice di lavoro del comitato prevedeva invece una serie di indagini esplorative su temi connessi al disagio e alla devianza, esemplificati da tossicodipendenza e immigrazione extracomunitaria, che ha coinvolto anche la figura dei cosiddetti vigili di quartiere. Nonostante in parte il lavoro del comitato si sia basato su buone premesse, nel 2019 il patto per Modena Sicura48 firmato dal sindaco Gian Carlo Muzzarelli e dal prefetto Patrizia Paba prevede come unico strumento concreto di contrasto alla criminalità predatoria il potenziamento del sistema di videosorveglianza cittadina, “sperimentando eventuali forme innovative di controllo tecnologico del territorio al fine di assicurare il presidio di luoghi «a rischio»”. Nel patto della città, che non è altro che un semplice documento di intenti che utilizzano tutti i comuni per definire insieme alla prefettura come intendono gestire la sicurezza urbana, viene inoltre citata la cosiddetta “sicurezza diffusa”. Due parole che sembrano dare un volto nuovo a quella che era già definita ai tempi dall’ex presidente del consiglio Giuliano Amato come “sicurezza integrata”, ovvero la necessità da parte delle autorità ai vari livelli di intervento di “sviluppare ulteriormente iniziative congiunte orientate a rafforzare la predisposizione di servizi coordinati”. Per quanto riguarda i fenomeni di “insicurezza urbana” (definiti in questo modo dalla politica locale e dalla prefettura), le ordinanze sindacali e i patti per la città sicura si concentrano su comportamenti che non definiscono un vero e proprio reato. Ciò favorisce una narrazione della sicurezza che sposta la questione da ciò che è penalmente perseguibile a ciò che è considerato sbagliato poiché incivile, o non conforme alle regole.

La supposta “integrità delle città”

L’accattonaggio molesto, le liti condominiali e familiari, l’abusivismo commerciale ambulante non sono esattamente reati come lo sono le rapine o i furti. Quello di Modena è solo un esempio, ma tra i patti per la sicurezza siglati ogni anno in tutta Italia i comportamenti e gli stili di vita demonizzati sono molti: dai ragazzi che imbrattano i muri di scritte a quelli che parlano troppo ad alta voce di notte o che rimangono a bere alcolici fino a tardi, passando dai senzatetto che affollano ponti e parchetti – cacciati e non solo con la forza ma anche attraverso dispositivi di architettura ostile49 – fino ad arrivare a chi per questioni religiose indossa un burqa. I patti per la sicurezza urbana sono una vera e propria caccia al marginale per renderlo sempre più marginale in nome di una maggiore sicurezza, vivibilità e, anche di un “decoro urbano” non meglio specificato. Secondo la definizione fornita nel decreto Minniti-Orlando del 2017, la sicurezza sarebbe “un bene pubblico relativo alla vivibilità e al decoro delle città”, una definizione così ampia da poter includere letteralmente qualsiasi interpretazione possibile. Tra le altre cose la sicurezza urbana innesca anche un circolo vizioso che riguarda temi come la riqualificazione urbana e la speculazione finanziaria. Le commissioni antidegrado, gli assessori insigniti di discutibili cariche al rispetto del decoro e simili non sono altro che la risposta a quella che molti giornali, in modo superficiale e incauto, definiscono “movida”. Nell’aprile del 2022 il “comitato antidegrado città di Trento” istituito dalla giunta trentina ha proposto di chiudere i locali serali e notturni alle 22 durante la settimana, e dalle 23 alle 6 nei weekend, per via del rumore che capannelli di ragazzi e ragazze creano per la strada o nelle piazze quando sono in compagnia. Il giornale locale il Dolomiti scrive50 di “un’ordinanza permanente introdotta sulla base di una documentazione che precisi le zone della città nelle quali emergono sia difficoltà di convivenza tra attività commerciali e funzioni residenziali, tenuto conto della presenza di locali, della densità abitativa e della morfologia dei luoghi, sia problemi di ordine pubblico e sicurezza urbana”. Di fatto il sindaco di Trento, insieme al comitato antidegrado, cerca in qualsiasi modo di far rispettare un regolamento di convivenza (così si chiama il documento stilato) che è al di fuori di ogni possibile criterio di controllo adatto all’attualità della società. Come è pensabile obbligare le persone, e soprattutto i giovani che sono il target più condannato da queste pratiche, a non consumare alcolici e a non uscire dalle proprie case per divertirsi con gli amici nello spazio pubblico? Ma soprattutto come è pensabile proporre una “soluzione” simile dal momento che molte città stanno subendo interventi di riqualificazione urbana lontani dal migliorare le condizioni dei cittadini, e più vicini invece a determinare processi di gentrificazione51 violenti e senza possibilità di appello? La riqualificazione urbana, se agita in questo modo, è una delle spinte principali che contribuisce alla conversione di interi quartieri storicamente popolari (come ad esempio Isola nella città di Milano) in “ristoranti e bar a cielo aperto” in cui il circolo vizioso della movida accennato in precedenza si inserisce perfettamente. Quello di Trento non è infatti l’unico caso in questo senso, anzi. Ogni giorno i giornali locali sfornano notizie simili se non del tutto uguali circa interventi di urgenza necessari per far tornare la cittadina alla sicurezza. La sicurezza urbana, oltre a essere un tema politico trasversale da decenni, è una parola entrata nella testa di tutti, e che viene utilizzata come ragione sottostante a qualsiasi evento si collochi appena fuori dalle righe di un presunto decoro necessario alla città per poter esistere e funzionare.

Un esempio di insicurezza su Milano

Sentirsi sicuri nella città in cui si abita o che si attraversa per qualsiasi motivo è qualcosa che va oltre una percentuale o un dato, e questo è fuor di dubbio soprattutto per le donne, le persone lgbtq+ o per le minoranze etniche. Il modo in cui queste ultime utilizzano e vivono la città è totalmente diverso da quello degli uomini, per una infinità di ragioni derivanti non da ultimo dal sistema patriarcale in cui la società è ingabbiata. Se il comune di Milano, in cui vivo, un giorno dovesse dire che la sicurezza nella città è migliorata rispetto all’anno precedente (cosa vera), e fornisse ai cittadini anche dati a corredo di questo cambiamento positivo, probabilmente molti non si sentirebbero comunque sicuri a Milano. La questione dell’insicurezza nelle città è un fenomeno complesso, non riconducibile unicamente ad un dato ma nemmeno alla Tolleranza zero di Giuliani. Ha radici profondamente sociali e per essere compresa richiede un approccio multidisciplinare. La chiave di lettura dei fenomeni criminosi non proviene unicamente da materie come la giurisprudenza, la sociologia, la psicologia o la criminologia, ma anche dall’urbanistica e dall’architettura delle nostre città. Un mix che non dovrebbe escludere dal discorso nessuna delle altre materie appoggiando un’idea naif che vuole che più lampioni per strada siano abbastanza per far desistere una persona dall’aggredire verbalmente o fisicamente una donna. Un esempio urbano che può concretamente spiegare il motivo per cui le città metropolitane sono insicure benché illuminate, è il passante ferroviario. A Milano alcuni treni che viaggiano all’interno della città, e la attraversano, si collegano alla linea suburbana passando per stazioni sotterranee. Milano Lancetti è una delle fermate di questa linea: una stazione molto grande che fa da snodo, per la maggior parte vuota e senza personale ferroviario in servizio. Attraversando la stazione con un occhio critico è possibile rendersi conto di come gli spazi enormi siano al contempo così dispersivi da essere percepiti come insicuri; di come le pareti incurvate non permettano di avere contezza di chi sta attraversando lo spazio circostante, né tantomeno delle possibili vie di uscita nel caso in cui si fosse aggrediti da qualcuno. In sostanza l’ambiente è estremamente illuminato, ma l’architettura ha un grande peso nella possibile percezione di insicurezza di quello spazio.

Una città per donne, minoranze etniche, persone lgbtq+

Un mondo pensato e creato minuziosamente per gli uomini, quello in cui attualmente viviamo, è raccontato nel libro La città femminista. La lotta per lo spazio in un mondo disegnato da uomini di Leslie Kern, professoressa associata di geografia e ambiente e direttrice degli studi sulle donne e sul genere presso la Mount Allison University. La riflessione di Kern intreccia l’esperienza personale in quanto donna e l’esperienza data dallo studio del tema in quanto professoressa, calzando perfettamente nel discorso sulla percezione di insicurezza urbana delle donne e delle minoranze portato avanti in questo libro. Partendo dalla necessità di ripensare lo spazio pubblico nell’era del post #MeToo, Kern si chiede come potrebbe configurarsi una metropoli concepita non solo per gli uomini ma anche per donne che lavorano, donne che vogliono divertirsi la sera, donne che decidono di essere madri e quindi attraversano la città con bambini al seguito, donne che si occupano anche del lavoro di cura all’interno delle famiglie. In un capitolo intitolato La città della paura, la riflessione della studiosa è particolarmente interessante per il tema che viene trattato in questo libro e per spiegare meglio in che modo e perché la paura delle donne si intreccia con lo spazio urbano. Come Kern, e come tendenzialmente molte altre donne, anche io ho percepito il passaggio tra la pubertà e l’adolescenza come momento di cesura tra quei comportamenti e modi di fare che avevo sempre tenuto con i miei coetanei (maschi e femmine) e ciò che da quel momento in poi “avrei dovuto” fare. Non è stato un momento chiaro bensì dato dalla stratificazione di eventi e situazioni in cui persone vicine a me o la famiglia mi hanno messa in guardia, di fatto definendo però la mia visione di città in modo differente rispetto a quella di un uomo. Lo spazio urbano non è interpretato da tutti nello stesso modo, e capire perché esiste una “paura femminile” nell’attraversarlo è quanto mai necessario se si vuole andare all’origine della questione sicurezza in modo più compiuto rispetto a quanto fatto finora dalle politiche di sicurezza urbana applicate anche in Italia. Kern racconta di come all’inizio delle sue ricerche per la tesi di specializzazione sul senso di sicurezza e paura delle donne negli spazi urbani e suburbani, è rimasta meravigliata dalla quantità di studi già realizzati sul tema.

Tra gli anni ‘80 e ‘90 era infatti molto in voga come tema di ricerca accademica soprattutto nelle scienze sociali. Le fonti di pericolo considerate dalle donne intervistate in questi studi erano tre: la città, la notte e gli sconosciuti. Parallelamente erano stati realizzati importanti studi anche sulla violenza domestica, e psicologi e sociologi avevano capito che la probabilità di subire violenza per mano di persone note, in luoghi familiari come la casa e il lavoro, è molto più alta per le donne. Al contrario gli uomini sono più propensi a subire aggressioni o furti nello spazio pubblico. Come sottolinea Kern, questa apparente incoerenza tra quanto studiato dai ricercatori e quanto poi detto dalle donne intervistate è stata etichettata come “paradosso della paura della donna”. Non c’è in realtà nulla di irrazionale in queste donne. “Se la migliore spiegazione è che i sentimenti e i comportamenti di un ampio gruppo di persone sono irrazionali, probabilmente quegli studi non erano scientificamente validi” riporta Kern. Capire la città e quindi anche agire politiche efficaci per il contrasto alla criminalità predatoria urbana significa quindi intrecciare più materie, e incorporare nella discussione sugli spazi urbani anche un pensiero femminista che indaghi i limiti e le possibilità delle città per le donne. E infatti “il cosiddetto paradosso della paura delle donne era paradossale solo se osservato attraverso una lente che ignorava le relazioni di potere di genere”. L’idea dello spazio urbano che si forma nella testa delle donne e delle minoranze è dato anche dalla narrazione della città effettuata dai media: in un processo continuo, la cronaca nera o in generale gli articoli di giornale ci portano all’occhio come pericolosi alcuni luoghi della città e non altri. Così come ci raccontano alcuni tipi di violenza e non altri. Sebbene siano aumentati i casi di articoli di giornale riservati a notizie di violenza domestica, sessuale o di altro tipo perpetrata da un compagno, marito o ragazzo su una donna, questi sono spesso descritti come individui “buoni” che hanno commesso un errore in preda a un “raptus”. Articoli di questo tipo mettono in luce più di prima la violenza che accade nella sfera privata delle donne, ma al contempo non fanno altro che deresponsabilizzare le azioni dell’uomo autore della violenza e contribuire alla percezione di insicurezza sperimentata dalle donne nel privato come nel pubblico.

Il modo in cui una donna vive la città è dunque sinonimo di risignificazione della città. Nella sua mente viene creata una mappa della sicurezza e della paura ex novo, “un collage vivente, con immagini, parole ed emozioni stratificate sui nostri quartieri e sui percorsi dei nostri spostamenti” scrive Kern. “Le stratificazioni nascono dalle esperienze personali di pericolo e molestie, ma anche dai media, dalle dicerie, dai miti urbani e dal buon vecchio “buon senso” che satura ogni cultura”. La mappa mentale cambia sulla base del giorno e della notte, nonché durante l’intero percorso di vita della donna, e determina il modo in cui quest’ultima vive e si rapporta alla città. Il costo di questa paura impedisce alle donne di vivere lo spazio urbano in modo pieno, libero e indipendente. Lo spiega Kern in modo limpido e diretto: “le infinite misure precauzionali che dobbiamo prendere ci rubano tempo ed energia preziosi” che invece potremmo mantenere per fare tutt’altro. Precauzioni come tenere le chiavi in mano mentre si cammina, fare finta di stare al telefono, oppure evitare le scorciatoie e le strade buie, scendere prima dalla metropolitana o dal tram perché qualcuno ci infastidisce o ancora camminare veloce controllando continuamente chi c’è dietro. Un punto estremamente interessante trattato nel libro di Kern riguarda il so what? È infatti molto frustrante trovarsi davanti tutte queste considerazioni e non sapere come rispondere, come progettare diversamente una città più inclusiva e femminista. Se da una parte il lavoro delle amministrazioni comunali dovrebbe perseguire un progetto chiaro e efficace in cui policy e strumenti concreti possano insieme cominciare a migliorare lo spazio urbano in termini di sicurezza per le donne, dall’altra rimane comunque un vuoto. La paura è un’emozione complessa e poco prevedibile. Le critiche femministe alla progettazione più oculata delle città hanno infatti evidenziato come “è impossibile parlare di reazioni alla minaccia di criminalità in ambienti particolari senza prendere in considerazione le relazioni sociali e politiche che strutturano sia l’ambiente fisico che la vita quotidiana degli individui coinvolti”. Non è infatti possibile separare il mondo sociale dall’ambiente costruito, basato su un modello patriarcale. Le donne hanno paura di spazi pubblici, aperti, chiusi, privati, illuminati e bui, con poche o molte persone: qual è la risposta dunque? Kern a questo punto del libro ragiona in termini pedagogici riferendosi alla risposta che fornisce agli studenti che frequentano i suoi corsi. “Non esistono soluzioni immediate. Qualsiasi tentativo di migliorare la sicurezza urbana deve prendere in considerazione elementi sociali, culturali ed economici, nonché la forma dell’ambiente costruito.”

Quello che è stato fatto finora dalla politica nazionale e locale è invece un percorso zoppo, che non ha incluso nel discorso che cosa secondo le persone renda un luogo vivibile, accessibile, sicuro e utile per la vita quotidiana e per l’espressione della propria identità personale. La giunta comunale di Bologna nel 2020 ha cominciato a raccogliere dati e informazioni sulle donne e sulle persone lgbtq+ che attraversano o vivono la città nell’ottica di creare politiche che possano garantire a tutti uno spazio urbano sicuro e accessibile. Un passo avanti sicuramente importante e di cui si potrebbe auspicare l’imitazione da parte di altre amministrazioni comunali, ma la strada verso città femministe e inclusive è ancora lunga e soprattutto culturale. Interessante nell’analisi del concetto di sicurezza è ad esempio la fantasia, poiché vi è una connessione molto forte tra paura e sensazione di vulnerabilità. Se in una cultura del controllo come quella presente il soggetto-cittadino ha bisogno di temere per la sua incolumità è perché, per esistere, il concetto e la pratica di “sicurezza” necessitano di una struttura di dipendenza emotiva. Per esempio molte persone, tra le quali anche donne, minoranze etniche e persone lgbt+, tendono ad accettare che la città o i mezzi di trasporto siano altamente sorvegliati attraverso videocamere, e quindi un’indiretta intrusione nella loro privacy e sfera personale, non tanto perché siano coscienti dell’esatta efficienza di questi sistemi. È molto più ragionevole pensare che le persone accettino questo tipo di sorveglianza perché immaginano quale sarebbe lo scenario se qualcosa di brutto accadesse, come ad esempio un attacco terroristico o l’incontro con un gruppo di persone ubriache e moleste. Questa accettazione dell’intrusione nella sfera personale si basa sulla vaga fantasia che circonda l’efficacia dei sistemi di videosorveglianza e porta gli individui a rallegrarsi davanti alla falsa promessa di sicurezza che le videocamere possono fornire, pur sapendo che nessuno di questi strumenti potrà mai fisicamente fermare alcun tipo di violenza. Sono frequenti infatti i casi di violenza o di molestie sessuali che soprattutto le donne subiscono in luoghi pubblici illuminati e sorvegliati, tra i quali appunto le stazioni dei passanti ferroviari. All’inizio di aprile 2023 un donna di 21 anni ha subito una violenza sessuale dopo essere salita sulla carrozza di un treno insieme a un uomo che si era offerto di aiutarla a orientarsi. Da quanto è stato possibile ricostruire52 la donna sul treno avrebbe visto anche un altro uomo oltre all’aggressore, che però si è allontanato dal vagone senza interferire nella violenza in atto. La donna è riuscita a chiedere aiuto al macchinista, arrivando in prima carrozza, ma se così non fosse stato probabilmente si sarebbe trovata davanti una stazione suburbana deserta − anche se totalmente videosorvegliata.

Ceci n’est pas une solution

La legittimazione politica ma anche culturale che ha ammantato la sicurezza urbana come dispositivo per regolare la vita cittadina è stata resa possibile dalle basi gettate nel paragrafo precedente, nonché da un ulteriore processo normativo che ha avuto luogo nei dieci anni successivi. Un processo che arriva al culmine tra il 2007 e il 2009, un biennio in cui si è posto il focus su alcuni eventi cruenti che hanno avuto come sfondo la città di Roma. Violenze sessuali e criminalità predatoria, ovvero piccoli furti, rapine o borseggi che in quella finestra di tempo sono stati raccontati dalla politica locale e da alcuni giornali locali utilizzando un tono di emergenzialità che ha innescato un sempre maggiore interesse nazionale sulle città, e sulla mancanza di garanzie di sicurezza per i cittadini. Sulla scia, l’allora ministro dell’Interno Giuliano Amato aveva firmato nella primavera del 2007 un Patto per la sicurezza nazionale insieme all’Associazione nazionale Comuni italiani (Anci). Due anni dopo, il successore di Amato Roberto Maroni ha messo la firma all’insieme di leggi sulla sicurezza nazionale e locale denominato poi “pacchetto Sicurezza”. A chiudere il cerchio del processo di legittimazione politica e culturale della sicurezza urbana c’è il decreto Minniti-Orlando, entrato in vigore nel 2017. Il decreto segna un’evoluzione non da poco nel dispositivo della sorveglianza, legando a doppio filo immigrazione e sicurezza. Diventa sempre più chiaro come il tema della sicurezza urbana, perché quella nazionale è sostanzialmente ancora in mano allo Stato, venga messa sempre di più al centro della partita elettorale. Una partita che si gioca sulle emozioni delle persone e sul sentimento di insicurezza dei cittadini, più che sull’effettiva criminalità presente nei contesti urbani. Basti pensare che l’andamento della delittuosità denunciata alle forze dell’ordine sul territorio italiano, secondo l’annuario delle statistiche ufficiali del ministero dell’Interno (edizione 2019), riporta chiaramente una flessione costante. I reati per i quali la sicurezza urbana sarebbe un deterrente sono esemplificati dai furti, il 50,28% della totalità dei reati predatori, in diminuzione del 5,77% dal biennio 2017-2018. Tutti i furti poi sono in calo costante: furti con strappo (-7,78%), furti in abitazione (-2,27%), furti di ciclomotori (-19,38%), furti di motociclo (-8,37%), furti in danno di uffici pubblici (-70,59%).

I sindaci “sceriffi” e il ministero dell’interno

Nonostante ciò i sindaci sono lasciati sempre più liberi di agire sulle questioni cittadine, il che porta all’emissione di oltre 500 ordinanze sindacali nel biennio 2009-2010 poi dichiarate per la maggior parte incostituzionali. Secondo un report di Anci e Cittalia53 lo strumento dell’ordinanza è stato usato principalmente in regioni del Centro nord, con ambiti di intervento che cambiano nel tempo: dal contrasto alla prostituzione alla vendita di alimenti e bevande, fino ad arrivare ai “fenomeni ed atteggiamenti che ledono il decoro della città o che creano disturbo, non fisico, agli altri cittadini”. A sottolineare l’abuso di questo strumento nelle mani dei sindaci è stata appunto la Corte costituzionale, che nel 2011 ha dichiarato illegittimo il suo utilizzo soprattutto in situazioni non urgenti e segnando la fine del fenomeno dei sindaci-sceriffi.

“La cartaccia, la scritta sul muro o il piccolo assembramento di giovani un po’ sospetti all’angolo sono fenomeni che cominciano ad essere etichettati in quel momento. La genericità e l’ambiguità della definizione di sicurezza urbana non può che acuire il problema. Il ministro Minniti ha più volte affermato che la realtà dei dati sulla criminalità non è da considerare perché, anche se questi sono bassi, la percezione resta. Ed è questa sulla quale voleva lavorare e sulla quale ci si continua a concentrare tutt’oggi”, ha raccontato il professor Gargiulo quando ho affrontato il tema della sicurezza per un articolo su Wired Italia.

Il 2017 è un anno spartiacque sul tema anche perché da quel momento in poi lo Stato, per favorire una risposta concreta all’insicurezza urbana che in qualche modo aveva contribuito a formare, garantisce un finanziamento annuale ai comuni che in questo modo possono implementare un’infrastruttura di videosorveglianza sul loro territorio. Il ministero dell’Interno e quello dell’Economia e delle finanze finanziano unicamente nuove implementazioni di sistemi di videosorveglianza, di fatto incentivando l’utilizzo di sistemi tecnologici per tappezzare le città. Come detto in precedenza non vi è nessuna correlazione tra sicurezza della città e videosorveglianza, ma questo non sembra rappresentare una criticità così grossa agli occhi dello Stato che invece continua a investire in questo senso. Lo dimostrano anche i numeri relativi al 2021, anno in cui la ministra dell’interno Luciana Lamorgese ha approvato, in seguito al confronto tra prefetture, comitati provinciali per l’ordine e la sicurezza pubblica e sindaci, la graduatoria dei comuni che potevano ottenere il finanziamento per la videosorveglianza. Un intervento statale che ha assegnato 17 milioni di euro suddivisi tra 287 comuni vincitori, e che poi è diventato di 27 milioni nel 2021 e 36 milioni nel 2022. Un aumento, forse, sulla scia della quantità di amministrazioni comunali che hanno richiesto il finanziamento nel 2021, ovvero dieci volte di più di quelle che l’hanno vinto (2.265).

Il clou della sicurezza urbana: finanziare la videosorveglianza

Per i comuni, presentare la richiesta di finanziamento ministeriale per i sistemi di videosorveglianza è possibile solo nell’ambito dei Patti per la sicurezza urbana (documenti come detto molto semplici che contengono il progetto sul quale l’amministrazione comunale intende investire il finanziamento per migliorare la sicurezza cittadina). Tra i criteri stabiliti dal ministero dell’Interno vi è anche un requisito fondamentale che i comuni devono rispettare: sono sostenute economicamente solo le città che hanno sottoscritto patti per la sicurezza in cui la videosorveglianza è identificata come obiettivo primario per il contrasto alla criminalità predatoria. I patti definiscono quindi la declinazione pratica e gli strumenti attuativi per prevenire e contrastare “la criminalità, tutelare la legalità, promuovere il decoro urbano”. Fra l’altro, secondo la Conferenza Stato-città ed autonomie locali, uno dei tre organi previsti dalla Costituzione italiana che ha la funzione di raccordare lo Stato con gli enti sul territorio, sarebbero previsti anche meccanismi per il monitoraggio dei risultati conseguiti grazie ai progetti proposti nei patti per la sicurezza urbana. Il monitoraggio servirebbe per comprendere se le misure attuate sono efficaci: uno strumento importante anche e soprattutto se al centro di tutto il discorso c’è proprio la volontà di aumentare la sicurezza dei cittadini. Una volta ultimati, i patti per la sicurezza urbana arrivano sulla scrivania della Prefettura territoriale competente che redige una scheda di sintesi e rappresenta gli indici di delittuosità del comune e della provincia. Seppur come detto il concetto di sicurezza urbana sia estremamente vago e non abbia una definizione univoca, le prefetture si sono armate di indici e percentuali matematiche per rendere la distribuzione dei finanziamenti statali quantomeno gestibile.

Vengono quindi vagliati requisiti come l’incidenza dei fenomeni di criminalità cosiddetta “diffusa”, dell’indice di delittuosità del comune, la dichiarazione di dissesto o di provvedimento di scioglimento conseguente a fenomeni di infiltrazione mafiosa nella giunta. Per quanto riguarda l’incidenza del fenomeno di criminalità, la Prefettura elabora un giudizio riferito all’area urbana (che viene identificata dal comune) da sottoporre a videosorveglianza.

Secondo le linee guida per l’attuazione della sicurezza urbana, rinnovate nel 2018 dall’allora ministro dell’Interno leghista Matteo Salvini, sono da considerare aree urbane quelle limitrofe a “scuole, plessi scolastici e sedi universitarie, musei, aree e parchi archeologici, complessi monumentali o altri istituti e luoghi della cultura o comunque interessati da consistenti flussi turistici […], ovvero aree adibite a verde pubblico.” Un criterio molto ampio che mette nelle mani delle amministrazioni comunali la facoltà di decidere quali aree di questo tipo esistano nella città, ricordando che possono essere estese anche fino a 300 metri di distanza dai luoghi da tutelare (stesso criterio utilizzati per l’applicazione del provvedimento di allontanamento di un soggetto e del cosiddetto Daspo urbano). La delittuosità viene calcolata dal rapporto tra i delitti commessi nella provincia o nel comune moltiplicato per 100.000 e diviso per il numero di abitanti. Entrambi sono anche rapportati a indici medi di delittuosità su scala nazionale o provinciale. Per la formazione della graduatoria finale, a ogni indice il ministero dell’Interno assegna un punteggio da 0 fino a 20 punti. Rilevante ai fini della graduatoria è anche l’importo di cofinanziamento richiesto dal comune: la richiesta di denaro richiesta al ministero dell’Interno dalla città di Roma, che ammontava a più di 1 milione di euro, nel 2021 è scivolata vicino alla millesima posizione nonostante l’incidenza dei fenomeni di criminalità fosse “elevatissima”.

I patti sulla sicurezza urbana non sono pubblici prima che i comuni li presentino alla Prefettura e dunque al ministero dell’Interno, e a volte nemmeno dopo. Online si trovano unicamente quelli riferiti ad annualità passate, sostituiti presumibilmente da nuovi ogni anno. Il processo di monitoraggio auspicato dalla Conferenza stato-città ed autonomie locali è del tutto impossibile con queste basi. Sul sito della Prefettura di Sondrio, ad esempio, ne sono indicati alcuni, e in tutti questi, proprio come richiesto dal decreto del maggio 2021, ricorre l’utilizzo principale dello strumento di videosorveglianza. Non è possibile vedere quelli redatti dalle Prefetture di Novara, Asti, Como e Pavia, che con quella di Sondrio rappresentano le cinque province in cui i comuni hanno ricevuto il punteggio maggiore per il finanziamento del ministero dell’Interno relativo al 2021. Nello specifico il punteggio più alto della graduatoria dei finanziamenti per la sicurezza urbana del 2021, ovvero 49,50 su 50, è stato raggiunto dal comune di Tartano in provincia di Sondrio, che ha una popolazione di soli 195 abitanti. Secondo i calcoli della Prefettura, che elabora l’indice di delittuosità del comune e della provincia sulla base dei dati forniti dalle questure, il primo risultava 9.743,28 e il secondo pari a 2.428,42. Il rapporto tra i due comporta un’incidenza del fenomeno di criminalità diffusa, secondo la prefettura, “elevatissima”. In tutta la provincia di Sondrio, composta da 77 comuni e che raggiunge una popolazione di più di 180mila abitanti, il numero di furti registrati nel 2019 è 118. Di questi 11 sono furti con destrezza, 13 in abitazione e 11 in esercizi commerciali, 9 su auto in sosta, 2 di motocicli e altri 2 di autovetture. Il totale dei delitti denunciati all’autorità giudiziaria nel corso del 2019 è invece 390. La provincia di Sondrio, insieme ad altre 57 province italiane, ha un tasso di microcriminalità inferiore alla media. Dato che viene confermato anche dal questore, che a La Provincia di Sondrio nell’aprile 2020 parla del capoluogo valtellinese come luogo che occupa “da tempo posizioni di vertice quanto a coefficienti di vivibilità, sicurezza e tenore di vita”. Per rendere l’idea di quanto sia miope utilizzare un indice o una percentuale per definire politiche di sicurezza urbana, che puntualmente si rivelano essere finanziamenti alla videosorveglianza, basta rapportare l’indice di delittuosità della minuscola Tartano con quello della città metropolitana di Roma. La capitale italiana ha un indice inferiore, pari a 6.021,47, nonostante i quasi 3 milioni di abitanti e l’incessante flusso di turisti che la attraversano quotidianamente ogni anno. È chiaro infatti come in una realtà piccola come Tartano basti poco per far schizzare in alto gli indici. Ma c’è un altro aspetto interessante. L’amministrazione tartanese ha ricevuto praticamente quasi il punteggio massimo anche perché, sempre secondo le disposizioni del ministero dell’Interno previste nel decreto del maggio 2020, i comuni che ricevono un punteggio maggiore e quindi hanno più possibilità di finanziamento sono quelli fino a 3.000 abitanti (10 punti). Un criterio che non è stato chiarito ulteriormente ma che inevitabilmente continua a favorire l’installazione di sistemi di videosorveglianza anche in realtà molto piccole, in cui probabilmente avrebbero più successo pratiche collettive sviluppate e concordate tra abitanti e amministratori locali. Classificato al 51esimo posto della graduatoria per il finanziamento per il 2021 del ministero dell’Interno, il comune di Torino è un esempio chiaro di come la base gettata dagli investimenti statali in questo settore possa diventare sinonimo di una sempre maggiore securitizzazione delle città. Tra i progetti approvati nel 2021 è risultato il finanziamento più alto di tutti: 700mila euro per l’esecuzione del progetto Argo, che prevedeva la creazione di una rete di videosorveglianza diffusa dotata di numerose funzionalità come la line crossing detection, crossing detection, intrusion detection a partire dall’impianto preesistente nella città. A inizio 2023 il comune ha definitivamente messo da parte Argo: il progetto non stava in piedi perché tolto l’algoritmo che permetteva l’analisi di possibili intrusioni o comportamenti specifici dei soggetti inquadrati, non vi era niente di innovativo rispetto ad un sistema di videosorveglianza classico. Gli algoritmi di intelligenza artificiale in questo settore sono al momento vietati in Italia da una moratoria valida fino al dicembre 2023.

Soldi pubblici mal spesi, privacy in secondo piano

Davanti agli occhi indiscreti di sistemi di videosorveglianza sempre più comuni, la tutela della privacy dei cittadini dovrebbe essere garantita dal decreto legislativo 11 del 2009, citato anche dal Garante della privacy nell’ultimo aggiornamento alle linee guida sulla videosorveglianza. Il decreto prevede “la conservazione dei dati, delle informazioni e delle immagini raccolte mediante l’uso di sistemi di videosorveglianza limitata ai sette giorni successivi alla rilevazione, fatte salve speciali esigenze di ulteriore conservazione”. Il garante parla anche di utilizzo della videosorveglianza da parte dei comuni “solo se non risulta possibile, o si riveli non efficace, il ricorso a strumenti e sistemi di controllo alternativi e comunque nel rispetto del principio di minimizzazione dei dati”. Dopo l’entrata in vigore del regolamento europeo GDPR e fino al 2021 nessuna amministrazione italiana aveva presentato una consultazione preventiva per l’adozione della videosorveglianza con finalità di sicurezza urbana. Prima del GDPR sulla scrivania dell’autorità garante per la privacy ne erano arrivate 11. Non sempre è necessario coinvolgere il Garante nell’installazione di un sistema di videosorveglianza, ma come dimostra il caso di sistema di riconoscimento facciale installato dal comune di Como − che sarà discusso nel prossimo capitolo − è prima di tutto un problema di conoscenza della tecnologia che si sta utilizzando a determinare il successivo rischio per la privacy dei cittadini. Per una corretta gestione dei fondi pubblici e dei rischi di sorveglianza, sarebbe utile se i comuni definissero obbligatoriamente prima di indire una gara d’appalto per installare la videosorveglianza il possibile impatto sulla privacy dei cittadini.

Come si può verificare l’efficacia di questi strumenti e quindi dirottare le politiche sulla sicurezza di conseguenza, se oltre a non poter consultare i patti per la sicurezza anche le statistiche e i numeri arrivano dopo? Sempre la Conferenza stato-città e autonomie locali chiarisce che “ulteriori elementi di valutazione potranno essere individuati dai Prefetti all’esito di dedicate sedute del Comitato provinciale per l’ordine e la sicurezza pubblica, tra i luoghi nelle cui adiacenze si sono registrati reati di criminalità diffusa o di deturpamento del patrimonio edilizio pubblico o privato”.

Non è mai stato chiaro se i patti per la sicurezza urbana, e i conseguenti finanziamenti, siano un meccanismo utile non solo alla prevenzione della criminalità ma anche a lenire la percezione di insicurezza dei cittadini. Per un attimo una circolare del ministero dell’Interno firmata nel lontano 2012 aveva reso palese come “non sempre la diffusione dei sistemi di videosorveglianza viene accompagnata da una articolata discussione intorno alle opportunità ed ai limiti di tali strumentazioni [...] in taluni casi l’utilizzazione, talora impropria e non sempre funzionale di tali sistemi, genera diseconomie che originano da un inappropriato investimento di risorse pubbliche da parte degli Enti locali e da una non costante rispondenza alle effettive esigenze di sicurezza del territorio”. Alla luce di queste parole e viste le iniziative messe in campo dai governi nazionali e poi locali, sembrerebbe che a fronte della costante diminuzione dei crimini su strada in Italia sia comunque necessario per la politica fare leva sul concetto di sicurezza. Secondo il professor Gargiulo, infatti, il tema della sicurezza “è storicamente uno strumento di governo così centrale che non può scomparire con la diminuzione dei reati; e al quale quindi si deve trovare necessariamente un’altra declinazione”.

Il decreto legge 14 del 2017, che ha dato il via alla nuova stagione della sicurezza urbana, prevede che all’interno dei patti per la sicurezza urbana si possano inserire anche soggetti privati. In questo caso si parla di “sistemi di sorveglianza tecnologicamente avanzati, dotati di software di analisi video per il monitoraggio attivo con l’invio di segnali di allarme alle centrali delle forze di polizia o di istituti di vigilanza convenzionati”. I progetti per la videosorveglianza integrata possono essere presentati unicamente da enti che gestiscono l’edilizia residenziale (Erp), amministratori di condomini, imprese, associazioni di categoria, consorzi o comitati e devono essere in grado di interoperare con i sistemi delle forze dell’ordine. Lo scopo è quello di rendere maggiormente capillare la sorveglianza e la narrazione di sicurezza urbana come “bene pubblico”. Sembrerebbe quindi che i cittadini vengano coinvolti nel processo di “mantenimento” della sicurezza urbana solo nei casi citati, per i quali hanno anche detrazioni sull’imposta Imu e Tasi, e non nella fase preparatoria dei patti per la sicurezza urbana per esempio. Sempre la Conferenza Stato-città ed autonomie locali chiarisce che i tavoli di osservazione (composti da dirigenti della prefettura, forze di polizia nazionale e locale) “potranno sviluppare momenti di confronto con i comitati civici e gli altri soggetti collettivi esponenziali degli interessi e dei bisogni avvertiti nelle “realtà di quartiere”, al fine di acquisire elementi di valutazione sulle criticità esistenti e di fornire […] punti di situazione sullo stato delle iniziative avviate e sui risultati raggiunti”. Al via in numerosi comuni italiani tra la fine del 2020 e l’inizio del 2021, i tavoli di osservazione non si sono dimostrati una risposta convincente all’impossibilità per i cittadini di partecipare alle decisioni imposte dai comuni sullo spazio pubblico che gli appartiene. Come raccontato nel prossimo capitolo invece, ciò che polizia di Stato e governo locale hanno concretamente fatto è stato sperimentare tecnologie di sorveglianza nello spazio pubblico senza coinvolgere coloro che lo vivono o lo attraversano per qualsiasi ragione.

41 Selmini, R., Dalla sicurezza urbana al controllo del dissenso politico. Roma, Carocci Editore, 2020.

42 Il sito del progetto è chiamato tramaci.org: con questo termine il creatore intende “tutta quella gamma di concetti che va dal semplice how to (come fare) agli intrallazzi, trucchi veri e propri”.

43 Pitch, T., Contro il decoro. L’uso politico della decenza. Roma-Bari, Laterza, 2018, p. 42.

44 L’articolo citato è Quando è scoppiato l’amore tra i sindaci e la videosorveglianza, Wired Italia, 31 maggio 2021, consultabile al link https://www.wired.it/attualita/tech/2021/05/31/videosorveglianza-comuni-italia/.

45 Quaderni di città sicure, 1995, consultabile al link https://autonomie.regione.emilia-romagna.it/sicurezza-urbana/approfondimenti/quaderni-di-citta-sicure-1/quaderni/quaderni-di-ricerca/QUAD_01.pdf.

46 Termine che Manuel Anselmi, ricercatore in sociologia politica presso l’Università di Perugia, definisce come “il prescindere sistematicamente da ogni riferimento a dati statistici reali e a qualsiasi riferimento concreto riguardante i crimini nel dibattito pubblico e politico sulla giustizia”. Anselmi, M., Populismo penale, una prospettiva italiana. Milano, Cedam, 2015.

47 Quaderni di città sicure, numero 3, 1996, consultabile al link https://autonomie.regione.emilia-romagna.it/sicurezza-urbana/pubblicazioni/file-dei-quaderni/quad_03.pdf/view.

48 Patto per Modena sicura, 2019, consultabile al link https://www.comune.modena.it/legalita-e-sicurezze/documenti-e-dati/protocolli-e-patti/archivio/patto-per-modena-sicura-2019-1.

49 Un tipo di progettazione urbanistica che viene utilizzata nei centri urbani per impedire possibili atti vandalici o che ledono la sicurezza pubblica. Panchine separate da blocchi di acciaio, spuntoni, cancellate infinite e sedute oblique, nonostante le amministrazioni comunali le indichino come funzionali, sono in primo luogo oggetti che scoraggiano alcune categorie di persone dall’agire determinati comportamenti quali ad esempio il vagabondaggio. Nella maggior parte dei casi l’architettura ostile non fa altro che spostare quello che gli amministratori comunali definiscono “situazione di disagio e inciviltà” da un’altra parte della città, dove è più difficile vederla.

50 Trento, chiusura dei locali alle 22 durante la settimana. La proposta del Comitato antidegrado: ‘’Non riusciamo a dormire a causa di comportamenti incivili’’, Ildolomiti.it, 25 aprile 2022, consultabile al link https://www.ildolomiti.it/cronaca/2022/trento-chiusura-dei-locali-alle-22-durante-la-settimana-la-proposta-del-comitato-antidegrado-non-riusciamo-a-dormire-a-causa-di-comportamenti-incivili

51 Con questo termine si intende la sostituzione, perlopiù tramite politiche abitative escludenti, della popolazione che vive in un quartiere o in una parte della città con una categoria di persone tendenzialmente più abbiente. Il meccanismo contribuisce anche alla perdita della memoria storica di una città, che si estrinseca anche attraverso la popolazione che l’ha fino a quel momento abitata.

52 Ragazza violentata sul treno: “C’era un altro uomo, ha capito ed è andato via”, Today.it, 7 aprile 2023, consultabile al link https://www.today.it/cronaca/ragazza-violentata-treno-milano-indagini.html.

53 Per una città sicura, dalle ordinanze agli strumenti di pianificazione e regolamentazione della convivenza cittadina. Pubblicato da Fondazione Anci ricerche Cittalia, 2012, consultabile al link https://sicurezza-toscana.it/documents/2367475/0/Cittalia+-+Fondazione+ANCI+ricerche%2C+Per+una+citt%C3%A0+sicura++-+dalle+ordinanze+agli+strumenti+di+pianificazione+e+regolamentazione+della+convivenza+cittadina%2C+2012.pdf/b7792ad9-7e10-a26f-6e72-2795bedb8847?t=1582624323659

Prima nazionale, poi locale: il sistema SARI e il comune di Como

“Sotto la legge la libertà”... di essere identificati con SARI

L’Italia non è un attore marginale nel settore della sorveglianza e delle tecnologie utilizzate a questo scopo. Le acquista e utilizza per questioni di sicurezza urbana e nazionale da anni. D’altronde, come è emerso fin qui nella trattazione, la ricerca in campo tecnologico, e la sua applicazione pratica, sono correlate inevitabilmente al bisogno dello stato di contrastare la criminalità così come i comportamenti illeciti. Anche l’Italia acquista e utilizza tecnologie, da quanto è stato possibile ricostruire negli ultimi anni, in modo controverso e opaco senza un vero e proprio dibattito pubblico né informazioni chiare ai cittadini. Intercettazioni telefoniche e software per raccogliere dal web o dai social media immagini e informazioni sono due esempi comuni di tecnologie utilizzate dal Dipartimento di Pubblica sicurezza del ministero dell’Interno, ma non sono le uniche. Il protagonista di molti di questi progetti di ricerca e sviluppo finanziati in parte anche da fondi europei è il CRAIM, Centro di Ricerca per l’Analisi delle Informazioni Multimediali, il primo centro di ricerca in Italia in cui studiosi del Consiglio Nazionale delle Ricerche (CNR) supportano il dipartimento nelle analisi di informazioni che provengono da fonti aperte o da OSINT (open source intelligence). Tutti i progetti realizzati, tra i quali sono particolarmente rilevanti quelli di monitoraggio dei media, di analisi semantica dei discorsi online e di costruzione di database di impronte vocali, trovano ragion d’essere nella prevenzione di fenomeni terroristici.

Da quanto è stato possibile ricostruire attraverso inchieste giornalistiche o ricerche indipendenti, questi strumenti non sono mai stati centrali nel processo di incriminazione di una persona sospettata di reato. Più avanti sarà chiaro come nemmeno il ricorso a tecnologie di sorveglianza biometrica come il riconoscimento facciale si sia mai rivelato decisivo per la cattura di un criminale, bensì solo un pezzo del grande puzzle del processo investigativo che comprende tecniche assodate da tempo e scientificamente più affidabili. Il punto cruciale del discorso sulle tecnologie biometriche utilizzate in ambito securitario, ovvero il fatto di essere tecnologie estremamente invasive per la privacy delle persone e per molte altre libertà individuali e collettive, diventa ancor più problematico se cittadini e organi indipendenti non possono conoscere chi, quando e come ha in mano questo potere e in che modo lo mette in atto. In altre parole, come possiamo garantire che questi strumenti estremamente opachi e molto spesso sconosciuti all’opinione pubblica siano impiegati solamente per scopi di antiterrorismo?

Non possiamo saperlo

I fatti che racconterò in questo capitolo, accaduti dal 2017 in poi, sono divenuti di dominio pubblico soltanto grazie alla pervicacia di giornalisti investigativi che, partendo come spesso accade in questi casi da una curiosità personale e professionale, sono riusciti a scoperchiare un pezzetto della sorveglianza di Stato esercitata in Italia. Il concetto di sicurezza nazionale è l’ostacolo primario e più difficile da superare per chi cerca di fare questo lavoro in maniera chiara, corretta e per rendere un servizio preciso al lettore. Come altre questioni legate alla parte più conservatrice dello Stato, anche questa non ha una definizione ben precisa (esattamente come la sicurezza urbana) ma viene utilizzata in modo vago e come generica risposta di diniego per richieste di accesso civico generalizzato (Foia) che, a volte, sono l’unico strumento utile se non si hanno fonti confidenziali all’interno dell’apparato statale. Sull’incapacità di tracciare dei confini precisi intorno al concetto di sicurezza nazionale si è espressa recentemente anche la commissione europea PEGA, incaricata dall’organo parlamentare di Strasburgo di investigare sull’uso indiscriminato e pericoloso di spyware54 contro attivisti, giornalisti e membri di governo all’opposizione.

In un report realizzato durante le numerose sedute, la commissione scrive: “condanniamo l’invocazione della “sicurezza nazionale” come pretesto per l’abuso di spyware e per l’assoluta segretezza e mancanza di responsabilità (dei governi, nda); [...] un mero riferimento alla sicurezza nazionale non può essere interpretato come un’esclusione illimitata dalle norme”55. Ciò che lamenta la commissione PEGA è l’impossibilità di investigare a fondo in merito al modo in cui i governi utilizzano tecnologie di sorveglianza, impossibilità data dal fatto che questi ultimi si nascondono dietro lo scudo della sicurezza nazionale per non rispondere a domande molto semplici come: perché se l’intento dei governi degli stati membri europei è contrastare il terrorismo, gli unici target di spyware sono stati finora solo attivisti, giornalisti e membri dell’opposizione che facevano il loro lavoro? Dove sono le prove che dimostrerebbero come tecnologie di sorveglianza di questo tipo abbiano effettivamente portato alla cattura di una persona sospettata di aver commesso o anche solo ideato azioni terroristiche? A domande simili risposte complete e rivelatrici scarseggiano, favorendo invece una critica sempre maggiore sul tema.

L’azienda israeliana Cybertoka, che vede tra i fondatori l’ex generale delle forze di difesa israeliane Yaron Rosen, si collega a quanto detto perché esemplificativa anche di un altro fatto. Solitamente pensiamo ai sistemi di videosorveglianza come chiusi, inaccessibili e che semplicemente fanno il loro lavoro inquadrando e registrando un punto o un luogo predefiniti decisi dall’essere umano. È certamente vero, ma al contrario di quanto siamo soliti pensare l’integrità di un sistema di videosorveglianza non è così inscalfibile. Cybertoka vende ad attori governativi e forze dell’ordine di tutto il mondo un prodotto software che permette l’accesso ai circuiti CCTV, così come alle immagini registrate o in corso di registrazione, con l’obiettivo di acquisire informazioni e manipolarle. Non solo infatti permette ad un soggetto di entrare illegittimamente in un sistema di videosorveglianza, e di sostituire le immagini che il guardiano di un palazzo o un poliziotto sta osservando in tempo reale con altre (magari con i frame dello stesso luogo ma in un momento diverso della notte o della giornata), ma anche di ottenere il girato e cancellarlo definitivamente. Interi eventi filmati da sistemi di sorveglianza pubblici o privati possono così essere cancellati come se non fossero mai esistiti. Una possibilità che, a prescindere dalle intenzioni favorevoli o sfavorevoli che si riverberano sulla collettività, mette nelle mani di un organo di controllo come le forze dell’ordine un potere molto ampio e difficilmente contrastabile. Prodotti di questo tipo, ideati e fabbricati da numerose aziende di sorveglianza nel mondo, possono essere inseriti come esempi problematici durante una conversazione critica sui sistemi di videosorveglianza. Ovvero: se esistono software simili è chiaro ci sia la volontà, da parte di alcuni attori anche governativi, di utilizzare le videocamere come strumento a favore della sicurezza di alcune persone più che di altre.

Scoperchiare il vaso di Pandora

Negli ultimi anni, come detto, lo stato italiano ha investito molto in strumenti innovativi per il contrasto al terrorismo o alle organizzazioni criminali di stampo mafioso, acquistando anche un sistema di riconoscimento facciale chiamato S.A.R.I, Sistema Automatico Riconoscimento Immagini.

Lo ha ricostruito per la prima volta il giornalista Riccardo Coluccini con un’inchiesta che a quel tempo è stata pubblicata da Vice Motherboard, ed è passata abbastanza sottotraccia. I tempi erano ancora immaturi per parlare all’opinione pubblica di tecnologie biometriche. Sono complesse, richiedono una conoscenza tecnica non impossibile da maturare ma certamente difficile da coltivare se non si è propensi a farlo, o se non ci si è in qualche modo addentro per questioni lavorative. La mancanza di interesse di buona parte del giornalismo mainstream per questi temi è stata altrettanto cruciale.

Tutto inizia nel gennaio 2017 quando, dopo aver pubblicato una manifestazione di interesse56 nella sezione amministrazione trasparente del proprio sito web, la Polizia di stato e indirettamente quindi il Dipartimento della Pubblica sicurezza del ministero dell’Interno aggiudicano la fornitura di un sistema di riconoscimento facciale all’azienda Parsec 3.26 S.r.l.. Pugliese, operante nel settore della tecnologia e dell’intelligenza artificiale, l’azienda collabora da tempo anche con l’Istituto di Scienze Applicate e Sistemi Intelligenti del Consiglio Nazionale delle Ricerche (CNR) proprio allo sviluppo di algoritmi di riconoscimento facciale. Da quanto è stato possibile ricostruire sia dal collega Coluccini che dalle informazioni ottenute negli anni successivi a seguito di varie ricerche, il sistema di riconoscimento facciale S.A.R.I. creato appositamente per il ministero dell’Interno presenta due diversi moduli: Sari Enterprise e Sari Real-time.

I sistemi di riconoscimento facciale funzionano in questo modo: dato un input, ovvero un volto anonimo presente all’interno di un video o di una immagine, questi hanno la capacità di analizzare i frame per estrarne il volto, compararlo con un database di visi già in possesso dell’utente e fornire un output attribuendo un’identità (nome e cognome) nel caso in cui l’algoritmo individui una corrispondenza nel database di volti noti. Molto semplicemente quindi, la differenza tra un algoritmo che individua un volto all’interno di un frame e un algoritmo che ne può stabilire l’identità, è l’invasività. Sapere, in un video registrato da una videocamera all’aeroporto, dove si collocano geograficamente le persone è diverso da sapere chi sono quelle persone e come si chiamano, senza averglielo chiesto.

Il primo modulo del sistema di riconoscimento facciale S.A.R.I., Sari Enterprise, permette di confrontare l’immagine ritraente il volto di un individuo sospettato di un reato (acquisita principalmente attraverso videocamere a circuito chiuso, o fotografie) con quelle presenti in una banca dati chiamata AFIS, Automated Fingerprint Identification System (come visto nel primo capitolo spesso si tratta di database molto simili in tutta Europa, nella composizione come nel nome). Questo primo modulo è utilizzato dalla Polizia di Stato italiana nel corso di indagini a partire appunto dal 2017. Il parere positivo del Garante privacy sulla possibilità o meno di utilizzare questa parte del sistema di riconoscimento facciale è arrivato nel luglio 2018, quando l’Autorità ha affermato che, nella sua funzione Enterprise, Sari non farebbe altro che automatizzare un’attività che la polizia ha sempre svolto manualmente, ovvero la ricerca di un potenziale sospetto tra i cartellini fotosegnaletici57 che già sono inseriti nell’anagrafica di AFIS. Praticamente i database-registri creati durante l’epidemia di peste e raccontati dal filosofo Foucault sono diventati ancor più ricchi di informazioni sui cittadini, e ad un certo punto sono stati automatizzati. Secondo quanto è stato possibile ricostruire quindi, la polizia italiana avrebbe operato una ricerca delle corrispondenze tra sospettati e criminali pregiudicati manuale fino al 2017.

Come suggerito dal nome, Sari Real-time, il secondo modulo del sistema di riconoscimento facciale, permette all’agente di polizia seduto davanti a uno schermo che trasmette il girato di una videocamera di analizzare e confrontare con AFIS i volti dei soggetti che vengono ripresi in tempo reale. A differenza di Enterprise, l’utilizzo del riconoscimento facciale in tempo reale è pensato “a supporto di operazioni di controllo del territorio in occasione di eventi e/o manifestazioni”, dice il ministero dell’Interno nell’appalto, e questo poiché una volta inquadrato e identificato il volto che si sta cercando il sistema è allo stesso tempo in grado di inviare seduta stante un alert all’operatore di polizia. Se su Sari Enterprise il Garante non aveva avuto particolari indugi nell’esprimersi, per poi dare un nulla osta, sulla variante di Sari in tempo reale le cose sono andate un po’ diversamente.

Schedati “gli stranieri”. La relazione AFIS-immigrazione

Il lasciapassare dell’Autorità garante sulla privacy su Sari Enterprise del luglio 2018 ha portato dopo pochi mesi alla comparsa delle prime notizie pubbliche sull’uso del sistema da parte della polizia: tra queste anche quella che riportava dell’identificazione di due rapinatori georgiani in provincia di Brescia grazie a Sari. A causa della poca trasparenza nel funzionamento però (com’è realizzato l’algoritmo? con quale database si comparano i volti di sospettati di reato?) e nelle modalità di utilizzo del sistema (chi autorizza? sulla base di quale legge?) non era stato possibile capire se i due rapinatori fossero stati gli unici identificati, e quanto Sari fosse stato determinante per la loro cattura. Così è stato per un’altra manciata di casi successivi, in cui ad esempio è stato identificato tramite Sari un uomo che nel gennaio 2023 ha aggredito una donna in stazione Centrale a Milano. In un’inchiesta pubblicata nell’aprile 2019 da Wired Italia58 Raffaele Angius e Riccardo Coluccini rivelano come all’interno di AFIS, il database che contiene i cartellini fotosegnaletici utilizzati per trovare una corrispondenza con le immagini delle videocamere, ci sarebbero i volti di 2 milioni di cittadini italiani e 7 milioni di stranieri, non tutti necessariamente residenti sul territorio italiano. Una notizia che in sostanza raccontava come dentro AFIS e quindi maggiormente riconoscibili dal sistema Sari (in qualsiasi modalità fosse utilizzato) le “persone straniere”, squarciando per la prima volta il velo che copre l’operato della polizia. Cifre comunque destinate a non essere confermate dalle autorità e che, insieme ai dettagli sul funzionamento di Sari, non venivano condivise nemmeno con il Garante privacy che da anni aveva aperto un’istruttoria in merito.

Dopo anni di silenzio, un’interrogazione parlamentare avvenuta nel febbraio 2020 anche a seguito di pressioni pubbliche e politiche sul tema dell’uso dell’intelligenza artificiale in ambito securitario, porta alla luce altre informazioni. Secondo quanto comunicato dall’allora ministra all’Interno Luciana Lamorgese nella risposta all’interrogazione avvenuta in Parlamento il 5 febbraio, “nella banca dati Afis sono presenti, attualmente, 17.592.769 cartellini fotosegnaletici, acquisiti a norma di legge, corrispondenti a 9.882.490 individui diversi, di cui 2.090.064 si riferiscono a cittadini italiani.” Nemmeno in questo caso è stato possibile capire da quale nazione provenissero le persone definite “straniere”, né il motivo per il quale queste persone fossero incluse all’interno del database AFIS. Cristallino invece è l’aumento vertiginoso del numero di persone coinvolte nella schedatura da parte delle forze dell’ordine, che solo un anno prima risultavano essere più di 2 milioni in meno.

Nel giugno 2021 insieme al collega Coluccini ho iniziato un lavoro di ricerca sotto l’egida di Hermes Center for Transparency and Digital Human Rights, un’associazione che dal 2011 si occupa di privacy e di tutti i temi ad essa correlati sia nel dominio analogico che in quello digitale. Il lavoro di ricerca proTECHt migrants aveva lo scopo di analizzare quante più informazioni possibili, sia pubbliche sia rinvenibili attraverso contatti con associazioni o altre realtà italiane che lavorano con i migranti, per comprendere se il sistema di riconoscimento facciale in mano alle forze dell’ordine fosse effettivamente utilizzato sulle persone straniere immigrate, nonché le possibili ripercussioni che questa tecnologia poteva avere sul loro già problematico viaggio dai paesi di provenienza verso l’Europa. Partendo dalle dichiarazioni del ministero dell’Interno in Parlamento a seguito dell’interrogazione avvenuta alcuni mesi prima e dalle risposte alle numerose richieste di accesso inviate al Viminale negli anni, potevamo mettere un primo punto interessante sul piatto: all’interno del database AFIS utilizzato per il funzionamento di Sari sono presenti cartellini fotosegnaletici di italiani e di “stranieri”. Quanti di loro sono migranti?

Dopo aver contattato alcune associazioni come SOS Mediterranée, Progetto Ventimiglia, Asgi, Naga, insieme abbiamo cominciato un percorso di ricostruzione delle procedure di identificazione alle quali queste persone sono sottoposte sin dal momento in cui arrivano sulle coste o sul territorio italiano59. Nel 2015, a seguito della decisione della Commissione europea di definire nuovi metodi per gestire e controllare l’immigrazione nel continente, nasce il cosiddetto “modello hotspot”. Com’è possibile leggere nella comunicazione pubblicata al tempo dalla Commissione, il 2015 segna l’anno spartiacque tra i sempre maggiori poteri forniti all’agenzia Frontex, alla quale è dato il compito di controllare le frontiere europee anche con l’ausilio di agenti armati, e la creazione di luoghi in cui è possibile effettuare operazioni di identificazione, registrazione e rilevamento dattiloscopico dei migranti che arrivano nel paese.

Già dal 2003 poi è operativo Eurodac, un database biometrico creato appositamente per contenere le impronte digitali di persone straniere che hanno effettuato la loro richiesta di asilo in uno stato membro, e di coloro che hanno messo piede sul territorio europeo irregolarmente. Se l’Italia conduce operazioni di identificazione sui migranti che arrivano sulle nostre coste e non solo è perché nel 2013 la base legale di Eurodac è stata aggiornata, e da quel momento è direttamente collegata all’applicazione della Convenzione di Dublino e alle successive integrazioni e modifiche di quest’ultima. Il regolamento Eurodac n. 603/2013 prevede che ogni stato membro svolga infatti attività di rilevamento foto dattiloscopico, e consente alle forze dell’ordine di avere accesso al database creato per contenere queste informazioni. L’articolo 29 del Regolamento presuppone anche che la persona sottoposta a identificazione sia informata circa l’identità del responsabile del trattamento dei suoi dati personali, dello scopo per cui questi sono raccolti e trattati nel sistema Eurodac, dei destinatari dei dati, del diritto di accesso o di modifica di questi ultimi nonché dell’obbligatorietà di tale rilevamento. Il modello hotspot si traduce in Italia con l’istituzione di cinque punti di crisi: Lampedusa, Pozzallo, Trapani e Taranto. Una volta sbarcati su territorio nazionale i migranti sono sottoposti alle cosiddette Procedure Operative Standard (SOP) previste dal ministero dell’Interno, dal Dipartimento per le Libertà civili e l’immigrazione, e dal Dipartimento della pubblica sicurezza. Stando a queste procedure, nella fase di pre-identificazione i migranti ricevono un braccialetto con un numero identificativo progressivo che mostrano poi al momento del fotosegnalamento. Dopodiché vengono trasportati in uno degli hotspot per essere controllati e compilare il cosiddetto “foglio notizie”, contenente informazioni e la richiesta delle motivazioni per le quali sono giunti in Italia. Durante la compilazione del foglio notizie, che è un modulo a crocette spesso non tradotto nelle lingue parlate dalla maggior parte dei migranti in tutte le sue parti essenziali, come sottolineato dall’Associazione per gli Studi Giuridici sull’Immigrazione (ASGI) nella scheda “Il trattamento riservato ai migranti sbarcati sulle coste italiane”60, il migrante non ha reale possibilità di ottenere né mediazione culturale né una consulenza legale in merito alle procedure di identificazione alle quali è sottoposto. Ciò risulta estremamente pericoloso e lesivo del diritto di asilo nonché della loro libertà. In ultimo, l’effettivo rispetto delle procedure SOP è demandato unicamente alla professionalità del personale di polizia, quasi l’unico corpo sul posto. Dopo questo primo momento se il migrante possiede un documento di identità, questo viene verificato attraverso i vari database in possesso delle forze dell’ordine (di solito Polizia di Stato, agenti di Frontex). I database in questione sono lo SDI (il Sistema di Indagine), il SIS e il SIS II (Sistemi informativi Schengen), SLTD (la banca dati dei documenti di viaggio rubati e smarriti) e il VIS (Sistema informativo Visa).

Una volta all’interno dell’hotspot sono poi verificate anche le impronte digitali, richieste alle persone con un’età maggiore di 14 anni. Questa procedura è controversa in quanto, esattamente come per la compilazione del foglio notizie, anche in questo caso i migranti non possono di fatto opporsi al rilevamento dattiloscopico: il Regolamento Eurodac prevede che le forze dell’ordine utilizzino, se necessario, anche la forza per obbligare il soggetto a rilasciare le proprie impronte. In una situazione di vulnerabilità come quella esemplificata dal viaggio attraverso il Mar Mediterraneo è semplice immaginare come vengano effettuati questi rilevamenti, e soprattutto la totale impossibilità di scelta riservata ai migranti.

Una volta ottenute le impronte digitali e aggiunti i relativi dati personali, le forze dell’ordine compilano la “cartellina fotosegnaletica”, quella che viene inserita all’interno della banca dati AFIS e che serve per confrontare l’identità del migrante con eventuali precedenti registrazioni dattiloscopiche. Come menzionato precedentemente, al 2020 i cartellini fotosegnaletici sono 17.592.769, di cui solo 2.090.064 identificano cittadini italiani. In questo senso possiamo dire che il database AFIS è fondamentale per fornire il primo riscontro identificativo dei migranti, motivo per il quale sarebbe di cruciale importanza per giornalisti, associazioni non governative e attori indipendenti sapere se le informazioni personali dei migranti sono inviate a Eurodac e cosa questo comporti per le successive tappe del viaggio del migrante.

Centrale nel lavoro di ricerca svolto con il progetto proTECHt migrants non era solo tentare di ricostruire quanto succedesse sulle coste e negli hotspot, ma anche quale tragitto parallelo facessero i dati biometrici e personali dei migranti, rifugiati e richiedenti asilo identificati in questi luoghi. Ciò che è emerso è che il regolamento Eurodac consente che le impronte digitali acquisite nazionalmente possano essere inviate al sistema centrale, al fine di confrontarle con quelle già presenti e restituire conferma dell’effettivo ingresso illegale nel territorio europeo. Una volta appoggiato il dito del migrante sulla macchina rilevatrice di impronte digitali, queste compiono un viaggio di quasi duemila chilometri per arrivare a Strasburgo, sede centrale del sistema Eurodac.

Per comprendere l’importanza del fotosegnalamento e del rilevamento dattiloscopico dei migranti giunti in Italia, e quindi parallelamente il risvolto negativo al quale può portare un caso di identificazione errata, basta leggere quanto scritto in una relazione sul sistema di identificazione e prima accoglienza nell’ambito dei centri “hotspot” redatta dalla Commissione parlamentare costituita sul tema nell’ottobre 2016. “Il fotosegnalamento costituisce un mero segmento della più ampia procedura di identificazione (anagrafica), in quanto mira principalmente all’attribuzione di una identità dattiloscopica. Tale identità, tenuto conto del quadro normativo europeo, rappresenta il caposaldo del sistema di controllo dei flussi migratori. [...] le impronte digitali costituiscono l’unico dato univoco ed individualizzante che una volta inserito nella banca dati nazionale e in quella europea consente di cristallizzare il dato storico del passaggio di quel soggetto in un determinato luogo”.

Un’identificazione che mette i migranti nella posizione di contrattare alcuni importanti dati personali e biometrici per l’ottenimento della protezione internazionale o di altri diritti fondamentali, e che viene condivisa con forze dell’ordine nazionali di tutti i paesi membri dell’UE attraverso l’interoperabilità dei database in dotazione. Anche se al momento non è possibile affermare con precisione che il sistema di riconoscimento facciale in dotazione alla polizia italiana non sia utilizzato per identificare i migranti, un altro aspetto cruciale emerge prepotentemente. La discriminazione e la criminalizzazione riservate alle persone migranti in Italia sono inscritte nell’infrastruttura tecnologica con la quale si identificano sin dal loro arrivo in Italia. I dati biometrici raccolti dalle forze dell’ordine al momento del loro sbarco o arrivo nel paese sono inclusi in un database (AFIS) che contiene potenziali sospetti (anche italiani), e che è utilizzato per trovare corrispondenze di volti e identità attraverso il sistema di riconoscimento facciale Sari. Questa criminalizzazione avviene senza la possibilità che la società civile conosca esattamente il numero di persone fotosegnalate per ogni categoria prevista dalla legge, la sua nazionalità, il motivo dell’inserimento nel database e la durata della permanenza di questi dati al suo interno. Alla luce di queste considerazioni non è inopportuno pensare che le persone migranti, rifugiate e richiedenti asilo costituiscano il banco di prova per l’introduzione di nuove forme di sorveglianza, in particolare quella effettuata per mezzo di algoritmi come il riconoscimento facciale.

Sari real-time: è sorveglianza di massa

Nel gennaio 2021 un’inchiesta pubblicata sempre a firma di Riccardo Coluccini sulla testata investigativa IrpiMedia rivela altre e nuove intenzioni da parte del ministero dell’Interno: quest’ultimo aveva aggiudicato un appalto nel novembre 2020 per potenziare il sistema Sari Real-time (il secondo modulo di Sari che permette il riconoscimento facciale in tempo reale) allo scopo di impiegarlo direttamente durante le fasi di sbarco dei migranti sulle coste del Sud Italia. Dietro questa aggiudicazione per il potenziamento ci sono i fondi europei per la sicurezza interna, soldi pubblici messi sul piatto dal ministero dell’Interno di cui non è dato sapere in modo chiaro l’impiego a causa del già discusso tema della sicurezza nazionale, per giustificare la quale si mette in pratica quello che viene definito approccio security through obscurity61. Il potenziamento del sistema era, secondo quanto scritto nell’avviso esplorativo pubblicato dal ministero, “tattico per monitorare le operazioni di sbarco e tutte le varie tipologie di attività illegali correlate, videoriprenderle ed identificare i soggetti coinvolti”. Tornando un attimo indietro, secondo quanto scritto nell’appalto per la creazione del sistema nel 2017, Sari Real Time è pensato per supportare operazioni di controllo del territorio in caso di eventi e/o manifestazioni ma mai si era parlato di migranti. Anche se il solo verificato finora, questo “cambio di destinazione d’uso” del sistema di riconoscimento facciale Sari dimostra come il ministero dell’Interno sia stato intenzionato ad ampliarne l’impiego verso altre esigenze prima non considerate. Anche in questo caso viene da chiedersi in che modo i cittadini potrebbero essere a conoscenza di cambi di rotta simili in futuro vista la mancanza di trasparenza del ministero, e vista la difficoltà per giornalisti e ricercatori di ottenere informazioni più precise.

Su questo modulo di Sari, come detto, la questione privacy ha avuto un ruolo molto diverso. Quando il Viminale ha mostrato la sua intenzione di utilizzarlo in tempo reale, un parere del Garante della privacy ancora mancava: non perché non vi fosse mai stata segnalazione in merito, anzi, ma perché l’istruttoria aperta nel 2017 a seguito dell’inchiesta del collega Coluccini si era arenata poco dopo. Il Viminale aveva inizialmente scambiato alcune informazioni sul sistema Sari con l’Autorità ma poi, il 22 ottobre 2018, il dialogo era cessato. Il garante aveva richiesto una valutazione di impatto sulla privacy (la cosiddetta DPIA, Data protection impact assessment), un documento che il Regolamento europeo GDPR prevede sia redatto nei casi in cui sono trattati dati biometrici che possono avere ripercussioni importanti in termini di diritti fondamentali. Ma la risposta non è mai arrivata.

Riprenditi la faccia

Le cose cambiano nell’aprile 2021, dopo quattro anni dalla prima istruttoria aperta sul sistema Sari dal Garante Privacy, e dopo una pressante campagna europea e nazionale sul tema portata avanti dentro la cornice del movimento Reclaim Your Face62. Tra le tappe del percorso che ha portato il riconoscimento facciale in Italia, sicuramente questa è una delle due più importanti. Con un provvedimento molto dettagliato e inaspettato per buona parte degli studiosi e dell’opinione pubblica che seguiva il tema, il Garante privacy dice no al sistema di riconoscimento facciale in tempo reale (Sari Real-time) perché non conforme alla normativa sulla privacy e perché “così come progettato, [porterebbe, nda] una possibile forma di sorveglianza e identificazione di massa”. Nel provvedimento del garante privacy si legge poi che “l’identificazione di una persona in un luogo pubblico comporta il trattamento biometrico di tutte le persone che circolano nello spazio pubblico monitorato, al fine di generare i modelli di tutti per confrontarli con quelli delle persone incluse nella watch-list. Pertanto, si determina una evoluzione della natura stessa dell’attività di sorveglianza, passando dalla sorveglianza mirata di alcuni individui alla possibilità di sorveglianza universale allo scopo di identificare alcuni individui”. Un conto infatti è sorvegliare una persona nei confronti della quale si nutre un ragionevole sospetto, un altro è invece aspettare che quella persona passi per una piazza o qualsiasi altro posto pubblico sorvegliando intanto tutti quelli che vengono prima di lui o lei. Perché dovrebbe succedere? Le forze dell’ordine devono ottenere un mandato per controllare e tracciare gli spostamenti di una persona, o quantomeno devono avere un ragionevole dubbio che questa persona sia implicata in un possibile crimine. Utilizzando un sistema di riconoscimento facciale in tempo reale questo è invece possibile senza alcuna richiesta preventiva a un giudice. Un altro rischio dell’uso di questi sistemi è rappresentato anche dalla facilità con la quale potrebbe essere arrestata la persona identificata tra le molte, senza adeguate indagini preliminari.

A distanza di una settimana l’uno dall’altro, nell’aprile 2021 avviene anche il secondo avvenimento significativo della timeline nazionale sul riconoscimento facciale. Il deputato Filippo Sensi del partito Democratico deposita una proposta di moratoria sugli impianti di videosorveglianza dotati di riconoscimento facciale, operanti in luoghi pubblici o aperti al pubblico. Un primo passo sicuramente degno di nota per il panorama italiano e che in verità ha ricevuto feedback positivi anche nel contesto internazionale, perlopiù europeo. Al momento della pubblicazione di questo libro le forze dell’ordine italiane possono avvalersi del sistema di riconoscimento facciale acquistato nel 2017 per identificare un soggetto solo in differita (utilizzando il modulo Sari Enterprise), dopo che ha commesso un reato e attraverso l’analisi delle immagini estrapolate in un secondo momento da video provenienti dai sistemi di videosorveglianza pubblici e anche privati. Questa limitazione del Garante privacy non fa comunque svanire tutti i rischi che il sistema di riconoscimento facciale in modalità Enterprise si porta dietro.

Huawei al Parco Tokamachi

Nel settembre 2019 Philip Di Salvo, ricercatore al tempo per l’Università della Svizzera Italiana, mi scrive per raccontarmi un fatto interessante. Il comune di Como, dov’è nato e cresciuto, avrebbe installato un sistema di riconoscimento facciale davanti alla stazione centrale della città, notizia che a sua volta aveva saputo da un giornalista de La Provincia di Como, Andrea Quadroni. La prima traccia di questo sistema a Como era emersa pubblicamente nell’agosto 2019, quando un articolo de La Provincia di Como aveva riportato la notizia63 con il titolo “Como, le telecamere ci riconoscono. Già in funzione ma nessuno lo sa”. Un indizio della sua esistenza era arrivato agli occhi di alcuni giornalisti che avevano letto il Documento unico programmatico 2020-202264 del comune, il quale nell’elenco dei progetti in via di realizzazione in quel biennio accennava anche alla “Risistemazione, ammodernamento ed ampliamento dell’impianto di videosorveglianza comunale”. L’amministrazione aveva bisogno di una remise-en-forme del sistema di videosorveglianza già installato da tempo, e in aggiunta anche della messa in prova di “un “progetto pilota” per la sperimentazione di funzioni innovative di videosorveglianza, quali face-recognition, loitering, e rilevamento automatico abbandono/furto di oggetti”. Diversamente da quanto scritto nel documento ufficiale, l’utilizzo di questo sistema non era conforme al GDPR e non poggiava nemmeno su una base legislativa. Nel Documento unico programmatico risultava che al 31 maggio 2019 il comune di Como aveva “progettato, acquistato e installato un Progetto pilota di videosorveglianza innovativa con tecnologia Huawei ed Axxon, che prevede n.6 telecamere di cui n.2 con intelligenza a bordo, e sistema di videoanalisi (face recognition, line cross, abbandono oggetti, loitering, people counter, etc). I test non sono ancora conclusi”. Non solo l’attuazione era in atto quindi, ma avevamo un paio di informazioni in più rispetto a chi, questa tecnologia, l’aveva venduta al comune: Huawei.

Ciò che racconterò è una storia sui generis poiché spiega molto di come una tecnologia che ora, nel 2023, è sottoposta a moratoria in Italia e a un dibattito particolarmente serrato in Europa, fosse stata installata nello spazio pubblico di un parco senza che praticamente nessuno ne fosse a conoscenza. La vicenda di Como racconta molto sia da un punto di vista tecnico che burocratico, ma anche dei danni che il concetto di sicurezza urbana provoca quando ad essere coinvolti sono i diritti umani.

Storia di un’inchiesta

Torna accanto a me in questa storia il collega Riccardo Coluccini. Una volta scorsi insieme i documenti che erano stati pubblicati nella sezione Amministrazione trasparente del sito del comune di Como, dove secondo il Decreto Trasparenza devono essere raccolte informazioni e notizie inerenti anche agli appalti effettuati dalle Pubbliche amministrazioni, ci accorgiamo di doverne richiedere altri, perché quelli pubblicati non erano sufficienti a darci un quadro complessivo dei fatti. Tra ottobre e novembre 2019 decidiamo di inviare dunque due richieste di accesso civico generalizzato (Foia) per ottenere documenti, dati e informazioni che non sono soggetti a obbligo di pubblicazione ma che comunque l’amministrazione comunale detiene per questioni anche solo burocratiche. Le informazioni che ci interessava avere erano sostanzialmente racchiudibili in tre macro aree: il progetto steso e i documenti tecnici sugli elementi hardware acquistati, la situazione della criminalità a Como, l’analisi sui costi/benefici dell’utilizzo di questa tecnologia e i preventivi ricevuti dal comune dalle aziende. Su questa base, attraverso il Foia abbiamo richiesto quindi “statistiche o dati di monitoraggio relativi ai reati o illeciti commessi nella zona in oggetto e/o nelle immediate vicinanze, e che hanno portato a ritenere la stessa una zona ad alto o consistente rischio di criminalità”. Questo perché, prima di ogni investimento della Pubblica amministrazione dovrebbe essere svolta un’adeguata valutazione sulle motivazioni, e sugli eventi, che hanno eventualmente fatto scaturire una certa necessità di investimento per contrastare un problema. In un altro punto del Foia richiedevamo quindi “report, documenti, verbali e informazioni prodotte dalle Forze dell’Ordine e dalla Polizia locale e inviati al comune di Como riguardo episodi di criminalità (reati e illeciti) nel parco Tokamachi”, sicuri del fatto che, come spesso accade, il comune avesse lavorato di concerto con le autorità di polizia per tenere in sicurezza il luogo antistante la stazione.

Richiedendo all’amministrazione comunale di non negare l’accesso a causa della mole di documenti richiesti, inseriamo nel Foia anche un altro punto: “tutte le mail, slide di presentazione, documenti e allegati scambiati tra la presente amministrazione e le aziende A2A e Huawei prima della data del 27 dicembre 2018 e relative ai sistemi di videosorveglianza e soluzioni tecnologiche innovative”. Ottenere questo scambio significava conoscere in che modo l’azienda si era avvicinata al comune o viceversa, e avere quindi la possibilità di ricostruire almeno in parte gli avvenimenti che avevano preceduto l’installazione del sistema. Cos’aveva spinto l’amministrazione a ricorrere a questa tecnologia? Perché non utilizzare semplicemente le videocamere? Come erano venuti a conoscenza di una tecnologia come il riconoscimento facciale?

Intanto nel dicembre 2019, nel pieno delle ricerche sul comune di Como, il giornale comasco Comozero pubblica un articolo65 a firma di Emanuele Caso che titola “Giardini della stazione: 6 nuove telecamere. Riconosceranno i volti e chi “bighellona”. Il pezzo dava notizia della formalizzazione dell’acquisto di questa tecnologia da parte dell’amministrazione comasca. “Il parco della Stazione San Giovanni”, si legge in un attacco decisamente calcato, “storico ma assurto a notorietà internazionale soprattutto nel 2016 per l’afflusso straordinario di migranti, diventerà un laboratorio futuristico (forse perfino un filo inquietante) nella lotta ipertecnologica alla criminalità”. L’obiettivo, stando a quanto scritto nell’articolo, è “migliorare la vivibilità dei cittadini in un’ottica smart city” soprattutto nella zona antistante alla stazione, dove c’è il Parco Tokamachi, “una zona a rischio criminalità”.

Guardando gli articoli di giornale dei quotidiani locali sembrava chiara una correlazione tra gli eventi dell’estate 2016 e l’installazione del sistema di riconoscimento facciale al parco Tokamachi.

Il 20 novembre 2019 il Commissario capo coordinatore della polizia locale comasca risponde alla nostra richiesta di informazioni Foia, inviando una relazione specifica e dettagliata. “[...] A partire dall’anno 2016 le soddisfacenti condizioni di vivibilità nella zona dei giardini di Piazzale Tokamachi hanno subìto un brusco cambio di rotta, conseguente all’attuazione da parte della Svizzera di più stringenti misure nella gestione dei flussi di migranti in transito in Italia e diretti verso il nord Europa. [...] “la chiusura delle frontiere ha portato centinaia di persone ad accamparsi a ridosso della stazione, con inevitabili problemi di degrado ed una diffusa sensazione di insicurezza nei cittadini. Superata la problematica mediante la realizzazione di un centro di accoglienza ove sono stati trasferiti gli extracomunitari, la situazione nella zona è tornata ad una condizione di sostanziale normalità, pur mantenendo dei connotati di criticità ed una esposizione al rischio di atti illeciti tipici delle aree limitrofe alle stazioni ferroviarie” si legge. La Questura di Como però, interpellata anch’essa per commentare la situazione complessiva della sicurezza cittadina, racconta una storia diversa. La nota inviata dal questore descrive la provincia di Como “una delle più sicure del Paese” e segnala una progressiva diminuzione dei reati che avvengono solitamente in città, come furti in abitazione o rapine. In merito all’area del parco Tokamachi, il questore afferma che “cessata l’emergenza migranti, non rappresenta un’area esposta a particolari rischi rispetto ad altre aree della città”.

Intanto, non è solo la politica locale comasca a fare da sfondo al sistema di riconoscimento facciale installato dal comune. La vicesindaca allora in carica era Alessandra Locatelli, deputata della Lega che si era dimessa in seguito alla nomina (durante il primo governo Conte) a ministra per la Famiglia e le disabilità. Nicola Molteni, sottosegretario agli Interni e deputato della Lega durante il mandato di ministro dell’Interno di Matteo Salvini, proviene da Cantù, cittadina della provincia comasca. L’installazione del sistema di riconoscimento facciale a Como è stato portato avanti da figure abbastanza in vista della politica locale, e a volte anche nazionale del momento (parliamo del biennio 2017-2019), e si inserisce quindi in una serie di provvedimenti pro-sicurezza già spinti negli anni precedenti: ordinanze anti-accattonaggio e anti-migranti volute dal sindaco Mario Landriscina, eletto da una coalizione Lega, Fratelli d’Italia e Forza Italia, le quali hanno avuto risonanza sia a livello nazionale che internazionale. In un reportage66 pubblicato su Internazionale nel febbraio 2018 il giornalista Luigi Mastrodonato lo racconta molto dettagliatamente. “In campagna elettorale si soffia sempre di più nella bolla della paura, sostenendo che in città c’è un emergenza clandestini, gli immigrati tolgono soldi e diritti ai comaschi. La retorica del “prima gli italiani” paga e permette alla coalizione di centrodestra guidata da Mario Landriscina, medico affascinato dal pugno duro mostrato da Rudolph Giuliani a New York, di vincere le elezioni”. Como è stata osservata anche dagli occhi esterni del giornale americano New York Times67 in un articolo del giugno 2017. Landriscina, al tempo candidato sindaco, racconta al giornale di aver appena finito di leggere un libro proprio sulla Tolleranza zero e che la situazione di Como era “un problema in cui il conflitto − un po’ etnico, un po’ religioso − rischia di creare tensione”.

Il documento “Progetto di sperimentazione tecnologie di videosorveglianza innovativa presso il parco Tokamachi”, ottenuto via Foia, spiega meglio quali fossero le intenzioni dell’amministrazione comasca. L’obiettivo dell’amministrazione, condiviso insieme al comando di Polizia locale, era quello di “implementare sistemi di controllo del territorio più estesi in termini di: aree soggette al controllo; e funzioni innovative di controllo”. In merito all’installazione della nuova videosorveglianza non siamo rimasti sorpresi poiché, come raccontato nel capitolo precedente, i finanziamenti in questo campo sono estremamente normalizzati soprattutto dal 2017 in poi. Ciò che incuriosiva era invece il racconto di una tecnologia diversa, di quello che il comune ha chiamato “progetto innovativo”. Il Parco Tokamachi, si legge nel progetto, è stato definito come “area ideale dove implementare un Proof of Concept (POC) per la sperimentazione delle tecnologie di videosorveglianza innovativa”. Il termine inglese proof of concept, traducibile con l’espressione prova di fattibilità, mira a determinare appunto la fattibilità di un’idea concettuale. In questo caso specifico l’idea era quella di iniziare un progetto più ampio utilizzando il parco Tokamachi come banco di prova per, eventualmente, estendere poi il sistema di riconoscimento facciale anche altrove nella città.

Le motivazioni che rendono ideale il luogo sono in parte quelle già raccontate finora, ovvero i problemi di sicurezza dovuti allo stanziamento dei migranti nel 2016 (tre anni prima del progetto) e al passaggio di molte persone da e per la stazione ferroviaria, ma dai documenti emergevano anche “problematiche teoriche interessanti dal punto di vista della videosorveglianza, quali forte contrasto luce/ombra e frondosità stagionale delle piante presenti”.

Le videocamere che il comune voleva installare erano 6 e di tipo “bullet”, di forma cilindrica, statiche e che negli ultimi anni vengono impiegate molto spesso per la videosorveglianza cittadina in quanto poco costose e meno visibili di altre. Le caratteristiche delle videocamere erano la parte davvero innovativa del progetto: funzione di visualizzazione in tempo reale, di riconoscimento facciale, di rilevamento automatico di “bighellonaggio”, di rilevamento automatico di oggetti abbandonati e rimossi, di rilevamento automatico di tripwire68.

La gara d’appalto per l’assegnazione del progetto a un’azienda viene indetta il 1° dicembre 2018, con una procedura in affidamento diretto. In merito a questo, durante la stesura dell’inchiesta uscita poi sulla testata Wired Italia69, l’esperto in materia di appalti Michele Cozzio aveva segnalato che l’affidamento diretto previa consultazione di altri operatori (e non indirizzato ad una sola azienda) non è obbligatorio nel caso di contratti sotto la soglia dei 40.000 euro, ma che “sarebbe comunque buona prassi quella di chiedere almeno qualche altro preventivo o attivare indagini di mercato”. In risposta al nostro Foia il comune però non ha allegato nessun altro preventivo oltre a quello dell’azienda vincitrice. A fine dicembre 2018 l’amministrazione firma un verbale di avvio dell’esecuzione del contratto insieme al responsabile Smart city e Videosorveglianza di A2A Smart City S.p.A, Alessandro Bartolini, l’azienda al quale è stato affidato il contratto. Questa è una società del gruppo A2A che nel comasco e limitrofi si occupa di fornire elettricità e gas, dedicata alla conversione delle città in smart cities anche attraverso l’installazione di impianti di videosorveglianza “intelligenti”. L’azienda aveva inviato una relazione tecnica di progetto conforme alle caratteristiche minime richieste nella scheda tecnica di progetto redatta dal comune. Aveva sottoposto al comune la propria interpretazione del concetto di smart city e non c’erano stati dubbi: era quello che si doveva fare. Le idee del comune e dell’azienda erano tuttavia molto simili, tanto che nei documenti redatti dal primo veniva riportato più volte l’aggettivo “innovativo” come un aspetto essenziale della fornitura dell’appalto. Oltre alla collocazione delle videocamere e ad alcuni dettagli tecnici di progetto, la relazione comunale conteneva anche una serie di istruzioni sulle funzioni che il sistema creato dal colosso cinese Huawei poteva fornire anche grazie al supporto di A2A.

Durante lo sviluppo dell’inchiesta è stato di particolare interesse comprendere, per me e i colleghi, non solo il funzionamento della tecnologia e l’impatto che questa poteva aver avuto fino a quel momento sui cittadini comaschi, ma anche il modo in cui questo progetto aveva preso vita, era volato dalla Cina fino a Como. In questo senso ci ha aiutato molto lo scambio di email che abbiamo richiesto via Foia all’amministrazione e che, in tutta onestà, non ci aspettavamo di ricevere. Le conversazioni che intercorrono tra funzionari pubblici ed aziende terze, ancor di più se inviate tramite account istituzionali, secondo una lettura interpretativa favorevole del decreto Foia sono da considerare come atti pubblici.

A decidere sull’innovazione a Como è Huawei

Stando ai documenti e alle email fornite dall’amministrazione lariana quindi, oltre ad un incontro iniziale avvenuto il 20 aprile 2018 tra uno dei membri del comune e il responsabile degli Affari istituzionali di Huawei Italia all’evento di lancio della Smart city Association, associazione che tra le altre cose si prefigge “l’inclusione di tutte le parti interessate”, il progetto innovativo su Como non è mai stato reso noto in eventi pubblici. Dalle email fornite, tutte tra l’altro non oscurate nei dati personali e sensibili delle persone in copia conoscenza, abbiamo appreso come il 7 settembre 2018 la società cinese Huawei Italia aveva incontrato il sindaco Landriscina e gli assessori del Comune deputati alla sicurezza per presentare proprio il “Progetto sicurezza Como” in una sessione a porte chiuse. In questo caso le linee guida dell’Autorità nazionale anticorruzione (Anac), ricordano che gli incontri tra amministrazione ed operatore dovrebbero per buona prassi seguire procedure simili a quelle utilizzate per le indagini di mercato, effettuate con garanzie di trasparenza e di pubblicità dell’incontro. Nessuna informazione però era stata pubblicata sul sito istituzionale del comune di Como, o veicolata in altro modo ai cittadini.

In una mail del giugno 2018 avente come oggetto “slide per la giunta”, il funzionario incaricato di seguire la procedura d’appalto per conto del comune scrive che “le info riportate nelle slide sono troppo generiche e troppo poche…mi ricordo di aver visto una slide oggi che qui non vedo riportata…che elencava le varie features dei sistemi di videosorveglianza (face detection, head counter, etc….) [...] Ricordo che la proposta Huawei deve risultare “innovativa”. Fateci capire bene la reale cosa “nuova” che dovremmo opportunamente valorizzare. Grazie”. Anche in questo caso non c’è nulla di illecito, ma la conversazione non pare esattamente svincolata da qualsivoglia richiesta o considerazione. D’altronde si parlava pur sempre di specifiche tecniche, di convincere la giunta comunale del fatto che il progetto valesse la pena e che fosse qualcosa di “innovativo”. Ciò che Huawei suggerisce come “videosorveglianza innovativa” sono sei videocamere e un sistema in grado di effettuare riconoscimento facciale sui passanti, il rilevamento del “bighellonaggio” (una persona che vaga senza apparente meta, molto probabilmente senzatetto), di oggetti abbandonati o rimossi (per scongiurare la permanenza in luogo pubblico di eventuali ordigni) e lo sconfinamento di una o più persona all’interno di un’area proibita. Una tecnologia molto più avanzata di una normale videosorveglianza, cosa che invece l’amministrazione comunale sembrava non aver appieno compreso.

Ogni immagine ripresa dalle videocamere del parco poteva essere memorizzata per un periodo di sette giorni sul server della sala server comunale, dotata di un accesso controllato tramite badge e da un ulteriore sistema di videosorveglianza interno. Un aspetto interessante era quello relativo alla possibilità di generare degli alert in tempo reale per l’operatore di polizia ogni qualvolta il sistema riscontrasse delle situazioni anomale, oppure di poter ricercare un soggetto presente in una blacklist precedentemente definita proprio all’interno del perimetro di osservazione della videocamera. Un tipo di funzionalità che potrebbe anche essere utilizzata anche al contrario, ovvero gestendo quella che nell’offerta tecnica di A2A Smart city era definita “lista rossa”: un elenco di nomi di persone considerate “importanti” e che “si applica agli scenari in cui le informazioni relative alla traiettoria e all’immagine dei vip devono essere protette da accessi non autorizzati”. Una funzionalità non del tutto chiara nemmeno ora, a rileggerla dopo tre anni. Le slide presentate da Huawei Italia il 26 giugno 2018, e ottenute tramite Foia, restituiscono poi un quadro più chiaro di quanto fornito dall’azienda cinese: la piattaforma ad uso del comune si chiama cloud Matrix Intelligence e permette di analizzare e rilevare l’assembramento di persone, l’aumento della velocità delle macchine che transitano su una via e altro. Per quanto riguarda il riconoscimento facciale, il progetto tecnico redatto da A2A smart city parla di funzioni come “rilevare facce per persone di colore bianco, giallo e nero”, una dichiarazione che già al tempo ci fece storcere il naso.

Prima di richiedere documenti e informazioni al comune ancora non sapevamo che quest’ultimo non avesse una reale motivazione per installare il sistema di riconoscimento facciale, né una ragione che fosse legata potenzialmente all’aumento critico della criminalità o a eventi e situazioni di particolare rilevanza che avessero fatto scaturire la necessità del progetto. Abbiamo richiesto quindi di visionare la valutazione di impatto del trattamento preventiva70, un documento che il Garante per la privacy ricorda essere obbligatorio secondo il GDPR nel momento in cui “un trattamento può comportare un rischio elevato per i diritti e le libertà delle persone interessate (a causa del monitoraggio sistematico dei loro comportamenti, o per il gran numero dei soggetti interessati di cui sono magari trattati dati sensibili, o anche per una combinazione di questi e altri fattori)”. La redazione di una valutazione di impatto sul trattamento dei dati è uno degli elementi più importanti del nuovo regolamento europeo poiché, come ricorda il garante privacy, “esprime chiaramente la responsabilizzazione (accountablity) dei titolari nei confronti dei trattamenti da questi effettuati” e inoltre rende noti i potenziali rischi e le misure adottati per mitigarli. Nel caso di Como il comune avrebbe dovuto redigere un documento chiaro che, nel secondo accesso agli atti inviato nel novembre 2019, avevamo prontamente richiesto.

Una volta ricevuta la valutazione di impatto il primo aspetto curioso che balzava all’occhio era la retrodatazione nella creazione dell’atto, ovvero la valutazione era stata creata successivamente all’appalto, precisamente il 12 febbraio 2019, e non prima come invece richiede la normativa europea. Secondo l’avvocato Carlo Blengino, esperto di tecnologia e temi di privacy, la valutazione di impatto presentata dall’amministrazione non solo era insufficiente ma del tutto irrilevante allo scopo del progetto al Tokamachi. Innanzitutto il comune aveva immaginato un funzionamento della tecnologia di riconoscimento facciale esattamente simile, per non dire identico, a quello di un sistema di videosorveglianza “normale”. “La base giuridica che autorizzerebbe il comune al trattamento di dati biometrici per fini di pubblica sicurezza è un vecchio decreto Sicurezza del 2009 che parla solo di videosorveglianza” aveva dichiarato Blengino intervistato per l’inchiesta. In poche parole questo significava che il decreto adottato dall’amministrazione comasca non poteva costituire un fondamento legale per trattare una quantità di dati biometrici così massiva come poteva essere quella del progetto innovativo del parco Tokamachi. Questo perché, come visto ampiamente nel primo capitolo, i dati biometrici devono essere trattati necessariamente con maggiore cautela e solo se ciò è strettamente necessario. Tra l’altro, vista la surreale possibilità che il fenomeno della criminalità comasca potesse raggiungere livelli così elevati e tali da poter giustificare un sistema di riconoscimento facciale, la mancata redazione di una DPIA chiarisce ancor di più anche l’approccio che il comune di Como ha avuto nei confronti del progetto: un approccio superficiale, nel quale non è stata effettuata una corretta valutazione sull’opportunità o meno di acquistare un sistema che non era necessario, senza base legale e considerato come unico strumento utile per garantire la sicurezza dei cittadini. Esisteva un’alternativa meno invasiva e più rispettosa della privacy dei cittadini insomma, ma la città di Como ha deciso altrimenti.

Face detection non è face recognition

Nel novembre 2019, praticamente nello stesso momento in cui insieme ai colleghi Coluccini e Di Salvo abbiamo inviato i Foia, l’amministrazione di Como indiceva una seconda gara d’appalto: il potenziamento del sistema di videosorveglianza anche attraverso la dotazione di tecnologia di riconoscimento facciale su 13 telecamere preesistenti e 3 di nuova dotazione. Dunque ecco il nuovo affidamento, dell’importo annuo di più di 260.000 euro, aggiudicato ancora alla società A2A smart city nel gennaio 2020 (che poi ha subappaltato all’azienda bergamasca Fgs srl). Un mese dopo, il 26 febbraio 2020, l’allora garante privacy Antonello Soro − che aveva ricevuto una segnalazione da noi redatta sul caso di Como71 − emette un provvedimento di ingiunzione nei confronti del comune sottolineando la mancanza delle basi legali per installare un sistema di riconoscimento facciale, così come per il trattamento dei dati biometrici che sono necessari al suo funzionamento. La città è stata monitorata attivamente dal momento dell’installazione del sistema, nell’agosto 2019, fino al momento dello spegnimento intimato dal garante nel febbraio 2020.

Nonostante il parere negativo dell’Autorità garante per la privacy e la mancanza di un framework legislativo che potesse sostenere regolare l’utilizzo del sistema, il comune realizza poi ad agosto 2020 una verifica della tecnologia installata (così come vuole il codice degli appalti) scoprendo che le videocamere Huawei fornite da A2A, e sostituite in corsa con quelle della coreana Hanwha72 nella primavera 2020, erano difformi rispetto a quanto era stato richiesto dall’amministrazione stessa nel capitolato d’appalto. A fine agosto la sezione comasca del Giorno pubblica un articolo73 dal titolo “Riconoscimento facciale, nuovo imbarazzo: non funziona” e dal sottotitolo altrettanto chiaro: “Como, si è scoperto che l’occhio elettronico è addirittura orbo per colpa di un malfunzionamento del software”. Stando a quanto riportato il comune ha inviato una lettera alla società A2A smart city per chiedere come mai le videocamere non riuscissero a rilevare alcun dato biometrico dai volti individuati all’interno di un frame, ovvero perché il sistema di riconoscimento facciale che avevano richiesto non fosse un sistema di questo tipo. L’amministrazione comunale aveva anche concesso ad A2A altri 75 giorni per avere effettivamente ciò che era stato richiesto secondo capitolato.

In pratica, nel nuovo appalto di potenziamento l’amministrazione di Palazzo Cernezzi ha acquistato videocamere dotate di funzionalità face detection e non face recognition: tra le due definizioni c’è una distinzione netta, poiché la prima non fornisce nessun dato biometrico necessario alla creazione di un database di volti comparabili con quello di un individuo sospettato. Come visto nel primo capitolo, infatti, il riconoscimento facciale permette di associare un nome ad un volto, mentre il face detection si limita a riconoscere la presenza di un viso all’interno di una foto o di un video senza fornirne un’identità. Nello scambio di email avuto durante la stesura di un secondo articolo che raccontava lo sviluppo della vicenda, uscito sempre sulla testa Wired Italia, il comune ha fatto confusione tra le due tecnologie affermando di essere in attesa di un quadro legislativo che consentisse l’utilizzo di riconoscimento facciale e del trattamento dei dati biometrici a esso connessi in favore anche della polizia locale. Dopo mesi insomma, nessun dettaglio faceva pensare che il comune di Como avesse preso coscienza né di ciò che aveva comprato, e per il quale aveva speso inutilmente soldi pubblici, né del reale impatto che un sistema invasivo come il riconoscimento facciale può avere sulla privacy e sulla vita quotidiana dei cittadini, comaschi e non solo.

Como non è l’unica: Torino e Udine

Il caso di Como è stato un punto di svolta nel discorso pubblico sulle tecnologie biometriche utilizzate in contesti urbani. Ha suscitato interesse nella popolazione comasca, la prima vera protagonista del racconto giornalistico che è stato pubblicato, ma anche nella politica locale. L’opposizione in giunta ha presentato un’interrogazione in consiglio comunale attraverso la quale sono state richieste spiegazioni al sindaco, e si è dibattuto per la prima volta di riconoscimento facciale. Il risultato più importante è stato senza dubbio quello che ha portato all’introduzione di una moratoria sull’uso del riconoscimento facciale nello spazio urbano, impedimento in vigore fino al dicembre 2023. Sebbene non risolutiva, la moratoria ha consentito a ricercatori, attivisti e giornalisti di maturare un’idea più completa sulle implicazioni di una tecnologia di sorveglianza come il riconoscimento facciale nella società. Il regolamento europeo in discussione alla Commissione europea, e il movimento Reclaim Your Face, hanno poi inciso in modo rilevante nel favorire un dibattito ancor più ampio.

Intanto, anche in conseguenza a ciò, altri casi di progetti simili sono venuti a galla. La stampa locale di Udine ad esempio ha raccontato la volontà dell’amministrazione comunale, a fine settembre 2021, di introdurre telecamere “di nuova generazione”, “che possono riconoscere i volti”. Anche nel caso di Udine la tecnologia è stata legata a doppio filo con la questione sicurezza, che si porta dietro come abbiamo visto il concetto di controllo più che di benessere della popolazione. Controllo dei varchi, delle zone antistanti le stazioni, dei parchi cittadini, delle macchine, delle persone. A Udine si è parlato di settanta videocamere di cui la metà destinate al quartiere delle Magnolie, considerato un luogo difficile della città per via della presenza di cittadini immigrati. Il progetto da 673 mila euro, secondo l’assessore leghista alla sicurezza Alessandro Ciani intervistato nell’ottobre 2021 da Il Fatto Quotidiano, ha lo scopo di “implementare gli strumenti di video-analisi, come il riconoscimento di mezzi e individui (e un domani il riconoscimento facciale) sulla base di filtri come l’età, il sesso, gli abiti, l’orario, attraverso l’utilizzo di software di analisi forense, vere novità di questo intervento”74. Come nel caso di Como che l’ha preceduto, vale la stessa considerazione: non c’è una base legislativa che giustifichi la necessità di uno strumento tecnologico di questo tipo, e soprattutto è in vigore una moratoria che lo impedisce. Dunque il progetto di Udine rimane nel cassetto a prendere polvere. Nel marzo 2023 eccolo però fare di nuovo capolino: UdineToday pubblica un articolo che titola “Riconoscimento facciale con le telecamere di sicurezza, l’idea che piace al sindaco di Udine”75. “La conferma è arrivata durante un incontro sulla sicurezza, a margine del quale il sindaco ha dichiarato che vorrebbe poter usare questa tecnologia in città”, continua l’articolo. Nonostante i proclami, il sindaco non ha nessun potere per rendere questa ipotesi concreta. In ogni caso, il parere contrario del garante Privacy e la moratoria in vigore sono l’unico motivo per il quale l’amministrazione comunale udinese non ha ancora attivato un sistema di riconoscimento facciale.

Esempio simile seppur con modalità diverse è quello di Torino.

Tra i progetti approvati nel 2021 per il finanziamento sulla videosorveglianza dei comuni, messo a disposizione dal ministero dell’Interno, Argo è risultato il vincitore incontrastato: si è accaparrato 700mila euro. Altri 800.000 per completare il tutto li avrebbe messi l’amministrazione comunale torinese guidata dalla 5 stelle Chiara Appendino. In un post di agosto 2020 sulla sua pagina Facebook la sindaca scrive: “sin dall’inizio del nostro mandato abbiamo promosso un modello di sicurezza che passasse innanzitutto dalla riqualificazione del territorio, dalla creazione di valore, da quello spirito di comunità che, negli ultimi quattro anni, ha fatto nascere veri e propri movimenti spontanei nei quartieri di Torino. Arrivando a creare bellezza laddove, in troppi, vedevano solo degrado”. E ancora: “siamo convinti che il primo passo per una Città più sicura non passi dalla repressione ma dalla condivisione e dalla qualità degli spazi. Più punti luce (ne abbiamo installati e a breve ne installeremo ancora), più verde, più attività e spazi comuni, più cultura, più eventi”. Nonostante queste dichiarazioni apparentemente convincenti, i progetti del comune sono stati di fatto altri.

Come ciclicamente accade in molte città italiane, il tema della sicurezza ritorna prepotentemente nell’agenda politica locale torinese nell’estate 2020 quando membri di Lega e movimento 5 stelle chiedono76 alla sindaca Appendino un ulteriore ampliamento del parco videocamere in città a seguito di casi di aggressione o violenza. Anche in questo caso si parla di zone “degradate” e di “offrire un maggiore senso di sicurezza a cittadini e cittadine”. Il progetto Argo, al quale tutta la giunta guarda, vale 1 milione e mezzo di euro e della sua realizzazione se ne occupa l’azienda 5T s.r.l., società pubblica che controlla la mobilità torinese. Si articola in due fasi, che coinvolgono prima l’area periferica, nella quale confluisce anche la gestione dei sistemi di videosorveglianza realizzati nell’ambito del progetto AxTO (che favoriva già la cosiddetta “sorveglianza partecipata”77), e in un secondo momento l’area centrale della città. Il progetto è reso definitivo nell’ottobre 2020, momento in cui l’azienda 5T s.r.l. ottiene il primo contributo economico per la realizzazione della fase uno di Argo. L’inizio è previsto per gennaio 2021.

“Si tratta di un progetto che prevede l’installazione di centinaia di nuove telecamere ad altissima tecnologia, che saranno in grado di coniugare immagini di alta qualità con sistemi di data analysis e intelligenza artificiale, in grado di produrre elaborazioni in tempo reale sulla base di query specifiche e che andranno via via a perfezionare l’algoritmo. Nel pieno rispetto delle più recenti e stringenti prescrizioni relative alla privacy dei cittadini” si legge sempre nel post di Appendino. Parole che sembrano buzzword, non molto chiare. Insieme al collega Coluccini, con il quale al tempo stavo collaborando in qualità di ricercatrice per il Centro Hermes, abbiamo deciso di vederci meglio. Attraverso richieste Foia abbiamo ottenuto copia del progetto definitivo approvato dalla giunta nell’ottobre 2020, ma anche diverse versioni precedenti tra cui la prima risalente al giugno 2018. L’obiettivo del progetto Argo è quello di integrare strumenti per il monitoraggio della mobilità e del traffico con servizi di videosorveglianza cittadina, e i documenti parlano chiaramente di “estrazione di metadati in tempo reale”. La parola metadato può essere ai più sconosciuta, ma gli esempi di informazioni che questi dati sono in grado di processare sono stati chiariti nei documenti di progetto direttamente dalla polizia locale e dalla società 5T. I metadati permettono la “distinzione tra uomo/donna, colore di abbigliamento e scarpe; presenza di oggetti come borse, zaini, cappelli ecc.”

Con questo tipo di informazioni è tecnicamente possibile identificare e pedinare le persone che attraversano lo spazio cittadino e sono riprese in tempo reale dalle videocamere. Se indossano un cappello, una borsa rossa o una semplice maglietta con un logo, queste informazioni combinate tra loro e con il genere della persona, diventano un lascia passare piuttosto efficace per controllarne i movimenti.

Così come descritto il sistema rischia di confondere poi il sesso biologico con l’identità di genere, producendo classificazioni sbagliate e discriminando tutte le persone transgender o che non si identificano nel binarismo di genere. Come riportato da Reuters nel 201978, recenti studi svolti in alcune università statunitensi hanno dimostrato come anche gli algoritmi più avanzati commettano errori: donne e uomini che presentano una corrispondenza tra la propria identità di genere e il sesso biologico (cisgender) sono rispettivamente identificate correttamente il 98.3% e il 97.6% delle volte. Nel caso di fotografie che ritraggono uomini trans invece, lo studio ha dimostrato come vengono erroneamente identificati come donne il 38% delle volte. Nel caso di persone non binarie, agender o genderqueer, l’algoritmo sbaglia il 100% delle volte. Aspetti che non sono stati minimamente presi in considerazione prima di introdurre tecnologie di sorveglianza come quella di Como o di Torino. In un documento del progetto Argo ottenuto tramite richiesta Foia si legge inoltre che uno dei punti di forza è “la data analysis in real time come modello di “un nuovo modo di fare sicurezza” basato sulle analitiche.” Un linguaggio vuoto che ritroviamo nella narrazione della città come smart city e che vede lo spazio urbano assurgere a laboratorio di sperimentazione tecnologica.

A inizio 2023 il comune ha definitivamente messo da parte Argo: il progetto non stava in piedi perchè il garante della Privacy ha detto no all’algoritmo che permetteva l’analisi di possibili intrusioni o comportamenti specifici dei soggetti inquadrati. Oltre a quello, il progetto torinese non aveva niente di innovativo rispetto ad un sistema di videosorveglianza tradizionale. Come nel caso di Como, anche se per ragioni differenti, Argo è stato un fallimento costato alle casse comunali e dello stato ben 1 milione e mezzo di euro.

La natura ciclica del tema sicurezza si è dimostrata nuovamente a livello nazionale. “A volte ritornano” verrebbe da dire citando il noto film del regista Stephen King. Il governo Meloni, insediatosi a seguito delle elezioni politiche del settembre 2022, è il nuovo promotore. Al giornale Quotidiano nazionale79, il ministro dell’Interno Matteo Piantedosi ha dichiarato che “la videosorveglianza è uno strumento ormai unanimemente riconosciuto come fondamentale. La sua progressiva estensione è obiettivo condiviso con tutti i sindaci. Il riconoscimento facciale dà ulteriori e significative possibilità di prevenzione e indagine. È chiaro che il diritto alla sicurezza va bilanciato con il diritto alla privacy. C’è un punto di equilibrio che si può e si deve trovare. Proprio in questi giorni abbiamo avviato specifiche interlocuzioni con il Garante per trovare una soluzione condivisa”. Il senatore del Partito democratico Filippo Sensi, autore tra gli altri della proposta di legge per la moratoria su questa tecnologia, ha replicato alle dichiarazioni del politico con un tweet: “il ministro Piantedosi venga in Parlamento a riferire sulle sue intenzioni di tornare a utilizzare il riconoscimento facciale nei luoghi pubblici, oggi fuorilegge nel nostro paese. La sicurezza non è e non può essere lesione dei diritti delle persone, ma tutela della comunità”. Per il governo il riconoscimento facciale sarebbe la risposta ad alcuni casi di violenza (anche a danni di donne) avvenuti nelle stazioni ferroviarie delle città di Roma, Milano e Napoli a inizio 2023. Al momento della stesura di questo libro non è dato sapere se il governo continuerà su questa strada o se il riconoscimento facciale rimarrà ancora per un po’ nel cassetto.

Come già detto in precedenza, agli episodi di violenza è necessario rispondere con strumenti e pratiche che aiutino a ridisegnare le relazioni tra persone nel contesto urbano e, se vogliamo, nella società intera. Ciò non significa sottostimare il senso di percezione di insicurezza delle persone, o i casi di aggressione e violenza che avvengono realmente, bensì considerare le dinamiche urbane, i limiti e i vantaggi, attraverso la chiave della multidisciplinarietà.

La sempre maggiore digitalizzazione della città non dev’essere poi un pretesto per aggiungere altre tecnologie ai già capillari impianti di videosorveglianza già presenti, contribuendo alla trasformazione della città in laboratorio di sperimentazione: oltre alla possibilità di diventare tutti e tutte “codici a barre ambulanti” e di rendere automatizzati pregiudizi negativi che ridefiniscono il concetto di sicurezza, il rischio è andare verso la dataveillance city.

54 Il lavoro di inchiesta è tuttora in fase di discussione e volgerà al termine nell’estate del 2023. La commissione europea PEGA è stata istituita nel 2022 al fine di gettare luce sull’utilizzo, da parte di governi europei, di tecnologie che − installate sugli smartphone di politici di opposizione, attivisti e giornalisti − sono in grado di intercettare ogni azione svolta dall’utente e prendere possesso dell’intero sistema operativo. In gergo tecnico sono chiamati spyware. L’interesse per queste tecnologie è nato a seguito della pubblicazione di numerose inchieste giornalistiche transnazionali che hanno messo nero su bianco il modo in cui l’azienda israeliana NSO (e altre) sviluppino spyware che hanno messo a tacere, spiato o indotto a minacciare persone che svolgono attività in contrasto a quelle governative. I risvolti non sono solo psicologici, ma anche fisici: si suppone che l’assassinio del giornalista arabo Jamal Kashoggi, avvenuta a Istanbul nel consolato dell’Arabia Saudita nell’ottobre 2018, sia stata possibile anche grazie al monitoraggio continuo del suo smartphone effettuato tramite spyware.

55 Le raccomandazioni della commissione PEGA sono ritrovabili nel report pubblicato il 4 gennaio 2023 sul sito del Parlamento europeo, consultabili al lik https://www.europarl.europa.eu/doceo/document/PEGA-RD-740554_EN.pdf.

56 Procedura prevista dal codice degli appalti che prevede la pubblicazione da parte di un ente pubblico, in questo caso il ministero dell’Interno, di un avviso attraverso il quale viene richiesto al settore industriale di rispondere ai bisogni dell’ente. In questo caso l’oggetto della richiesta era la progettazione di un sistema di riconoscimento facciale ad hoc per la polizia italiana.

57 I cartellini fotosegnaletici non contengono unicamente la foto segnaletica ma anche dati personali relativi all’identità di un soggetto che viene fermato e preso in custodia dalle forze dell’ordine, e poi inserito nel sistema AFIS.

58 Riconoscimento facciale, nel database di Sari quasi 8 schedati su 10 sono stranieri, Wired Italia, 3 aprile 2019, consultabile al link https://www.wired.it/attualita/tech/2019/04/03/sari-riconoscimento-facciale-stranieri/

59 I migranti che provengono dalle frontiere di terra sono soggetti alle stesse procedure di identificazione di quelli che provengono dal mare, anche se per i primi passare il confine in punti in cui non necessariamente sono predisposti dei controlli rende questa pratica parzialmente inefficace sul momento. Alcuni dei migranti riescono ad entrare in territorio italiano senza essere fermati dalla polizia di stato, e solo dopo vengono identificati e fotosegnalati, per varie ragioni, nelle questure locali.

60 Consultabile al link https://www.asgi.it/wp-content/uploads/2018/07/2018_6_Hotspot.pdf.

61 Utilizzato nell’ambito della sicurezza informatica, l’approccio “sicurezza tramite segretezza” si basa sull’assunto che tenere segreto il funzionamento di un sistema lo renda più sicuro poiché scongiura un attacco da parte di chi, trovate eventuale falle in quest’ultimo, lo voglia compromettere. Dietro questo principio si nasconde spesso però anche la volontà di non fornire informazioni su un sistema come quello di riconoscimento facciale usato dal Viminale, che potrebbero gettare luce sull’approccio tecnico e politico utilizzato dal ministero dell’Interno per quanto riguarda il controllo della criminalità sul territorio nazionale.

62 Più di venti associazioni che da anni si occupano di diritti digitali in Europa si sono accodate a EDRi, European digital rights initiative, per chiedere alla Commissione europea di vietare l’utilizzo di tecnologie biometriche nello spazio pubblico. La campagna è stata realizzata con uno strumento di petizione ufficiale europeo, ECI, e nel giro di un anno e mezzo ha raccolto 78,092 firme. Tra gli slogan portati avanti dalla campagna: “privacy è potere”, “sorveglianza è profitto”. Reclaim Your Face ha creato un movimento e collegato associazioni che sono riuscite a ottenere importanti passi avanti nazionali soprattutto in campo politico: in Italia la moratoria sull’uso di queste tecnologie nello spazio pubblico è nata proprio a seguito delle pressioni esercitate dal movimento e dall’associazione Centro Hermes.

63 Como, le telecamere ci riconoscono. Già in funzione ma nessuno lo sa, La Provincia di Como, 21 agosto 2019, consultabile al link https://www.laprovinciadicomo.it/stories/como-citta/como-le-telecamere-ci-riconoscono-gia-in-funzione-ma-nessuno-lo-sa_1319403_11/

64 Documento unico programmatico 2020-2022 presentato dal comune di Como, consultabile al link https://www.comune.como.it/export/sites/default/it/comune/bilanci-documenti-piani/documento-unico-programmazione/DUP-2020-2022.pdf

65 Giardini della stazione: 6 nuove telecamere. Riconosceranno i volti e chi “bighellona”, Comozero, 29 dicembre 2019, consultabile al link https://comozero.it/attualita/giardini-della-stazione-6-nuove-telecamere-riconosceranno-i-volti-e-chi-bighellona/.

66 La destra che punta su sicurezza e decoro vista da Como di Luigi Mastrodonato, Internazionale, 5 febbraio 2018, consultabile al link https://www.internazionale.it/reportage/luigi-mastrodonato/2018/02/05/como-sicurezza-immigrati-senza-dimora.

67 Immigration Moves Front and Center in Italy’s Local Elections di Jason Horowitz, The New York Times, 24 giugno 2017, consultabile al link https://www.nytimes.com/2017/06/24/world/europe/italy-immigration-elections.html.

68 Lo sconfinamento all’interno di un’area proibita: data un’area di sorveglianza chiunque entri nel perimetro è attenzionato, a meno che la sua presenza non sia concessa.

69 Perchè Como è diventata una delle prime città in Italia a usare il riconoscimento facciale, Wired Italia, 9 giugno 2020, consultabile al link https://www.wired.it/internet/regole/2020/06/09/riconoscimento-facciale-como/.

70 Quella che in termini tecnici viene definita Data Protection Impact Assessment dal Regolamento europeo 679/2016, il noto GDPR.

71 La segnalazione, a differenza del reclamo, ha un iter più veloce perché ha un’importanza diversa: nel nostro caso è sttao Philip Di Salvo ad inviare una segnalazione al garante volta a capire in che modo fossero stati trattati i suoi dati personali e biometrici ogni qualvolta si trovava a passare davanti alla stazione della città.

72 In quel periodo la pandemia da Covid-19 aveva appena raggiunto il suo culmine in Italia, provocando un arresto della fornitura di materie prime e strumenti provenienti dalla Cina.

73 Riconoscimento facciale, nuovo imbarazzo: non funziona, Il Giorno, 23 agosto 2020, consultabile al link https://www.ilgiorno.it/como/cronaca/riconoscimento-facciale-1.5437590

74 Udine, il comune stanzia 675mila euro per 67 videocamere a riconoscimento facciale. Ma non possono essere usate (per ora), di Anna Dazzan, Il Fatto Quotidiano, 4 ottobre 2021, consultabile al link https://www.ilfattoquotidiano.it/2021/10/04/udine-il-comune-stanzia-675mila-euro-per-67-videocamere-a-riconoscimento-facciale-ma-non-possono-essere-usate-per-ora/6338822/.

75 Consultabile al link https://www.udinetoday.it/cronaca/riconoscimento-facciale-udine.html.

76 La deliberazione della giunta comunale del comune di Torino è consultabile al link http://www.comune.torino.it/giunta_comune/intracom/htdocs/2020/2020_01738.pdf.

77 Un tipo di sorveglianza nata in seno al concetto di sicurezza urbana, e che prevede di aggiungere all’infrastruttura di videosorveglianza pubblica anche le videocamere di privati che decidono di collaborare con le forze dell’ordine e l’amministrazione comunale al controllo del territorio cittadino. Solitamente questi accordi tra cittadini e autorità forniscono accesso alle videocamere private in caso di eventuali crimini commessi nella zona ripresa.

78 Facial recognition technology struggles to see past gender binary di Molly Millar, 30 ottobre 2019, consultabile al link https://www.reuters.com/article/us-usa-lgbt-facial-recognition/facial-recognition-technology-struggles-to-see-past-gender-binary-idUSKBN1X92OD?edition-redirect=uk.

79 Il ministro Piantedosi: “Più polizia nelle stazioni. E bisogna sbloccare il riconoscimento facciale” di Alessandro Farruggia, Quotidiano nazionale, 30 aprile 2023, consultabile al link https://www.quotidiano.net/politica/piantedosi-stazione-milano-195c9a32.

La cultura della sorveglianza

Come ampiamente discusso in precedenza, i sistemi di identificazione e controllo sono da sempre impiegati come strumenti funzionali al contrasto e alla repressione della criminalità. Se alla fine dell’’800 le forze di polizia hanno cominciato a schedare i criminali o i presunti tali attraverso le impronte digitali, a ciò si è aggiunta la creazione di registri, database, sistemi tecnologici avanzati e addirittura in alcuni casi predittivi. In un percorso lineare di continua addizione di elementi, la sorveglianza e tutto ciò che questo concetto porta con sé ha cominciato ad abbandonare i binari sulla quale scorreva da tempo e, complice l’innovazione tecnologica, è approdata in contesti prima di allora liberi da occhi indiscreti.

Data la sua continua e crescente pervasività in tutti gli ambiti della vita quotidiana delle persone, si può ampiamente dire che guardare alla sorveglianza è ormai fondamentale se si vuole comprendere la contemporaneità della nostra società.

Durante gli anni ‘80 e ‘90 del secolo scorso emerge un nuovo campo di ricerca, all’intersezione tra materie quali giurisprudenza e sociologia, e affini: gli studi sulla sorveglianza. Al centro dei surveillance studies c’è l’idea di una società della sorveglianza, nella quale le pratiche di inclusione ed esclusione restringono sempre di più libertà fondamentali e autonomia degli individui. Parallelamente agli studi sulla sorveglianza si palesa anche la necessità di un approccio più radicale, che trova rappresentazione negli studi critici sulla sicurezza (critical security studies): una disciplina accademica che attinge alla teoria critica per rivedere, e spesso rifiutare, quello che è l’approccio tradizionale alla sicurezza. I critical studies comprendono e si intrecciano con un’ampia gamma di teorie, tra cui quella femminista, marxista, post-strutturalista, postcoloniale e queer. Traggono spesso spunto anche da discipline come la sociologia, l’antropologia e la criminologia, cosicché per la comunità scientifica e quella sociale sia possibile intravedere percorsi alternativi attraverso i quali affrontare un tema così complesso come quello della sicurezza.

Ad accomunare i due approcci c’è l’idea di fondo che la sorveglianza sia di per sé una pratica problematica, e che il paradosso della sicurezza − per il quale più una persona vuole essere sicura e più si armerà − sia essenzialmente un fenomeno costruito socialmente.

Dalla società della disciplina a quella del controllo

Tutto ciò che è stato teorizzato dopo il pensiero del filosofo Michel Foucault ha dato una spinta ulteriore al tema della sorveglianza. I tempi cambiano, e anche la sorveglianza cambia. Guardando al mondo e alla società di oggi il punto cruciale non è tanto quello di sorvegliare o mantenere l’identità dello stato nazione come chiusa, bensì gestire e monitorare i flussi di movimento degli individui, delle merci e di tutte quelle informazioni che scambiamo continuamente. Nel saggio Postscript on Control Societies del 1990, Gilles Deleuze parla dell’idea di società del controllo. Secondo il filosofo francese attorno all’inizio degli anni ‘80 una molteplicità di fattori abbastanza favorevoli come il crollo del muro di Berlino, la caduta del regime sovietico e la diffusione delle prime macchine informatiche segnarono una svolta sia nella società che nell’esercizio del potere. Secondo Deleuze la società disciplinare descritta da Foucault (quella dei grandi ambienti di reclusione ciascuno dotato di proprie leggi, come il carcere, la scuola, la caserma, la fabbrica, l’ospedale) trova il suo culmine agli inizi del ventesimo secolo. Questo non perché le strutture disciplinari non esistono più, bensì perché si sono evolute in qualcos’altro. In sostanza se in una società disciplinare, come descritta nel primo capitolo, un soggetto passava dalla scuola alla caserma, dalla caserma alla fabbrica, dalla fabbrica all’ospedale, in un ciclo continuo che non finiva mai, in una società del controllo questi step di passaggio non sono così chiari. L’essenziale in questa società, dice Deleuze,

non è più una firma o un numero ma un codice; i codici sono parole d’ordine, mentre le società disciplinari sono governate (quando si tratta di integrazione o resistenza) da precetti. Il linguaggio digitale del controllo è costituito da codici che indicano se l’accesso a determinate informazioni deve essere consentito o negato. Non abbiamo più a che fare con una dualità di massa e individuo. Gli individui diventano “individui” e le masse diventano campioni, dati, mercato o “banche”80.

Tutto ciò deve considerare il rapporto sempre presente e sempre più stretto tra tecnologia e potere. Secondo Deleuze infatti ogni società può essere compresa guardando alla tecnologia politica dominante in quel momento: le macchine della società del controllo sono molto più complesse di leve, martelli o sbarre come in tempi passati. Sono macchine informatiche che offrono la possibilità di comunicare e ricevere informazioni digitali, che mutano profondamente il sistema economico capitalistico. Non più un sistema che produce ma che acquista prodotti finiti, o al più li assembla, e vende servizi e azioni. “Le conquiste del mercato si fanno prendendo il controllo e non più con la formazione disciplinare [...] Il marketing è diventato il centro o “l’anima” della società. Ci viene insegnato che le aziende hanno un’anima, che è la notizia più terrificante del mondo”81. In ogni caso questo cambiamento di cui parla Deleuze non si scosta così tanto dal modello proposto da Foucault, ma lo ingloba. Le tecnologie di sorveglianza che abbiamo intorno quotidianamente non sono infatti nient’altro che un’evoluzione di quelle settecentesche su cui Foucault si sofferma ampiamente. La velocità e le enormi capacità di memorizzazione delle macchine informatiche hanno acquisito una rilevanza notevole negli anni, divenendo di fatto fondamentali per ideare e sviluppare dei nuovi metodi di controllo. In questo senso i progressi tecnologici hanno reso soltanto più efficienti e diffusi dei processi che, come abbiamo visto, erano già in atto.

Allo stesso tempo l’introduzione di nuove tecnologie ha comportato l’erosione di diritti e libertà fondamentali, rendendo l’asimmetria di potere ancora maggiore di quanto già non fosse. Un esempio molto ficcante è la sorveglianza sul lavoro. Se n’è parlato molto durante il culmine della pandemia da Covid-19 che ci ha costretti a casa, ma il controllo a distanza del lavoratore è una pratica che era già emersa alla fine degli anni ‘90. Un articolo del The Indipendent del giugno 1999 titolava “La spia hi-tech che forse vi tiene tutti sott’occhio in ufficio” e parlava proprio di datori di lavoro che controllano i dipendenti in azienda. Una dichiarazione interessante sul tema era stata lasciata da Simon Davies, tra le altre cose anche fondatore dell’organizzazione inglese Privacy International, che si occupa del tema della privacy e affini da ormai più di vent’anni: “Nel Regno Unito il datore di lavoro può intercettare le chiamate telefoniche, leggere i messaggi di posta elettronica e monitorare le schermate del computer. Può mettere cimici per spiare le conversazioni, analizzare il funzionamento del computer e della tastiera, scrutare il comportamento dei singoli utilizzando telecamere a circuito chiuso, controllare i movimenti del dipendente attraverso tecnologie di tracciamento, analizzare le urine per individuare la presenza di stupefacenti, ed esigere la comunicazione di dati personali anche appartenenti alla sfera più intima”. A distanza di decenni alcune cose sono state largamente inibite dall’entrata in vigore del regolamento europeo in materia di protezione dei dati personali, il Gdpr, mentre altre continuano ad essere operabili soprattutto ricorrendo all’uso di tecnologie legate all’espletamento di compiti lavorativi, come ad esempio i calendari condivisi per i meeting o la rete internet aziendale. “Nella maggior parte dei casi, il vero obiettivo della sorveglianza è il monitoraggio del rendimento, la sorveglianza del personale o la pura e semplice applicazione di prassi discriminatorie” dice Davis nell’articolo.

La città come laboratorio di sorveglianza

Il luogo privilegiato dagli studi sulla sorveglianza, e che vede l’impiego di strumenti come le telecamere, è la città: “in un’epoca in cui la sicurezza riguarda tanto il monitoraggio e l’interdizione dei flussi di capitali, persone e informazioni quanto la difesa dei confini con le forze militari convenzionali, le città sono sempre più viste come luoghi chiave per politiche e interventi di sicurezza, dando origine a nuove tecnologie di policing di rischio, sorveglianza e profilazione”82.

Al centro degli studi sulla sorveglianza ci sono sia potenti sistemi di trasporto intelligente, come ad esempio i sistemi GPS, sia le videocamere installate sul territorio cittadino. Sono state introdotte con l’intento di migliorare la qualità della vita dei cittadini, o in generale di chi attraversa uno spazio, ma dall’altra parte sono sistemi caratterizzati da una grande invasività della sfera privata personale, così come dalla raccolta di dati e informazioni e dal loro stoccaggio per un tempo spesso indefinito all’interno di un database. Soprattutto quest’ultima considerazione è molto spesso, se non nella quasi totalità dei casi, lasciata da parte e non considerata.

Finora si è cercato di mettere in luce la città come luogo in cui, attraverso videocamere e sorveglianza biometrica, il governo locale controlla e monitora la popolazione che la vive. Quali impatti ha invece sulle persone?

Chilling effect: quel diritto non esercitato

Di estrema rilevanza e praticamente mai discusso è il fatto che le persone possano mutare atteggiamento, modo di fare o comportamento quando si trovano ad attraversare la città. In questo settore si parla precisamente di chilling effect, ovvero della possibilità che una persona sorvegliata o che si sente tale non metta in atto alcuni comportamenti soliti per paura di ripercussioni di qualsiasi tipo. Per estensione, il chilling effect ha dunque il potere inconscio di indurre le persone a decidere di non esercitare i propri diritti fondamentali. Le forze dell’ordine italiane hanno pensato di utilizzare Sari, il sistema di riconoscimento facciale in dotazione dal 2017, per controllare e monitorare grandi eventi sportivi e manifestazioni. Anche in Francia, a Parigi, l’Assemblea nazionale ha deciso che durante i Giochi olimpici del 2024 il riconoscimento facciale sarà uno strumento in mano alle forze di polizia per mantenere l’ordine pubblico ed evitare attacchi terroristici. In questi casi però le persone possono essere indotte a non esercitare i propri diritti di manifestazione o di libertà di parola perché impaurite dalla possibilità di essere identificate, oppure di vedere il proprio volto scannerizzato e stoccato in un grande database di cui non si conosce il funzionamento né lo scopo. Potrete pensare: se non ho nulla da nascondere, qual è il problema?

Anche se molte persone tendono a credere a questo sillogismo “se non ho nulla da nascondere, allora nulla dovrò temere”, tanto meno una sorveglianza continua, un più attento sguardo alla propria vita può fornire molti motivi per i quali una persona dovrebbe o vorrebbe mantenere la riservatezza di alcune sue azioni. Essere sorvegliati mentre si esce di casa e ci si dirige dal proprio psicologo, oppure dal chirurgo plastico, o in una clinica per l’aborto esemplifica perfettamente il vuoto sul quale si regge il sillogismo appena descritto. Da uno psicologo ci si può recare per molti motivi, ma nella società in cui viviamo ricorrere al parere di un professionista in questo caso è spesso demonizzato. Dal chirurgo plastico si recano persone che vogliono cambiare il loro aspetto fisico, ma anche chi ha bisogno di interventi essenziali per migliorare le sue condizioni di vita. Le donne che decidono di abortire poi, in un clima sociale e politico come quello che l’Italia e non solo vivono in questo momento, meritano di essere appoggiate e tutelate nella loro scelta e non giudicate per quello che fanno.

A differenza di quanto credono la maggior parte delle persone, la privacy, e il concetto di riservatezza circa la propria vita privata, è un fatto sociale e non individuale.

Seppur sia sempre più difficile tracciare una linea netta tra cosa sia privato e cosa invece pubblico, come esseri umani vogliamo che una parte della nostra vita personale rimanga sconosciuta ai più per una questione molto semplice. La sfera privata ci consente di formare relazioni personali che vanno oltre uno scambio meramente utilitaristico, che ci permettono di pensare, creare e sperimentare senza influenze o giudizi esterni, e di conseguenza di formare un’opinione soggettiva e informata sul mondo circostante. La privacy non è solo il diritto a lasciare tali dei segreti, ma molto di più. Come per altre cose, anche la privacy è un bene personale (e di conseguenza collettivo) così importante per tutta la società che scegliere di regalarla ad aziende private o allo Stato è da considerare problematico. Se come cittadino posso ottenere informazioni, pensare o prendere decisioni sulla società nella quale vivo, allora posso scegliere anche come vivere, chi mi può rappresentare politicamente, con quali leggi o norme sociali.

Il chilling effect è una possibile conseguenza della sorveglianza urbana, che mina direttamente anche la privacy delle persone.

Dal punto di vista del governo locale un comportamento più “consono” o “normale” che rispetti le leggi in vigore non viene considerato un risvolto negativo, anzi è esattamente il deterrente che le amministrazioni comunali cercano di suscitare nelle persone che potenzialmente potrebbero delinquere. Ciò a cui queste pratiche non guardano però è l’effetto sulle persone che non commettono alcun reato, ovvero appunto il cambio − anche impercettibile dall’esterno − di alcuni comportamenti o modi di fare. In questo senso è interessante sottolineare come i comportamenti che alcune ordinanze sindacali o comitati antidegrado definiscono come inaccettabili siano comportamenti, e non reati in senso giuridico del termine. Appunto per questo è fondamentale guardare all’impatto che sistemi di videosorveglianza anche biometrica hanno sulle persone che attraversano gli spazi urbani, che per la maggior parte non commette alcun reato.

Quello tra sicurezza e privacy può essere un equilibrio difficile da raggiungere, ma pur sempre importante. Se la sorveglianza può minare il nostro diritto di mettere in dubbio il potere, di riunirci con altre persone e protestare in pubblico, di avere la privacy e lo spazio necessari per la formazione di un pensiero critico, allora la nostra società non potrà essere sana né sicura.

Le città sono esemplificative in questo senso: sin dal momento in cui una persona esce di casa, per tutta la giornata e poi fino al ritorno, viene osservata. Alla fermata dell’autobus, mentre entra in ufficio, al supermercato, al parco con gli amici: la sorveglianza pubblica è dovunque. L’uso di sistemi di questo tipo è aumentato esponenzialmente nel corso del Ventesimo secolo, soprattutto dopo la seconda guerra mondiale. La prima città negli Stati Uniti a installare videocamere lungo la strada principale è stata Olean, nello stato di New York, nel 1968. Lo scopo era ovviamente quello di ridurre la criminalità, e così è ancora dopo più di quarant’anni. Il progresso e l’evoluzione tecnologica hanno però segnato un cambiamento enorme: le videocamere registrano immagini di giorno e di notte, le salvano, possono scansionare i nostri volti e inserirli in un database, oppure registrare il modo in cui ci muoviamo (l’andatura è un altro dato biometrico).

A questo punto dell’evoluzione tecnologica è lecito chiedersi dove possa essere tracciato un confine: fino a dove le videocamere di videosorveglianza pubblica ci tengono al sicuro, o viceversa diventano strumenti per spiare invece che proteggere? Avere intorno e vedere centinaia di videocamere ci rende più tranquilli o ci fa inevitabilmente pensare a quanto il luogo che stiamo attraversando sia insicuro?

Di smart non c’è niente: la dataveillance city

Secondo l’economista spagnolo Gildo Seisdedos Dominguez, specializzato nel campo delle smart city e del city marketing, la città intelligente si basa sull’efficienza mutuata da una gestione manageriale, sull’integrazione con le Tic83 e sulla partecipazione attiva dei cittadini. Una sorta di “aziendalizzazione” dello spazio pubblico più che una visione “intelligente” di città, sostenibile e con attenzione alla qualità della vita delle persone che la abitano. Secondo la Commissione europea, “la città intelligente è un luogo in cui le reti e i servizi tradizionali sono resi più efficienti con l’uso di soluzioni digitali a vantaggio dei suoi abitanti e delle imprese”84. Il fulcro di queste città, almeno sulla carta, è migliorare la qualità della vita dei cittadini, favorire il raggiungimento di obiettivi europei in materia di energia e di sostenibilità climatica, e aumentare la competitività delle città europee. A guardare bene i casi di città intelligenti finora realizzati nel mondo, quest’ultimo obiettivo sembra quello più preponderante. Mobilità sostenibile, edilizia sostenibile, infrastrutture integrate, open data governance sono elementi positivi che però vengono declinati solo parzialmente nell’interesse dei cittadini: i costi per usufruirne sono spesso molto alti, o comunque non accessibili a chiunque e rischiano di creare una città a due velocità in cui chi può permettersi di essere sostenibile lo è, gli altri invece saranno inevitabilmente esclusi da questa pratica.

Come è già possibile vedere in molte città europee è sempre più comune imbattersi in semafori intelligenti, cestini intelligenti o irrigatori per il verde pubblico intelligenti come a Firenze. Secondo l’osservatorio smart city della School of management del Politecnico di Milano, nel 2022 il 39% dei comuni al di sopra dei 15.000 abitanti avrebbe avviato almeno un progetto per trasformare digitalmente la propria città. In un’indagine svolta dall’osservatorio su 1.001 cittadini è emerso come il 65% dei rispondenti abbia dichiarato di associare alle parole smart city il concetto di “città innovativa”. Esattamente la narrazione aziendale emersa nel caso di Huawei al parco Tokamachi a Como.

Secondo le stime del Politecnico di Milano il mercato delle smart city italiano valeva circa 900 milioni di euro nel 2022. Una cifra incrementata anche grazie ai finanziamenti destinati a questo scopo con il Piano nazionale di ripresa e resilienza. Secondo le stime indicate da Luca Gastaldi, responsabile scientifico del tavolo di lavoro smart city del Politecnico di Milano e membro della segreteria tecnica deputata all’attuazione del Pnrr alla presidenza del Consiglio dei ministri, le risorse destinate allo sviluppo di questo settore ammontano a circa 10 miliardi di euro. Come per le altre somme anche queste sono elargite dall’Unione europea a condizione siano raggiunte una serie di tappe precise.

I progetti di smart city possono potenzialmente migliorare le condizioni di vita degli abitanti, ma è necessario considerare che questo cambiamento − per come inteso finora nella città neoliberista − sarà sempre realizzato in un’ottica di maggiore efficienza e sostenibilità che trova la sua radice nel profitto che l’azienda fornitrice dei prodotti otterrà in cambio. Milano ha introdotto in alcune zone della città cestini intelligenti in grado di diminuire la grandezza dei rifiuti e di segnalare all’azienda che si occupa di smaltimento quando sono pieni e andrebbero svuotati. Gli smart bin sono stati forniti dal gruppo A2A, lo stesso che a Como ha permesso al comune di installare le videocamere con riconoscimento facciale sulla propria rete elettrica. Sul sito web di A2A sono definiti come “cestini intelligenti che monitorano in tempo reale il loro stato di riempimento [...] i dati vengono inviati alla piattaforma applicativa che elabora le informazioni in tempo reale, gestisce gli allarmi e pianifica i percorsi di raccolta con intelligenza artificiale”. Dalle interviste si evidenzia anche come in città siano due le priorità più rilevanti secondo i cittadini: la mobilità (il 54% dice di avere difficoltà nel trovare parcheggio), la sicurezza (il 39% lamenta criminalità e vandalismo).

L’utente non è prodotto, ma fonte della materia prima

Come scrive Shoshana Zuboff ne Il capitalismo della sorveglianza. Il futuro dell’umanità nell’era dei nuovi poteri tradotto in italiano da Luiss University Press nel 2019, quello in cui siamo immersi è un “movimento che cerca di imporre un nuovo ordine collettivo basato sulla sicurezza assoluta”, “un nuovo ordine economico che sfrutta l’esperienza umana come materia prima per pratiche commerciali segrete di estrazione, previsione e vendita”. Più brevemente, quello che la studiosa ha identificato come il “capitalismo della sorveglianza”.

Zuboff cita Hal Varian, economista statunitense specializzato in microeconomia ed economia dell’informazione, per spiegare meglio alcuni concetti fondanti l’evoluzione del sistema capitalistico che stiamo vivendo dall’inizio degli anni 2000. La materia prima della sorveglianza sono i big data, estratti e analizzati tramite “relazioni sociali e infrastrutture materiali con le quali l’azienda impone la propria autorità su tali materie prime per poterne ottenere in quantità tali da sostenere un’economia di scala”85. L’analisi dei dati è realizzata dalle aziende attraverso l’intelligenza delle macchine, così come è stata definita da Google per definire un concetto che va oltre la mera produzione di algoritmi. La materia prima, ovvero i dati, vengono così convertiti in quelli che Zuboff identifica come “prodotti algoritmici finalizzati a predire il comportamento degli utenti”. In un passaggio molto lucido del capitolo sul surplus comportamentale, la studiosa sgombra il campo da alcune interpretazioni a suo parere riduttive in merito all’analisi dei dati raccolti sulle persone in vari contesti. “Gli utenti non sono prodotti, bensì le fonti della materia prima. [...] Gli anomali prodotti del capitalismo della sorveglianza riescono nell’impresa di derivare dal nostro comportamento pur rimanendo al tempo stesso indifferenti a esso. I suoi prodotti sono in grado di prevedere quel che faremo senza in realtà curarsi di cosa faremo o di cosa ci viene fatto”. Il surplus comportamentale di Zuboff è quindi quell’insieme di informazioni e dati che le aziende tecnologiche raccolgono in più rispetto a quelli che servono per far funzionare o migliorare un servizio. Il fatto di utilizzare internet o app per qualsiasi cosa, dall’ascoltare musica al lavorare online, ma anche la necessità di interagire con città definite sempre più intelligenti per la quantità di servizi tecnologici che le amministrano, significa inevitabilmente produrre dati o informazioni sulle nostre vite che vengono captati dalle multinazionali del tech. Così queste ultime indirizzano scelte commerciali, influenzano gusti e consumi, mappano emozioni e stati d’animo, definiscono inclinazioni politiche o personali a scopi di marketing e quindi di profitto. La retorica delle smart city si inserisce appieno in questa interpretazione della nuova fase del capitalismo che stiamo vivendo. La narrazione proposta dalle aziende che si occupano di questo mercato è quella di una città più vivibile, innovativa, in cui lo spazio digitale si amplia e quello fisico invece si riduce. La città intelligente potrebbe essere declinata in modo inclusivo e democratico, ma è bene ricordare che la tecnologia sottostante non è neutrale e in un sistema economico capitalistico molto spesso non fa altro che favorire dinamiche che accentrano capitali e quindi potere.

La dataveillance city

A metà degli anni ‘80 il teorico della sorveglianza Roger Clarke conia il termine dataveillance, una crasi tra le parole inglesi data e surveillance. Sul suo sito web86 si legge che “lo scopo era quello di attirare l’attenzione sul cambiamento sostanziale che si stava verificando dalla (costosa) sorveglianza fisica ed elettronica degli individui, alla sorveglianza (economica) del comportamento delle persone attraverso le tracce di dati sempre maggiori che il loro comportamento stava generando”.

Più sono automatizzate, più le tecniche di sorveglianza fisica ed elettronica diventano meno costose e forniscono dati sistematici sulle persone, dati che imparano da sé stessi e si autoalimentano.

Coloro che sono a favore della dataveillance affermano che avere più dati circa qualsiasi fenomeno sociale o dimensione che ci circonda, significhi essere di conseguenza più sicuri: riuscire a contrastare le frodi, l’evasione fiscale, la criminalità, i rischi ambientali. Sullo sfondo però ci sono sistemi tecnologici che non sono infallibili, ma che si intendono tali per via di un approccio tecnosoluzionista ai problemi che ci pone davanti la società in cui viviamo. Sistemi, economie e città completamente intelligenti sono anche più vulnerabili ad attacchi informatici che mettono a rischio dati personali e informazioni sensibili dei cittadini. Un esempio su tutti in Italia riguarda il settore della sanità, che secondo il rapporto Clusit al 202387 risulta essere il settore della pubblica amministrazione più colpito da azioni malevole condotte da cybercriminali che esfiltrano dati e poi li rivendono sul dark web o chiedono in cambio alti riscatti. Questi avvenimenti sono per la maggior parte delle volte dovuti al cosiddetto human factor e al basso livello di protezione informatica delle strutture coinvolte. Quando un funzionario di un’azienda sanitaria o di un ospedale legge un’email inviatagli da un indirizzo che conosce, e clicca su un link o scarica un file all’apparenza innocuo ecco che il danno è fatto. L’attacco informatico è andato a buon fine, il ransomware88 è nel pc del dipendente e si diffonderà in quello di altri dipendenti, e non sarà possibile utilizzare i sistemi informatici a meno che la Pa non paghi un riscatto. Il fattore umano è ciò che rende i sistemi informatici molto più vulnerabili di quanto si pensi, perché la tecnologia di per sé non è mai sicura al 100%. Sono una serie di pratiche e norme di sicurezza digitale che garantiscono una protezione che in molti casi sarebbe sufficiente a scongiurare un disastro. Con questo esempio inoltre è ancor più evidente quanto sicurezza e privacy siano un fatto collettivo e non individuale.

La dataveillance presuppone inoltre che le tecnologie che utilizziamo e i dati che le aziende estrapolano sui nostri comportamenti e attività siano un vero riflesso di noi stessi. Sappiamo che non sempre è così per svariate ragioni, ma se il parametro per capire le nostre vite future è questo allora è probabile che le persone finiscano per essere categorizzate in modo sbagliato. Svuotare il sacchetto della spazzatura ad un certo orario, al di fuori di quelli pensati dal cestino intelligente per la raccolta dei rifiuti; indossare un cappuccio o una copertura del viso in pubblico che non permette al sistema di riconoscimento facciale di identificare un volto e associarlo a un’identità, e molti altri esempi, possono far pensare agli algoritmi adibiti all’analisi di questi dati che siete un certo tipo di persona quando invece siete tutt’altro. Quando la categorizzazione dei nostri comportamenti è utilizzata per decidere politiche o pratiche di sicurezza, così come accade per esempio nelle smart city orientate alla sicurezza urbana, le criticità si moltiplicano. Uno dei problemi principali in questo caso è dato dal fatto che la dataveillance rimuove l’essere umano dal processo che porta alla costruzione di rappresentazioni così come dal controllo dei dati. Come visto nella parte del libro in cui è stato introdotto il tema dei sistemi di riconoscimento facciale, questi utilizzano unicamente i dati che gli vengono forniti e non tutti quelli che potrebbero idealmente rappresentare la società che viviamo. Ciò significa che tendono a fornire una rappresentazione degli individui non accurata e spesso fuorviante. Automatizzare rende tutto più efficiente per le aziende, ma al contempo elimina la comprensione umana delle nostre attività.

Un altro punto risulta fondamentale per affrontare il discorso smart city in termini critici. I dati che vengono creati attraverso l’interazione delle persone con oggetti o sistemi informatici non sono sempre e solo in mano pubblica. Anzi, quando si parla di progetti intelligenti le aziende propongono sistemi che raccolgono dati che poi condividono con l’amministrazione locale. Sono dati privati che le aziende restituiscono spesso in modo frammentato, non solo perché tenerseli stretti garantisce loro un vantaggio economico nei confronti dei competitor ma anche perché le pubbliche amministrazioni non sono interessate ad esercitare su di loro un potere contrattuale a favore dei cittadini. La dataveillance è una pratica moralmente ed eticamente scorretta anche solo perché la stragrande maggioranza delle persone non conosce quanti dati e quante informazioni sono raccolte dalle aziende del capitalismo della sorveglianza, a chi effettivamente siano venduti e cosa poi ne venga tratto.

Riprendersi la città

Secondo la definizione del dizionario Treccani, la città “è uno degli elementi umani dello spazio geografico: in particolare un elemento insediativo e un elemento economico; è, o può essere, anche un elemento politico, e, ancora, un elemento culturale, sia in quanto elettivo della produzione di cultura sia in quanto sede di beni accumulatisi nel tempo. Da tale molteplicità di funzioni si evince l’importanza della città e si comprende come essa risulti uno degli elementi-guida dell’organizzazione dello spazio”. La città mi ha sempre affascinata, e in questa definizione ritrovo gran parte delle motivazioni della mia fascinazione. La città rappresenta una delle manifestazioni più complesse e rilevanti della storia umana perché è sede di enormi contraddizioni e include anche una dimensione sociale inconscia, quella che il sociologo Max Weber chiama inconscio sociale urbano. Questo è l’insieme di forze che animano la coscienza collettiva e danno sostanza all’immaginario sociale al di là di quella che può essere la consapevolezza degli individui. Le città sono anche lo spazio pubblico per eccellenza: ma cos’è ormai lo spazio pubblico?

A seconda delle lenti che si decidono di indossare, lo spazio pubblico assume molti significati diversi. È generato da una molteplicità di dinamiche che inevitabilmente rendono la definizione variabile: secondo un approccio geografico sociale, lo spazio pubblico è il prodotto della società e del contesto in cui si è costruito e quindi dipenderà inevitabilmente dalla cultura (occidentale, orientale, mediorientale) predominante in quel luogo. Da un punto di vista sociologico, lo spazio pubblico è definito da alcune caratteristiche particolari come la possibilità per i soggetti di interagire liberamente, e di farlo per questioni di interesse comune e pubblico appunto. Si potrebbero aprire grandi discorsi sulla definizione dello spazio pubblico, su quanto questo subisca un’evoluzione continua e inarrestabile ma andremmo fuori tema. In generale possiamo dire che lo spazio pubblico è tale nel momento in cui è capace di accogliere le sfaccettature di chiunque potrebbe fruirne: sia per quanto riguarda l’uso, sia per i significati che vengono attribuiti a quello spazio e che inevitabilmente lo costituiscono. Lo spazio pubblico è un luogo in cui è possibile il libero incontro con l’altro.

Davanti a Piano Terra, uno spazio occupato e autogestito dal 2012 in via Confalonieri a Isola, quartiere “ristorante” di Milano, si erge il famoso Bosco verticale. Il palazzo, costruito dall’archistar Stefano Boeri, è stato realizzato molto tempo dopo l’arrivo di Piano Terra e delle sue attività ed è ora fiancheggiato dagli uffici amministrativi di Google, anch’essi di recente costruzione. Come in molti altri progetti di riqualificazione urbana, insieme ai palazzi vengono costruite anche delle aree confinanti. Quella che da fuori potrebbe sembrare una piazza, sottostante al Bosco verticale, è in realtà uno spazio privato: lo annuncia in modo chiaro e particolarmente strano una targhetta incastonata nel pavimento, in cui si leggono, separate da una linea orizzontale, le parole “spazio pubblico” e “spazio privato”. Insomma, la strada e un pezzo di marciapiede sono considerati spazio pubblico ma oltre, verso il palazzo verticale, lo spazio diviene privato. Ciò significa che la piazza si può attraversare, ma è di proprietà degli inquilini e come tutto il complesso residenziale anche questa è sorvegliata. Stando a come abbiamo in precedenza definito lo spazio pubblico, quello sottostante al Bosco verticale non è considerabile tale.

Il grattacielo “più ecologico di Milano” è stato costruito dalla società immobiliare statunitense Hines guidata da Manfredi Catella ed è parte della fondazione Porta Nuova, una fondazione senza scopo di lucro con l’obiettivo di “ricucire, attraverso il potenziamento del centro direzionale, i quartieri di porta Nuova, porta Garibaldi e Isola”89. A distanza di quasi quindici anni dall’approvazione del progetto possiamo dire con tutta tranquillità che i quartieri sono sì stati uniti, ma gli spazi pubblici sono drasticamente diminuiti. Quella piazza è attraversabile, ma non è considerabile uno spazio pubblico a tutti gli effetti. Il processo di gentrificazione conseguente alla riqualificazione del quartiere di Porta Nuova e Isola ha poi attratto decine di ristoranti, pizzerie, bar, calcando ancor di più sul valore dello spazio privato orientato al consumo più che a quello pubblico. Al tempo il comitato di cittadini Isola Pepe Verde si era opposto al progetto, per via del modello di sviluppo urbano insostenibile che portava con sé, ma non c’è stato nulla da fare.

Considero le città affascinanti anche per un secondo motivo: da una parte sono una questione politica, sociale, culturale che rappresenta inevitabilmente il sistema capitalistico nella sua massima rappresentazione; dall’altra sono il laboratorio critico, progettuale e politico per immaginare e realizzare una nuova idea di città oltre il possibile e ciò che è ragionevolmente consentito dal pensiero dominante. Per questo motivo lo spazio pubblico della città va salvato a tutti i costi. Anche se è sempre più difficile è necessario diventi ancor più chiaro il netto contrasto tra luoghi in cui il pensiero critico e di opposizione si può riverberare, e i sempre più inglobanti spazi privati dettati da un unico e solo interesse consumistico.

Lo spazio pubblico non è un’infrastruttura di supporto alla produzione e alla circolazione di merci orientate al consumo. Non è nemmeno una targhetta attraverso la quale costruttori immobiliari e fondazioni che questi ultimi creano pretendono di definire secondo loro canoni. Lo spazio pubblico è, e dovrebbe ricominciare ad essere, un luogo di cura delle relazioni umane dove ciascuno può essere visto e sentito dagli altri per ciò che è e racconta. In questo la sorveglianza e il controllo capillare del territorio ha giocato e gioca tuttora un ruolo molto importante di repressione silente.

Tutti sorvegliano tutti

Gli occhi indiscreti della sorveglianza non sono più solo all’interno delle carceri, negli aeroporti e nelle stazioni ferroviarie.

Sono in tutte le tasche e in tutte le case, grazie alla presenza appunto onnipresente di smartphone, Internet delle cose (IoT), sistemi di domotica e sicurezza. Nelle mani di tutti, a esercitare quella che uno dei massimi esperti sul tema, l’ex professore di sociologia alla Queen’s University di Kingston David Lyon, definisce una sorveglianza orizzontalmente diffusa. Gli studi sulla sorveglianza di cui si è accennato in precedenza rompono i modelli che per decenni prima di quel momento avevano definito il concetto, le sue applicazioni e implicazioni, andando ben oltre il Panopticon benthamiano e il grande fratello di orwelliana memoria.

Non ci sono più, secondo Lyon, linee nette che separino una minoranza di sorveglianti dalla moltitudine di sorvegliati. Come scrive in La cultura della sorveglianza. Come la società del controllo ci ha reso tutti controllori90, la sorveglianza penetra in profondità negli “usi, costumi, abitudini e modalità di lettura e interpretazione del mondo”. La sorveglianza, secondo Lyon, è un problema culturale: è stato necessario rendere comune tra le persone quello che l’autore definisce immaginario della sorveglianza, ovvero ciò che spinge le persone a sentire in qualche modo l’esigenza di maggiore sicurezza e di trasparenza totale, dando scarsa importanza alle questioni di privacy e non solo. L’immaginario della sorveglianza è “un’interpretazione comune che rende possibile pratiche comuni e un senso di legittimazione diffuso”91. Un’interpretazione concreta del concetto di sorveglianza avviene poi, sempre secondo l’autore, attraverso le pratiche della sorveglianza, messe in atto sia da parte di singoli individui che da parte di enti che fondano la loro esistenza su un rapporto controllato-controllore. In concreto, se da una parte ci siamo ben poco interessati al modo in cui queste pratiche di sorveglianza vengono espletate in luoghi considerati al di fuori delle città, come per esempio il carcere, dall’altra parte alle persone sembra oggi normale poter utilizzare uno smartphone in tutti i modi possibili e immaginabili per perseguire obiettivi di sorveglianza diffusa considerati legittimi. Di questi periodi osservare gli altri tramite i social media, utilizzare applicazioni di tracciamento familiare, controllare l’ultimo accesso di qualcuno sulle app di messaggistica appare infatti del tutto naturale.

Ma che significa naturale, se non determinato da una specifica cultura che uno dei massimi teorici in questo settore definisce cultura della sorveglianza? Il concetto è semplice: la cultura della sorveglianza non comporta solo una sempre maggiore accettazione di misure di controllo costantemente più pervasive, come ad esempio il riconoscimento facciale nelle città, ma anche meccanismi di “autosorveglianza” tesi al mantenimento di un certo modo di vivere e di intendere la società. Sentiamo sempre di più l’esigenza di controllare, attraverso le nuove tecnologie a disposizione, le nostre performance fisiche o intellettuali ad esempio: sono ai polsi di molte persone orologi che rilevano il battito cardiaco, le ore di sonno giornaliere, quelle lavorate o i tempi del jogging, tutte azioni che esemplificano un tipo di sorveglianza che è stata definita luxury surveillance92.

Stando a quanto teorizzato da David Lyon tutto ciò va ben oltre alle precedenti teorizzazioni di Stato di sorveglianza e di società della sorveglianza. Questo perché oltre a quello che abbiamo potuto conoscere grazie alle rivelazioni del whistleblower americano Edward Snowden, il ruolo dello Stato come controllore non è incontrastato: insieme a enti pubblici ci sono enti privati, e gli apparati di sicurezza statali agiscono fianco a fianco alle aziende tech. Prima il cittadino era totalmente in balìa degli eventi, in quanto non controllore e non detentore di potere alcuno. L’abbandono, seppur in parte, della dicotomia che vede una divisione tra controllore e controllato porta Lyon a concettualizzare una società della sorveglianza all’interno della quale non siamo individui controllati ma anche controllori; non siamo solo soggetti al potere ma anche di potere che possono esercitare pratiche di sorveglianza a loro volta. Il citofono smart di Amazon, Ring, ne è un esempio abbastanza lampante: attraverso la sua videocamera incorporata riprende costantemente ciò che avviene davanti al portone di casa di chi lo installa, condividendo queste informazioni con Amazon, con le forze dell’ordine (grazie a una partnership Amazon US-polizia americana), noi, e infine anche coi vicini di casa. Sicurezza è il mantra che la multinazionale americana guidata da Jeff Bezos ha dichiarato essere alla base di questo e altri prodotti, ma la verità è che molti di noi ormai decidono di utilizzare strumenti di sorveglianza simili volontariamente, fornendo l’accesso alla nostra quotidianità a tanti attori diversi, sia pubblici che privati, sorvegliando a nostra volta tutto ciò che ci avviene intorno come voyeur.

A cascata, e con mezzi, capacità e obiettivi certamente differenti, la sorveglianza è dunque sempre più una pratica orizzontalmente diffusa e comune. Se però c’è un potere che se redistribuito non porta alla democratizzazione del potere in sé, questo è proprio quello della sorveglianza. Ciò al quale si assiste in una società caratterizzata da questo tipo di visione e che promuove la cultura della sorveglianza, è una riconfigurazione dei poteri molto meno spaventosa e che perde, almeno all’apparenza, i suoi tratti autoritari, ma che non fa altro che creare nuove gerarchie e nuove disuguaglianze. Nel libro Lyon guarda lucidamente al tema restituendo un concetto cardine della società della sorveglianza: questa è arrivata a noi, si è resa palese e “naturale” senza indossare “gli stivali della brutale repressione, ma i vestiti eleganti dell’efficienza hi-tech”.

Se la società della sorveglianza è diventata difficile da scardinare è sia perché la complessità di eventi, fenomeni e situazioni sociali porta molto spesso ad un’accettazione acritica che gli immaginari di sorveglianza propongono; sia perché non si guarda a una direzione alternativa, radicalmente diversa anche se concettualmente ma anche fattualmente così ovvia: utilizzare strumenti e mezzi per uno scopo che sia quanto più vicino al benessere della collettività e senza minare le libertà personali di ognuno. Per arrivare a questo punto però serve coscienza personale e coscienza collettiva, e un vero dibattito in merito alle trasformazioni che la società in cui abitiamo sta vivendo.

80 “In control society […] the key is no longer a signature or number but a code; codes are passwords, whereas disciplinary societies are ruled (when it comes to integration or resistance) by precepts. The digital language of control is made up of codes indicating whether access to some information should be allowed or denied. We’re no longer dealing with a duality of mass and individual. Individuals become “dividuals”, and masses become samples, data, markets, or “banks”. Deleuze, G., “Postscript on the Societies of Control”, apparso per la prima volta in L’Autre journal, no.1, 1990.

81 “The conquests of the market are made by grabbing control and no longer by disciplinary training, by fixing the exchange rate much more than by lowering costs, by transformation of the product more than by specialization of production. Corruption thereby gains a new power. Marketing has become the center or the “soul” of the corporation. We are taught that corporations have a soul, which is the most terrifying news in the world”, ibidem.

82 Abrahamsen, R., Hubert, D., Williams, C. M., “Guest Editors’ Introduction”. Security Dialogue, 2009.

83 Tecnologie dell’informazione e della comunicazione, ovvero i processi e le pratiche connesse alla trasmissione, ricezione ed elaborazione dei dati e delle informazioni.

84 Consultabile al link https://commission.europa.eu/eu-regional-and-urban-development/topics/cities-and-urban-development/city-initiatives/smart-cities_en

85 Zuboff, S., The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. London, Public Affairs, 2019, p. 75.

86 Consultabile al link http://www.rogerclarke.com.

87 Consultabile al link https://clusit.it/rapporto-clusit/

88 È un tipo di programma informatico che infetta il sistema nel quale viene inoculato, limitandone l’accesso all’utente. I ransomware sono solitamente “neutralizzati” nel momento in cui l’utente infettato paga il riscatto che gli viene chiesto dall’attaccante.

89 Progetto Porta Nuova, Wikipedia, consultabile al link https://it.wikipedia.org/wiki/Progetto_Porta_Nuova.

90 Lyon, D., La cultura della sorveglianza. Come la società del controllo ci ha reso tutti controllori. Roma, Luiss Press University, 2020 [ed. or. The Culture of Surveillance: Watching as a Way of Life. Cambridge, Polity, 2018].

91 Lyon, D.. La cultura della sorveglianza, cit.

92 Come descritto da Chris Gilliard e David Golumbia in un articolo apparso sul magazine Real life il 6 luglio 2021, la luxury surveillance è ricercata e pagata dalle stesse persone e finisce per tracciare, monitorare e quantificare alcune caratteristiche personali che l’utente considera importanti e dalle quali può trarre un beneficio. Esemplificativi sono gli Apple Watch, Amazon Halo, Fitbits, consultabile al link https://reallifemag.com/luxury-surveillance/.

DIRETTA DA MASSIMO COLASURDO

Quant è una nuova collana editoriale che pubblica non-
fiction e narrativa e si occupa di attualità con un focus su tecnologia e digitale.

Quant ha un significato duplice: da una parte il possibilismo che ci permette di agire, trovare soluzioni e creare linguaggi e forme nuove attraverso gli strumenti tecnologici e digitali, dall’altra le implicazioni di questo possibilismo e la rivelazione della realtà (tecnologica e digitale) che ci circonda fatta di cambiamenti, trasformazioni e adattamenti.

Quant è la sovrapposizione e l’entanglement (intreccio) di questo doppio, agendo simultaneamente, come nella teoria dei quanti.

TITOLI PUBBLICATI

Andrea D. Signorelli, Rivoluzione Artificiale

Gabriele Ferraresi, Cortocircuito

Flavio Pintarelli, Cronache della Metropoli

Douglas Rushkoff, Team Human

William Morris, Notizie da nessun luogo

Antonio Pavolini, Unframing

Viola Nicolucci, Game Hero

Marta F. Ottaviani, Brigate Russe

Francesco Pozzi, Digital Nudge