Sicuramente ha avuto un peso la cultura tradizionalmente progressista di San Francisco, ma la notizia è importante: San Francisco è la prima, importante, città degli Stati Uniti a vietare espressamente l'uso della tecnologia di riconoscimento facciale. In realtà la decisione dovrà essere confermata con un secondo voto, ma quasi sicuramente sarà una mera formalità. La decisione è stata presa recentemente dal Board of Supervisors di San Francisco, l'organo legislativo cittadino e dell'intera contea. Le motivazioni sono più che chiare: il Board vuole difendere la privacy dei cittadini da una tecnologia che considera sicuramente interessante e con un profilo di utilità, ma attualmente non ancora adeguata ad un utilizzo che non violi i diritti individuali determinando un abuso di potere di sorveglianza e di intrusione nella vita privata delle persone.

Rischio già ribadito da molteplici studi, compresa una indagine del MIT Media Lab, che dimostra come la facial recognition commetta significativi errori in particolare quando si tratta di donne e minoranze etniche. Gli algoritmi di facial ricognition hanno, ad oggi, gravi carenze che comportano errori sistematici, talvolta dovuti alla presenza di dati erronei nei processi di apprendimento automatico, con conseguenti probabili rischi per le persone. Alcuni esempi: la Metropolitan Police Britannica ha registrato, lo scorso anno, il 98% di errori. Il dato è emerso in seguito alla richiesta dell'associazione per le libertà civili Big Brother Watch di dismettere il sistema sia perchè inutile, sia perchè violerebbe l'articolo 8 dello Human Right Act del 1998 (che afferma che qualsiasi interferenza nella vita privata debba essere necessaria e proporzionata). Dato simile ha registrato la polizia Gallese nel 2017: in occasione della partita di Champions League tra Juventus e Real Madrid a Cardiff il sistema di risconoscimento facciale individuò ben 2470 possibili sospetti, sbagliandone però il riconoscimento nel 92% dei casi. 

L'eco della decisione della città di San Francisco ha comunque travalicato i confini e si è diffusa a livello nazionale, quindi anche in Europa, come decisione simbolo che indica un deciso stop in un percorso di integrazione di questa tecnologia nei meccanismi di sorveglianza. Oakland, Boston, Somerville e tutto il Massachussets hanno approvato recentemente norme simili. Nel frattempo è allo studio del Congresso nazonale una proposta di legge per impedire a chi usa a livello commerciale la facial ricognition di raccogliere e condividere dati in grado di identificare e seguire le abitudini dei consumatori senza il loro consenso esplicito.

Chi usa il riconoscimento facciale?
Il riconoscimento facciale è usato da moltissime autorità governative, grazie alla capacità di riconoscere i volti in video e foto, confrontandoli poi in tempo reale coi record contenuti in immense banche dati. Un sistema in voga sopratutto negli aereporti, oltre che per la sicurezza cittadina, ma che ormai si sta diffondendo in vari ambiti, sia pubblici che privati. Microsoft ad esempio ha introdotto Windows Hello, che permette agli utenti di Windows 10 di accedere al proprio PC sorridendo alla webcam: anche Apple, Samsung e Huawei usano il facial recognition come strumento di sblocco dei dispositivi, con la volontà palese di superare il sistema di pin e password in favore di sistemi di autenticazione biometrici. In Canada la facial recognition è usata nei casinò per individuare i soggetti affetti da ludopatia, negli USA alcuni fast food individuano i clienti in fila e suggeriscono un menù pittosto che un altro tenendo conto della profilazione del cliente, in Inghliterra la Polizia (con un notevole strascico di polemiche) ha ripreso i volti e usato il riconoscimento facciale per scansionare il volto di migliaia di personepartecipanti al carnevale di Notting Hill.

E' da specificare che la facial recongition non si limita a collegare un volto con informazioni già presenti online: i software sono ormai già in grado di riconoscere con precisione sesso, età e almeno 5 diversi stati d'animo di una persona. La proiezione d'utilizzo di queste capacità è un altissimo livello di personalizzazione del marketing: a breve non sarà più fantascientifico vedere prezzi personalizzati in base al compratore, ma anche aziende che scruteranno le reazioni dei clienti di fronte ad una pubblicità o ad un determinato prodotto, così come di un manifesto politico. Un livello di "analisi" della persona che va ben oltre quanto un soggetto possa aver legittimamente concesso riguardo l'uso dei propri dati personali.

Facebook e DeepFace / Google Facenet
Per approfondire l'uso che possono fare aziende private dei tratti del volto, vediamo in breve DeepFace. Questo è il programma, introdotto già nel 2014, che consente a Facebook di individuare una persona in foto o video comparandola con le foto del profilo. DeepFace si basa su una rete eurale per il deep learning con 9 strati di profondità che consentono di mettere in connessione milioni di parametri: ha un'accuratezza del 97.25%.

Nel 2015 è stata invece Google a introdurre il proprio algoritmo di riconoscimento facciale, ma fu un disastro: il sistema di riconoscimento facciale alla ricerca della parola gorilla, mostra le foto di ragazzi afroamericani, a ribadire che ancora vi sono gravi limiti tecnici.

L'Italia e il sistema SARI
In Italia nel 2018, è stato adottato dalla Polizia di Stato il sistema SARI, acronimo per Sistema Automatico per il Riconoscimento delle Immagini, basato proprio su tecnologie di riconoscimento facciale prodotti dall'azienda leccese Parsec 3.26. Il sistema permette di comparare le immagini riprese in dalle telecamere di sorveglianza con quelle contenute nella banca dati Afis: ne estrae quindi una lista ordinata di soggetti per grado di similarità. Sarà poi la Polizia Scientifica a provvedere alla comparazione fisionomica finale.

Il sistema è stato però accolto dalle polemiche: a partire dal fatto che il database Afis, contenente 16 milioni di immagini (1/4 della popolazione italiana), non spiega né come né quando sono state raccolte tutte queste immagini. Un problema ben diverso quindi dal legittimo e regolare sistema di archiviazione Ssa, dove sono catalogate le immagini e altri dati sensibili di soggetti pregiudicati. 

Sul problema della raccolta dei dati biometrici, un caso esempio: FaceApp

Riconoscimento facciale vs privacy
Il problema è chiaro a tutti: si tratta di trovare un equilibrio tra le esigenze di sicurezza e la tutela delle libertà fondamentali, privacy tra tutte. Il problema della riservatezza si affianca quindi alle difficoltà tecniche di tale sistema: la riservatezza infatti può essere compromessa da fenomeni di sospetto sociale, dalla prevenzione dei reati al controllo nei luoghi di lavoro ecc... insomma un rischio "Grande Fratello" che richiederà normative rigide che armonizzino le varie tendenze e, sopratutto, pongano un limite alla commercializzazione di dati altamente sensibili come quelli biometrici, che hanno la caratteristica precipua di essere univoci.

Il GDPR e il riconoscimento facciale
Il GDRP pone già dei limiti alla raccolta di dati biometrici, prevedendo la necessità di porre limiti che proteggano da intrusioni che potrebbero violare i diritti umani. L'art 9 comma 4 del GDPR prevede che i trattamenti relativi ai dati biometrici e genetici debbano sempre ricevere il concenso esplicito dell'Interessato, salvo specifici motivi di interesse pubblico, sanitari, di ricerca scientifica, storica o statistica.