In una società che si avvia ad aprire tutte le proprie porte all’intelligenza artificiale, la tutela della privacy diventa un tema significativo. Del resto, ne abbiamo già avuto un assaggio con la falsa partenza di ChatGPT, bloccato dal Garante per raccolta illecita di dati personali e assenza di sistemi per la verifica dell’età dei minori. Ma questo è soltanto il granello di un castello di sabbia estremamente più minaccioso, soprattutto in quelle parti del mondo dove la democrazia è soltanto un miraggio.
IL GRANDE FRATELLO CINESE
La Cina è sicuramente uno dei Paesi più “estremisti” nel campo. Senza alcuna remora, il governo cinese ha ormai tappezzato molte delle proprie città di telecamere per il riconoscimento biometrico, controllando ogni passo dei suoi cittadini. Queste telecamere si interfacciano con un algoritmo che collega i volti dei passanti con un database su cui sono raccolti tutti i dati personali della persona inquadrata. Questi possono anche essere inviati alle forze dell’ordine, qualora si tratti di un ricercato. Il problema è che sembra che la Cina utilizzi la tecnologia più che altro per controllare i movimenti dei dissidenti e delle minoranze, che non per garantire il rispetto della legge. E poi, sarebbe davvero molto più sicura una città in stile Grande Fratello? Oppure vivere in un ambiente in cui ci sentiamo (anzi, siamo) costantemente controllati minerebbe troppo la privacy e la libertà di movimento, portando alla società più malus che benefici? Per chi vi scrive, è assolutamente una domanda retorica.
Ma è indubbio che vi siano anche problematiche di natura tecnica. In primis per la vulnerabilità dei dati biometrici. Le impronte digitali, il nostro volto o l’iride sono unici e irripetibili, ma qualora finissero in mano ad hacker malintenzionati, potrebbero essere compromessi e, in quanto unici e irripetibili, sarebbe impossibile recuperarli così come si fa oggi con un PIN o una password. Analogamente, sono alti i rischi di falsificazione o clonazione dei dati biometrici, e questo potrebbe permettere ad altri di impersonare la nostra identità o di accedere ai nostri dispositivi protetti. Senza dimenticare la possibile insorgenza di falsi positivi: un pericolo sia nel caso delle forze dell’ordine, che potrebbero abusare impropriamente del proprio potere, che per l’accesso, ad esempio, a un servizio a cui si avrebbe diritto, ma che per un errore dell’algoritmo ci viene negato. Ostacoli difficilmente sormontabili, soprattutto se si affida l’ultima parola a un’intelligenza artificiale, che come tale è molto ferma sulle sue posizioni.
LA PROPOSTA EUROPEA
Partiamo con una buona notizia: difficilmente vivremo un Grande Fratello a cielo aperto anche in Europa. Tuttavia c’è un “ma” che non permette di dormire sonni pienamente tranquilli. La scorsa settimana abbiamo intervistato Brando Benifei, capo delegazione del Partito Democratico al Parlamento europeo e co-relatore dell’AI Act, il Regolamento UE sull’intelligenza artificiale (per recuperare l’intervista CLICCA QUI). Ebbene, la posizione del Parlamento europeo è molto chiara: il testo prevede il divieto di alcune pratiche considerate pericolose, come il riconoscimento biometrico in tempo reale negli spazi pubblici, il riconoscimento emotivo nei luoghi di lavoro, nelle scuole e nei contesti migratori, nonché l’uso della polizia predittiva per prevenire crimini. Ma è, appunto, solamente la posizione del Parlamento europeo, notoriamente la più “ambiziosa” ma anche la più “debole” al trilogo, quando il compromesso tra le tre diverse istituzioni comunitarie sfocia nella legge vera e propria. L’onorevole Benifei ci ha già anticipato che soprattutto il Consiglio, ovvero l’ente costituito dai governi dei Paesi membri, e che quindi ha al suo interno sensibilità molto diverse, vorrebbe avere maggiore margine di manovra, strizzando l’occhio all’idea di sorveglianza di massa che abbiamo visto in precedenza. Al momento è impossibile fare previsioni, ma la certezza è che l’iter legislativo si concluderà entro la fine dell’anno, con il Regolamento che entrerà in vigore nel 2024.
LA POLIZIA PREDITTIVA
Nel paragrafo precedente abbiamo accennato alla polizia predittiva. Come anticipa il nome, si tratta di sistemi che dovrebbero prevedere un reato prima che si verifichi attraverso l’uso di sistemi decisionali automatizzati e di algoritmi di machine learning. Al momento i risultati sono disastrosi ma, a dispetto del possibile stop che potrebbe arrivare dal Regolamento europeo, molti Paesi continuano a sviluppare questa tipologia di software. In questo elenco figura anche l’Italia, che ha da poco annunciato la nascita di Giove: dalle prime informazioni è emerso che il sistema è in grado di analizzare i dati in possesso delle forze dell’ordine e di fornire suggerimenti su come distribuire il lavoro degli agenti a disposizione, e dovrebbe entrare presto in dotazione in tutte le stazioni di polizia.
Gli esperimenti andati in scena negli Stati Uniti hanno, però, evidenziato i grandi limiti della tecnologia. In primis per ragioni discriminatorie: una profilazione basata su caratteristiche demografiche, socio-economiche o geografiche rischia di ghettizzare impropriamente determinate aree. Gli stessi dati storici utilizzati per addestrare gli algoritmi potrebbero contenere pregiudizi, innescando un pericolosissimo circolo vizioso che porterebbe alcuni quartieri ad essere sorvegliati più intensamente, provocando, quindi, statisticamente un maggior numero di arresti e alimentando ulteriormente la percezione che quelle comunità siano più criminali. Cadrebbe, anche, un principio cardine della giurisdizione europea, ovvero la presunzione d’innocenza, visto che la polizia predittiva mira ad anticipare un crimine che non è ancora stato commesso. E infine richiederebbe anche l’accesso a tutta una serie di dati personali che minerebbero enormemente la privacy della cittadinanza.
CONCLUSIONI
George Orwell lo profetizzava alla fine degli anni ’40, con 1984. La distopia messa in scena nel suo capolavoro letterario deve servire da monito per guidare l’evoluzione delle intelligenze artificiali in modo etico, non trascurando lo sviluppo tecnologico ma garantendo il rispetto della nostra privacy. Un valore individuale fondamentale a cui personalmente non sono disposto a rinunciare.
