Kottbusser Tor, a Berlino, è diventato l’ultimo spazio pubblico in Germania a essere sottoposto a una videosorveglianza continua assistita dall’intelligenza artificiale. Dal 28 ottobre, 30 telecamere registrano le attività intorno alla trafficata rotatoria, mentre un software analizza i filmati in tempo reale alla ricerca di movimenti che potrebbero indicare atti criminali.
Quando il sistema identifica una scena potenzialmente sospetta, gli operatori umani dovrebbero esaminare l’allerta e possono inviare agenti di polizia a intervenire. La sorveglianza è stata avviata poco dopo una cerimonia inaugurale dedicata alla tecnologia, collocando Kottbusser Tor insieme a Mannheim e Amburgo tra i luoghi in cui viene testato il monitoraggio automatizzato dei comportamenti.
Il sistema opera in un’area caratterizzata da una forte presenza della polizia e da problemi sociali evidenti. Kottbusser Tor è da tempo classificato come luogo ad alta criminalità, consentendo controlli e perquisizioni senza un sospetto specifico. Nel 2023 è stato installato un commissariato sul posto e l’area è diventata una zona vietata ai coltelli lo scorso anno. Secondo quanto riferito, la polizia dedicava alla zona tra 3.500 e 7.000 ore di lavoro al mese.
Durante le osservazioni sul posto, scene ordinarie e caotiche si susseguivano continuamente: persone che dormivano su materassi, bevevano, litigavano, facevano uso di droghe e si radunavano vicino agli ingressi della metropolitana. Un breve confronto tra una persona in sedia a rotelle e una donna non ha portato a un intervento della polizia. In seguito gli agenti hanno lasciato il vicino commissariato, ma non si sono avvicinati alle persone coinvolte. Non è rimasto chiaro se le telecamere non avessero catturato l’incidente, se l’illuminazione o la portata delle telecamere avessero influito sulla registrazione, oppure se l’evento fosse stato giudicato innocuo dal software o da un operatore umano.
Le persone presenti nell’area non possono sapere se il software abbia interpretato il loro comportamento come sospetto o se possa seguire un’azione della polizia. Gli avvisi informano i visitatori della sorveglianza, ma sono relativamente piccoli e non dichiarano che i dati registrati possono essere utilizzati per addestrare il sistema.
La tecnologia cerca schemi presenti nel materiale di addestramento. Secondo una dichiarazione di Staige, il sistema è stato addestrato a Berlino utilizzando scene reali e generate dall’intelligenza artificiale che coinvolgevano scambi di colpi, calci, spinte o strattoni energici che provocano il contatto con il suolo e risse a terra. Il materiale promozionale dell’azienda include scene generate dall’intelligenza artificiale che il software identifica come violenza.
Il sistema è inoltre destinato ad apprendere dalle attività registrate a Kottbusser Tor. Una volta che gli esaminatori umani confermano o respingono un’allerta, gli schemi di movimento osservati possono essere utilizzati per un ulteriore addestramento, secondo un portavoce di Staige. I critici citati nel rapporto avvertono che gli schemi di movimento possono fungere da identificatori altamente personali, simili a un’impronta biometrica.
La sorveglianza ha suscitato preoccupazioni per il passaggio dall’indagine su reati sospetti alla generazione di sospetti a partire da attività ordinarie. Il rapporto descrive questo fenomeno come una forma di pre-sospetto che entra in conflitto con la presunzione di innocenza, poiché le persone vengono monitorate prima che si sia verificata una specifica violazione.
L’efficacia della sorveglianza comportamentale resta incerta. A Mannheim, secondo quanto riferito, la polizia non è riuscita a identificare in otto anni un caso in cui il sistema abbia impedito o risolto un reato. Le informazioni diffuse su una sperimentazione ad Amburgo indicavano 99 falsi allarmi per ogni risultato positivo.
Il sistema berlinese viene introdotto mentre politici e autorità di sicurezza promuovono una gamma più ampia di strumenti supportati dall’intelligenza artificiale. Tra questi figurano sistemi destinati ad analizzare i volti e confrontarli con le liste di controllo, ricerche di dati biometrici online e software progettati per collegare banche dati e creare profili delle persone.
Il quadro giuridico per utilizzare i dati al fine di addestrare tali sistemi, compresa la condivisione dei dati con i produttori, è stato approvato dalla coalizione di governo uscente di Berlino poco prima di Natale 2025. Il prossimo governo regionale deciderà come si svilupperanno questi poteri. I Verdi e la Sinistra hanno presentato un ricorso legale contro quella che descrivono come un’espansione eccessiva dei poteri della polizia, mentre l’amministrazione dell’interno guidata dall’SPD e la polizia di Berlino hanno già lanciato lo scanner comportamentale.
La senatrice all’Interno Iris Spranger ha dichiarato che quest’anno dovrebbero essere installate telecamere aggiuntive a Warschauer Brücke, presso il Municipio Rosso, all’amministrazione dell’interno e al Museo Ebraico. Tra gli altri luoghi previsti per il prossimo anno figurano Alexanderplatz e Görlitzer Park, insieme al quartiere circostante. La videosorveglianza occulta è inoltre consentita nei siti di infrastrutture critiche.
Kottbusser Tor viene utilizzato come sito di sperimentazione perché i suoi evidenti problemi sociali rendono l’opinione pubblica più ricettiva alle promesse di sicurezza tecnologica. Tuttavia, i residenti e i visitatori intervistati per il rapporto si sono chiesti se le telecamere avrebbero migliorato la situazione. La sorveglianza si svolge accanto a una sala per il consumo di droghe, a persone senzatetto e ad altre persone che vivono con dipendenze, povertà o condizioni abitative instabili.
Il risultato è un sistema di controllo in espansione, la cui efficacia resta poco chiara. A Kottbusser Tor, telecamere, potenti riflettori, infrastrutture della polizia e analisi automatizzata fanno ora parte della vita quotidiana, mentre le persone monitorate hanno poche possibilità di sapere come il loro comportamento viene interpretato.
Fonti: netzpolitik.org.