Kottbusser Tor, à Berlin, est devenu le dernier espace public d’Allemagne à faire l’objet d’une vidéosurveillance continue assistée par l’IA. Depuis le 28 octobre, 30 caméras enregistrent l’activité autour du rond-point très fréquenté, tandis qu’un logiciel analyse les images en temps réel à la recherche de mouvements pouvant indiquer des actes criminels.
Lorsque le système identifie une scène potentiellement suspecte, des opérateurs humains sont censés examiner l’alerte et peuvent envoyer des policiers intervenir. La surveillance a été lancée peu après une cérémonie d’inauguration de la technologie, plaçant Kottbusser Tor aux côtés de Mannheim et de Hambourg parmi les lieux où la surveillance comportementale automatisée est testée.
Le système fonctionne dans une zone marquée par une forte présence policière et des problèmes sociaux visibles. Kottbusser Tor est depuis longtemps classé comme un lieu à forte criminalité, ce qui autorise des contrôles et des fouilles sans qu’il existe de soupçon précis. Un commissariat a été installé sur place en 2023, et la zone est devenue une zone sans couteaux l’année dernière. Selon certaines informations, la police consacrerait entre 3 500 et 7 000 heures de travail par mois à ce lieu.
Lors d’observations sur place, des scènes ordinaires et chaotiques se sont déroulées sans interruption : des personnes dormant sur des matelas, buvant, se disputant, consommant des drogues et se rassemblant près des entrées du métro. Une brève confrontation impliquant une personne en fauteuil roulant et une femme n’a pas donné lieu à une intervention policière. Des agents ont ensuite quitté le commissariat voisin, mais ne se sont pas approchés des personnes concernées. Il n’est pas resté clair si les caméras n’avaient pas réussi à enregistrer l’incident, si l’éclairage ou la portée des caméras avait affecté l’enregistrement, ou si l’événement avait été considéré comme inoffensif par le logiciel ou par un opérateur humain.
Les personnes présentes dans la zone ne peuvent pas savoir si le logiciel a interprété leur comportement comme suspect ni si une intervention policière pourrait s’ensuivre. Des panneaux informent les visiteurs de la surveillance, mais ils sont relativement petits et n’indiquent pas que les données enregistrées peuvent être utilisées pour entraîner le système.
La technologie recherche des schémas présents dans les données d’entraînement. Selon une déclaration de Staige, le système a été entraîné à Berlin à l’aide de scènes réelles et générées par l’IA montrant des échanges de coups, des coups de pied, des poussées ou des tractions énergiques entraînant un contact avec le sol, ainsi que des bagarres au sol. Le matériel promotionnel de l’entreprise comprend des scènes générées par l’IA que le logiciel identifie comme des actes de violence.
Le système est également censé apprendre à partir de l’activité enregistrée à Kottbusser Tor. Une fois que des vérificateurs humains ont confirmé ou rejeté une alerte, les schémas de mouvement observés peuvent être utilisés pour poursuivre l’entraînement, selon un porte-parole de Staige. Les détracteurs cités dans le rapport avertissent que les schémas de mouvement peuvent servir d’identifiants très personnels, comparables à une empreinte biométrique.
La surveillance a suscité des inquiétudes concernant le passage d’une enquête sur des infractions présumées à la production de soupçons à partir d’activités ordinaires. Le rapport décrit cette pratique comme une forme de présomption préalable qui entre en conflit avec la présomption d’innocence, puisque les personnes sont surveillées avant qu’une infraction précise ne se soit produite.
L’efficacité de la surveillance comportementale demeure incertaine. À Mannheim, la police aurait été incapable d’identifier, sur une période de huit ans, un cas dans lequel le système aurait empêché ou résolu un crime. Les informations publiées au sujet d’un essai à Hambourg faisaient état de 99 fausses alertes pour chaque résultat positif.
Le système berlinois est introduit alors que les responsables politiques et les autorités de sécurité promeuvent un éventail plus large d’outils assistés par l’IA. Ceux-ci comprennent des systèmes destinés à analyser les visages et à les comparer à des listes de surveillance, des recherches de données biométriques en ligne, ainsi que des logiciels conçus pour relier des bases de données et créer des profils de personnes.
Le cadre juridique permettant d’utiliser des données pour entraîner de tels systèmes, notamment de partager des données avec les fabricants, a été approuvé par la coalition gouvernementale sortante de Berlin peu avant Noël 2025. Le prochain gouvernement régional décidera de l’évolution de ces pouvoirs. Les Verts et Die Linke ont engagé un recours juridique contre ce qu’ils décrivent comme une extension excessive des pouvoirs de la police, tandis que l’administration de l’Intérieur dirigée par le SPD et la police berlinoise ont déjà lancé le scanner comportemental.
La sénatrice chargée de l’Intérieur, Iris Spranger, a déclaré que des caméras supplémentaires devraient être installées cette année au pont de Warschauer, à l’hôtel de ville rouge, dans les locaux de l’administration de l’Intérieur et au musée juif. Parmi les autres lieux prévus pour l’année prochaine figurent Alexanderplatz ainsi que Görlitzer Park et le quartier environnant. La vidéosurveillance dissimulée est également autorisée sur les sites d’infrastructures critiques.
Kottbusser Tor est utilisé comme site d’essai parce que ses problèmes sociaux visibles rendent le public plus réceptif aux promesses de sécurité technologique. Pourtant, les habitants et les visiteurs interrogés pour le rapport se sont demandé si les caméras amélioreraient les conditions. La surveillance se déroule à proximité d’une salle de consommation de drogues, de personnes sans domicile et d’autres personnes confrontées à la dépendance, à la pauvreté ou à un logement instable.
Il en résulte un système de contrôle qui s’étend, sans que son succès soit établi. À Kottbusser Tor, les caméras, les projecteurs puissants, les infrastructures policières et l’analyse automatisée font désormais partie de la vie quotidienne, tandis que les personnes surveillées disposent de peu de moyens pour savoir comment leur comportement est interprété.
Sources: netzpolitik.org.