Als der von Emmanuel Macron eingesetzte neue Premierminister Frankreichs, Michel Barnier, der Nationalversammlung seine ersten Regierungspläne vorstellte, lag der Fokus wie erwartet auf dem Staatshaushalt und dem Thema Migration. Scheinbar beiläufig erwähnte er jedoch auch einen nicht unbedeutenden Aspekt in Sachen öffentlicher Sicherheit und Polizeiarbeit: »Wir werden Methoden, die während der Olympischen und Paralympischen Spiele getestet wurden, zum Standard machen«, versprach Barnier.

Ich habe bereits für JACOBIN über die umstrittene algorithmusbasierte Videoüberwachung geschrieben, die Frankreich im Vorfeld der Olympischen Spiele eingeführt hatte. Es sollte sich eigentlich um einen Test bis März 2025 handeln und die Technologie nur bei großen Veranstaltungen wie eben Sportwettkämpfen und Konzerten eingesetzt werden. Fachleute im Bereich Überwachung und Menschenrechte warnten schon damals vor den einschneidenden und abschreckenden Auswirkungen, die eine solche Massenüberwachung gerade für das Äußern abweichender Meinungen und für friedliche Proteste haben kann.

»Man gewöhnt die Menschen in der fröhlichen, ›feierlich kapitalistischen‹ Stimmung der Olympischen Spiele daran. Und dann wird diese neue Technologie, die während der Spiele mit Verweis auf den Ausnahmezustand eingeführt wurde, zur Norm für die künftige Polizeiarbeit«, sagte damals Jules Boykoff, ein Politikwissenschaftler, der mehrere Bücher über die Olympischen Spiele veröffentlicht hat.

Wie auf Kommando begannen Macron-treue Politikerinnen und Politiker tatsächlich unmittelbar nach Ende der Spiele unablässig zu betonen, diese Technologie – die noch nicht unabhängig überprüft oder analysiert wurde – müsse unbedingt beibehalten werden.

Im September, weniger als zwei Wochen nach der Abschlussfeier der Paralympics, sprach sich der Pariser Polizeichef Laurent Nuñez für einen erweiterten Einsatz der Technologie aus. Der Nachrichtensender France Info berichtete unter Berufung auf eine Regierungsquelle, auch Barniers Innenminister wolle die Technologie dauerhaft einführen. Derzeit liegt ein Gesetzesentwurf der Barnier-Partei Les Républicains vor, der eine Verlängerung um zunächst drei Jahre vorsieht. Barnier ging in seiner Rede zwar nicht explizit auf das algorithmusbasierte Videoüberwachungstool ein, deutete implizit aber ebenfalls in diese Richtung.

Élisa Martin von La France Insoumise erklärte mir gegenüber telefonisch: »Die Regierung wird alles in ihrer Macht Stehende tun, um [die algorithmusbasierte Videoüberwachungstechnologie] fest zu verankern. Da sind wir uns absolut sicher.«

Neue Tools sind eine Blackbox

Während sich am 26. Juli Hunderte Boote mit Olympioniken an Bord während der verregneten Eröffnungsfeier, die von 25 Millionen Zuschauerinnen und Zuschauern weltweit verfolgt wurde, den Weg die Seine hinunter bahnten, passierte unter der Erde weniger Schönes: Auf den Bahnsteigen der Pariser Metro zeichneten fast 500 hochmoderne Überwachungskameras mithilfe eines KI-Tools namens CityVision das dortige menschliche Verhalten auf und analysierten es in Echtzeit. Die KI-basierte Technologie eines französischen Startup-Unternehmens wurde im gesamten U-Bahn-System der Hauptstadt eingesetzt.

Oberirdisch patrouillierten zeitgleich 45.000 Polizeibeamte und weitere 20.000 Soldatinnen und Soldaten in der Stadt. Geschätzte 53 Drohnen wurden in den ersten Tagen der Spiele von militärischen Anti-Drohnen-Einheiten abgeschossen.

»Es gibt zunehmend Anzeichen dafür, dass menschliche Vorurteile in solche Tools einfließen; die maschinellen Lernmodelle basieren auf Polizeidaten mit Bias.«

»Die Olympischen Spiele und insbesondere die Eröffnungsfeier an der Seine wurden der Welt als Sicherheits-Vorzeigeprojekt, als eine Art Security-Experiment, präsentiert«, so Noémie Levain, Rechtsexpertin bei La Quadrature du Net, einer NGO für digitale Rechte.

Nachdem die Nationalversammlung am 19. Mai 2023 ein umfassendes Olympiagesetz verabschiedet hatte, das unter anderem die Legalisierung von KI-gestützten Massenüberwachungstools beinhaltete, reichten französische Tech-Startups ihre jeweiligen Angebote ein. Im Januar 2024 wurden dann mehrere ausgewählt. Eines davon wurde in den Medien als eine französische Version von Palantir bezeichnet, dem Überwachungsunternehmen von Peter Thiel, das vor allem für sein diskriminierendes Tool bekannt ist, das unter anderem in Los Angeles eingesetzt wird (wo 2028 die nächsten Olympischen Sommerspiele stattfinden).

Kerngeschäft dieser Unternehmen sei »die Analyse menschlicher Körper« und ihrer Verhaltensweisen, erklärt Levain. »Die Idee ist, sie zu analysieren, zu klassifizieren und so Datenpunkte zu generieren.«

Das Tool soll offiziell »vorherbestimmt-geplante Ereignisse« wie einen Terroranschlag oder »ungewöhnliche Bewegungen in Menschenmengen« erfassen. Forscher befürchten jedoch, dass der verstärkte Einsatz von Algorithmen in der sogenannten prädiktiven Polizeiarbeit zu verschärfter Überwachung gewisser Gruppen führen wird, unter anderem, da die verwendeten Algorithmen auf rassistisch voreingenommenen Statistiken beruhen. »Es gibt zunehmend Anzeichen dafür, dass menschliche Vorurteile in solche Tools einfließen; die maschinellen Lernmodelle basieren auf Polizeidaten mit Bias«, schreibt beispielsweise Will Douglas Heaven in MIT Technology Review.

Im Fall Frankreichs ist wenig darüber bekannt, wie die Technologien tatsächlich funktionieren und zu welchem Zeitpunkt sie von der Polizei eingesetzt werden, so Yoann Nabat, Jurist und Dozent an der Universität Bordeaux: »Das ist eine absolute Blackbox.« Algorithmusbasierte Videoüberwachung solle eigentlich »nur eine Entscheidungshilfe sein«, fügt Nabat hinzu. »Sie soll die Person am Bildschirm auf etwas aufmerksam machen und ihr sagen: ›Achtung, an diesem Ort und zu dieser Zeit müssen wir aufpassen‹. Nun gibt es aber nur eine recht dünne Grenze zwischen Automatisierung und menschlicher Interaktion. Wir wissen, dass aufgrund mangelnder Ressourcen die Unterstützung bei der Entscheidungsfindung oft zur Entscheidung selbst wird.«

Vom Experiment zu vollendeten Tatsachen

Es wurde schon viel über die Schockdoktrin geschrieben – die Zeit, die oft auf eine (Natur-)Katastrophe folgt, in der sich Privatunternehmen auf die Übernahme öffentlicher Dienstleistungen stürzen. Laut Politikwissenschaftler Boykoff findet ein ähnlicher Prozess vor, während und nach Mega-Events wie den Olympischen Spielen statt. Auch Katia Roux von Amnesty International Frankreich beschreibt ein solches Phänomen: Es gebe »noch keine Bilanzen und Ergebnisse« bezüglich der bei den Olympischen Spielen eingesetzten Überwachungstools, doch man könne bereits »einen klaren politischen Willen erkennen, diese Technologie per Gesetz [dauerhaft] zu legalisieren. Die Olympischen Spiele waren nur der Anlass, um diesbezüglich einen Fuß in die Tür zu bekommen.«

»Eine kürzlich durchgeführte Umfrage ergab, dass 65 Prozent der Französinnen und Franzosen eine verstärkte Videoüberwachung im öffentlichen Raum befürworten.«

Elia Verdon, Mitglied der französischen Beobachtungsstelle für Überwachung und Demokratie, stimmt dieser Einschätzung zu: »Ich denke, wir müssen mit Experimentierphasen immer vorsichtig sein. Am Ende akzeptieren wir eine Technologie zu einem bestimmten Zeitpunkt als Reaktion auf eine potenzielle Bedrohung; und bei der nächsten potenziellen Bedrohung gehen sie dann noch weiter.«

Nachdem Barnier und Nuñez zunächst ihre Unterstützung für die neue Technologie ausgesprochen hatten, ruderten sie ein wenig zurück. Man müsse zunächst auf die Ergebnisse eines entsprechenden Regierungsberichts warten, der bis Ende des Jahres dem Parlament vorgelegt werden soll. Dennoch scheint die französische Öffentlichkeit bereits von der Rhetorik der Regierung beeinflusst worden zu sein: Eine kürzlich durchgeführte Umfrage ergab, dass 65 Prozent der Französinnen und Franzosen eine verstärkte Videoüberwachung im öffentlichen Raum befürworten.

»Wenn [ein Überwachungssystem] als erfolgreich erachtet wird, wird es ausgeweitet«, ist sich Levain von La Quadrature du Net sicher. »Und wenn nicht, wird man sagen, dass wir es eben anpassen und mehr damit experimentieren müssen. Es sind so viele Akteure beteiligt, so viel Geld, so viel Lobbyarbeit, dass man nicht einfach sagen wird: ›Na gut, dann machen wir es eben nicht‹.«

Angesichts einer zunehmend kompromisslosen Regierung, die offensichtlich restriktivere Maßnahmen ergreifen will, scheint es nur eine Frage der Zeit, bis die Armee privater Unternehmen in Macrons »Startup-Nation« weitere Angebote für weitere Überwachungstechnologie vorlegt.