transformeurope1

wandkalender2024

Ein Quäntchen Regulierung

O’Shea

Lizzie O’Shea ist Juristin, Rundfunksprecherin und Autorin von <i>Future Histories: What Ada Lovelace, Tom Paine, and the Paris Commune Can Teach Us About Digital Technology</i>.

Im April 2021 – in der Debatte über Nutzen und Gefahren von künstlicher Intelligenz also vor einer gefühlten Ewigkeit – legte die Europäische Kommission einen 108-seitigen Vorschlag zur Regulierung von KI vor. Drei Jahre später, im März 2024, stimmte das Europäische Parlament zu und der Vorschlag wurde zum Gesetz. Es war die weltweit erste umfassende Regulierung der umstrittenen Technologie.

Das Herzstück dieses speziellen Regelwerks ist der sogenannte risikobasierte Ansatz: Der Grad der Regulierung richtet sich nach dem Risiko, das das System für die Sicherheit oder die Grundrechte der Menschen darstellen kann. Bei einigen Arten von KI-Systemen wird das Risiko als inakzeptabel hoch eingestuft, sodass es praktisch verboten ist, sie in der EU zu verwenden oder zu verkaufen. Zu dieser Kategorie gehören sozialpolitische »Scoring«-Systeme und einige Formen biometrischer Identifikationstechnologien wie beispielsweise Gesichtserkennung. 

Im Rahmen der Vorgaben gelten für Systeme mit hohem Risiko also strenge Verpflichtungen für Bewertung und laufende Überwachung, während Systeme, die als weniger risikoreich eingestuft werden, einer deutlich weniger strengen Regulierung unterliegen. Als Beispiele für Systeme mit geringem oder ganz ohne Risiko nennt die Europäische Kommission Spam-Filter und KI-unterstützte Videospiele. Sie stellt außerdem fest, dass die meisten der derzeit in Europa verwendeten KI-Systeme in diese letztere Kategorie fallen dürften.

Die Frage, welche Technologie in welche Risikostufe gehört, ist allerdings ein immer wiederkehrender Streitpunkt. Beispielsweise waren die Mitgliedstaaten im Europäischen Rat federführend bei der Aufnahme einer »zusätzlichen Ebene« in den Prozess. Diese ermöglicht es gewissermaßen den Entwicklern, die Risiko-Bewertung selbst vorzunehmen. In der letztendlich erzielten Einigung gibt es nun eine Liste von Systemen mit hohem Risiko, die stets ergänzt werden kann, aber auch eine Option, die es Unternehmen ermöglicht, Apps und Anwendungen herauszufiltern, die sie selbst als nicht hochriskant betrachten.

Schlimmer noch: Der Europäische Rat hat erfolgreich einen pauschalen Ausschluss von KI-Systemen ausgehandelt, die vom Militär verwendet werden. Hinzu kommen diverse Ausnahmen für die Anwendung in den Bereichen Migration und Strafverfolgung. Wie mehrere Menschenrechtsorganisationen kritisieren, führt der Einsatz solcher Technologien zu einer Situation, in der »die Systeme unverhältnismäßig stark auf bereits marginalisierte Gruppen abzielen, juristische und Verfahrensrechte untergraben und zur Massenüberwachung beitragen«. 

»Die Industrie behauptet routinemäßig, aufgrund der Regulierungslast sei sie nicht in der Lage, das Potenzial des digitalen Zeitalters voll auszuschöpfen.«

Sie warnen weiter, es gebe einen eindeutigen Zusammenhang zwischen Technologie, die bei Menschen eingesetzt wird, die »unterwegs« sind – also bei Personen, die Grenzen überschreiten oder einen unsicheren Einwanderungsstatus haben – und der anschließenden Einführung solcher Instrumente im großen Stil. Grenzen sind die Orte, an denen solche übergriffigen und bedenklichen Technologien als erstes erprobt werden. Dazu gehören prädiktive Analysen, diskriminierende Profilerstellung und pseudowissenschaftliche Tools zur angeblichen Bewertung von Gefühlszuständen. Denn hier, an den Grenzen, haben es die Menschen schwerer, sich zu wehren. Wurden die Produkte einmal getestet und weiterentwickelt, werden dann neue Absatzmärkte für sie gesucht und gefunden. 

Die Staaten im Europäischen Rat haben auch noch weitere Ausnahmeregelungen hinzugefügt. So wurde im ersten Gesetzesentwurf bereits eindeutig festgehalten, dass KI, die im Bereich nationale Sicherheit eingesetzt wird, nicht in den Anwendungsbereich der Verordnung fällt.

In gewisser Weise ist der risikobasierte Ansatz mit dem Aufkommen von allgemeinen KI-Tools wie ChatGPT und anderen Large-Language-Modellen bereits auf den Kopf gestellt worden. Schließlich können diese auf unterschiedlichste Weise eingesetzt werden, sowohl mit hohem als auch mit niedrigem Risiko. Die politischen Entscheidungsträger, die an der europäischen KI-Verordnung arbeiten, haben sich zunächst dafür entschieden, diese sogenannten Basismodelle als hochriskant einzustufen. Der Ansatz blieb jedoch nicht ohne Folgen: Er drohte sogar, den gesamten Regulierungsvorstoß zu gefährden, da Frankreich, Italien und Deutschland auf den Druck ihrer heimischen Industrie reagierten und sich den von der EU-Kommission vorgeschlagenen Regeln widersetzten. 

Die europäischen KI-Unternehmen waren der Ansicht, dieses Ausmaß an Regulierung würde sie zu stark einschränken und die Wettbewerbsfähigkeit gegenüber der US-amerikanischen und chinesischen Konkurrenz beeinträchtigen. Das Endergebnis war daher wenig beeindruckend: Es gab Transparenzverpflichtungen für die meisten allgemeinen KI-Systeme – und für Systeme mit höherem Risiko eine Art »obligatorische Selbstregulierung«. Darüber hinaus bleiben viele Details, die per Umsetzungsgesetzen, Standards und Ernennung zuständiger Behörden geregelt werden müssen, weiterhin im Dunkeln und werden hinter verschlossenen Türen ausdiskutiert.

In der Debatte über KI-Regulierung wird oftmals Innovation gegen Sicherheit ausgespielt. Die Industrie behauptet routinemäßig, aufgrund der Regulierungslast sei sie nicht in der Lage, das Potenzial des digitalen Zeitalters voll auszuschöpfen. In diesem Zusammenhang spricht tatsächlich einiges dafür, die Regulierung von KI strikt durch die Risiko-Brille zu betrachten. Denn so erkennt man an, dass es gewisse digitale Tools gibt, die schlichtweg inakzeptabel sind, selbst wenn sie innovativ sein mögen. 

»Diese technologischen Systeme privatisieren Gewinne, aber sozialisieren Verluste auf diffuse und komplexe Weise.«

Inmitten der hektischen und reißerischen Diskussionen über die Vorzüge und Wunder der KI kann es derweil schwierig sein, aufzustehen und Nein zu sagen. Die jüngste Bletchley-Erklärung, die von 27 Ländern unterzeichnet wurde, warnt beispielsweise vor einem »Potenzial für schwerwiegende, sogar katastrophale Schäden«. Allerdings sagt sie nichts darüber aus, ob die KI-Entwicklung deswegen einfach gestoppt werden sollte, und spricht auch kaum über mögliche Regulierung. Dem in der Erklärung formulierten Bekenntnis zur Sicherheit kann man wohl kaum widersprechen. Wie dies in der Praxis aussehen soll, bleibt jedoch offen.

Der Prozess der Ausarbeitung und Umsetzung der EU-Verordnung (in einem Umfeld, in dem Staaten und die Industrie nach wie vor weitaus mehr Einfluss nehmen können als die gewählten Vertreterinnen und Vertreter im Parlament) wirft umfassendere Fragen zur KI-Regulierung auf. Amnesty International weist auf die Problematik hin, dass »der Einsatz von KI in den Bereichen Polizei, Sicherheit und Migration den Einfluss des privatwirtschaftlichen Sektors auf zentrale Aspekte der öffentlichen Regierungsführung verstärkt«. Dadurch werden sowohl demokratische Prozesse als auch die staatlichen Institutionen untergraben. Neben dem Mangel an Transparenz, der der EU-Gesetzgebung innewohnt, sind dabei vor allem grundlegende Menschenrechte gefährdet.

Darüber hinaus dient die riesige Panik über das bevorstehende »Ende der Menschheit«, die durch künstliche Intelligenz ersetzt zu werden drohe, als bequeme Ablenkung davon, wie KI bereits jetzt von Regierungen und Unternehmen auf schädliche Weise eingesetzt wird. Allzu oft wird angenommen, dass KI derzeit unreguliert sei. Tatsächlich gibt es in ganz Europa aber eine Reihe bestehender Gesetze, die angewandt werden könnten, um die Entwicklung der Technologie so zu gestalten, dass das allgemeine Wohl der Bevölkerung im Vordergrund steht – und nicht das Erzielen höherer Profite.

Das grundlegende strukturelle Problem bleibt bestehen: Diese technologischen Systeme privatisieren Gewinne, aber sozialisieren Verluste auf diffuse und komplexe Weise. Angesichts einer gut gerüsteten Industrie, die in der Lage ist, sich von sozialer und juristischer Verantwortung freizukaufen, wird die Aufgabe, sich gegen KI-Systeme zu wehren und Schaden durch sie abzuwenden, einmal mehr Bewegungen für soziale Gerechtigkeit zufallen.

Ein Quäntchen Regulierung

Dieser Artikel ist nur mit Abo zugänglich. Logge Dich ein oder bestelle ein Abo.

Lizzie O’Shea ist Juristin, Rundfunksprecherin und Autorin von Future Histories: What Ada Lovelace, Tom Paine, and the Paris Commune Can Teach Us About Digital Technology.