niewiederkrieg-large

meuterei-large

Wird die Menschheit KI überleben?

Lovely

Garrison Lovely ist freiberuflicher Autor aus New York und hostet den Podcast The Most Interesting People I Know.

Für Google-Mitbegründer Larry Page ist superintelligente KI »nur der nächste Schritt der Evolution«. Tatsächlich hat Page, der rund 120 Milliarden Dollar schwer ist, Berichten zufolge behauptet, Bemühungen, eine durch KI verursachte Auslöschung der Menschheit zu verhindern und das menschliche Bewusstsein zu beschützen, seien »speziesistisch« und »sentimentaler Nonsens«.

Im Juli vergangenen Jahres sagte der frühere leitende Wissenschaftler von Google DeepMind, Richard Sutton – einer der Pioniere des Reinforcement Learning, einem wichtigen Teilbereich der KI –, dass die Technologie »unsere Existenz verdrängen könnte« und dass »wir uns der Nachfolge nicht widersetzen sollten«. In einem 2015 gehaltenen Vortrag sagte Sutton, angenommen »alles scheitert« und die KI »tötet uns alle« – und fragte: »Ist es so schlimm, dass der Mensch nicht die endgültige Form intelligenten Lebens im Universum ist?« 

»Das biologische Aussterben ist nicht der Punkt«, sagte mir der 66-jährige Sutton. »Das Licht der Menschheit und unser Verstand, unsere Intelligenz – unser Bewusstsein, wenn man so will – kann auch ohne Fleischmenschen weiterleben.«

Yoshua Bengio, 59, ist der am zweithäufigsten zitierte lebende Wissenschaftler, bekannt für seine grundlegenden Arbeiten zum Deep Learning. In Bezug auf Page und Sutton sagte Bengio: »Was sie wollen, ist meiner Meinung nach ein Spiel mit der Zukunft der Menschheit. Ich persönlich finde, das sollte unter Strafe gestellt werden.« Etwas überrascht fragte ich ihn, was genau verboten werden sollte, und er antwortete, dass Bemühungen um »KI-Systeme, die uns überlegen sein könnten und von vornherein ihr eigenes Interesse haben«, verboten werden sollten. Im Mai 2023 begann Bengio, darüber zu schreiben und zu sprechen, wie fortgeschrittene KI-Systeme abtrünnig werden und ein Risiko für die Auslöschung der Menschheit darstellen könnten.

Bengio vertritt die Ansicht, dass zukünftige, wirklich menschenähnliche KI-Systeme ihre eigenen Fähigkeiten verbessern und so funktional eine neue, intelligentere Spezies schaffen könnten. Die Menschheit hat Hunderte von anderen Spezies zum Aussterben gebracht, größtenteils aus Versehen. Er befürchtet, dass wir selbst die nächsten sein könnten – und er ist nicht der Einzige.

Bengio teilte sich den Turing Award 2018, eine Art Nobelpreis für Informatik, mit seinen Kollegen, den Deep-Learning-Pionieren Yann LeCun und Geoffrey Hinton. Hinton, der meistzitierte lebende Wissenschaftler, sorgte im Mai für Aufsehen, als er von seiner leitenden Position bei Google zurücktrat, um sich freier über die Möglichkeit zu äußern, dass künftige KI-Systeme die Menschheit auslöschen könnten. Hinton und Bengio sind die beiden prominentesten KI-Forscher, die sich der »X-Risk«-Community (kurz für »existenzielles Risiko«) angeschlossen haben. Diese lose Gruppe, die manchmal auch als KI-Sicherheits-Verfechter oder Weltuntergangspropheten bezeichnet wird, befürchtet, dass KI ein existenzielles Risiko für die Menschheit darstellt.

Im selben Monat, in dem Hinton von Google zurücktrat, unterzeichneten Hunderte von KI-Forschenden und namhaften Persönlichkeiten einen offenen Brief, in dem es heißt: »Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen Risiken von gesellschaftlichem Ausmaß wie Pandemien und Atomkrieg eine globale Priorität sein.« Hinton und Bengio waren die Hauptunterzeichner, gefolgt von Sam Altman, dem Geschäftsführer von OpenAI, und weiteren führenden Vertretern anderer KI-Labore.

 »Glücklicherweise ist es schwer, Biowaffen herzustellen. Aber das könnte sich bald ändern.«

Hinton und Bengio waren auch die ersten Autoren eines Positionspapiers aus dem Oktober 2023, in dem sie vor der Gefahr eines »irreversiblen Verlusts der menschlichen Kontrolle über autonome KI-Systeme« warnten, zusammen mit berühmten öffentlichen Intellektuellen wie dem Nobelpreisträger Daniel Kahneman und dem Autor von Sapiens, Yuval Noah Harari.

LeCun, verantwortlich für KI beim Facebook-Mutterkonzern Meta, stimmt zu, dass eine KI auf menschlichem Niveau bevorsteht, sagte aber in einer öffentlichen Debatte gegen Bengio über das Aussterben durch KI: »Wenn sie gefährlich ist, dann werden wir sie nicht bauen.«

Deep Learning treibt die weltweit fortgeschrittensten KI-Systeme an, vom Proteinfaltungsmodell von DeepMind bis hin zu Large Language Models (LLMs) wie ChatGPT von OpenAI. Niemand versteht wirklich, wie Deep-Learning-Systeme funktionieren, aber ihre Leistung hat sich dennoch kontinuierlich verbessert. Diese Systeme sind nicht konzipiert, um nach einer Reihe wohlverstandener Prinzipien zu funktionieren, sondern werden stattdessen »trainiert«, um Muster in großen Datensätzen zu analysieren, woraus sich ein komplexes Verhalten – wie das Sprachverstehen – ergibt. Der KI-Entwickler Connor Leahy sagte zu mir: »Es ist eher so, als würden wir etwas in einer Petrischale herumstochern«, als ein Stück Code zu schreiben. In dem Positionspapier vom Oktober wird gewarnt, dass »derzeit niemand weiß, wie man das Verhalten von KI zuverlässig an komplexen Werten ausrichten kann«.

Trotz all dieser Unwägbarkeiten sehen sich die KI-Unternehmen in einem Wettlauf, diese Systeme so mächtig wie möglich zu machen – ohne einen gangbaren Plan, um zu verstehen, wie die Dinge, die sie schaffen, tatsächlich funktionieren, während sie bei der Sicherheit an allen Ecken und Enden sparen, um mehr Marktanteile zu gewinnen. Artificial General Intelligence (AGI) ist der heilige Gral, auf den führende KI-Labore explizit hinarbeiten. AGI wird oft als ein System definiert, das in fast jeder intellektuellen Aufgabe mindestens so gut wie ein Mensch sein soll. Das ist auch genau das, wovon Bengio und Hinton glauben, dass es zum Ende der Menschheit führen könnte. 

Bizarrerweise glauben viele der Menschen, die aktiv an der Weiterentwicklung der Fähigkeiten von KI beteiligt sind, dass dies mit einiger Wahrscheinlichkeit die Apokalypse herbeiführen wird. Eine Umfrage unter Forschenden im Bereich des maschinellen Lernens aus dem Jahr 2022 ergab, dass fast die Hälfte von ihnen mit einer Wahrscheinlichkeit von mindestens 10 Prozent erwarten, dass fortgeschrittene KI zum »Aussterben der Menschheit oder einer ähnlich dauerhaften und schwerwiegenden Entmachtung« führen könnte. Nur wenige Monate vor der Gründung von OpenAI sagte Altman: »KI wird höchstwahrscheinlich zum Ende der Welt führen, aber in der Zwischenzeit wird es großartige Unternehmen geben.«

Die öffentliche Meinung über KI hat sich insbesondere in dem Jahr verschlechtert, als ChatGPT veröffentlicht wurde. In sämtlichen Umfragen, mit einer Ausnahme, aus dem Jahr 2023, waren deutlich mehr US-Amerikanerinnen und -Amerikaner der Meinung, dass KI eine existenzielle Bedrohung für die Menschheit darstellen könnte. In den seltenen Meinungsumfragen, in denen die Bevölkerung gefragt wurde, ob sie eine KI auf menschlichem Niveau oder darüber hinaus wollen, lehnte eine deutliche Mehrheit in den USA und in Großbritannien dies ab. 

Bisher haben Sozialistinnen und Sozialisten, wenn sie zum Thema KI etwas zu sagen hatten, meistens auf die KI-bedingte Diskriminierung hingewiesen oder vor den potenziell negativen Auswirkungen der Automatisierung in einer Welt mit schwachen Gewerkschaften und mächtigen Kapitalisten gewarnt. Doch die Linke hat sich bisher auffallend ruhig verhalten, wenn es um Hintons und Bengios Alptraumszenario geht – dass fortgeschrittene KI uns alle umbringen könnte.

Während sich viel Aufmerksamkeit der X-Risk-Community auf die Vorstellung richtet, dass die Menschheit irgendwann die Kontrolle über die KI verlieren könnte, sind viele außerdem besorgt darüber, dass auch weniger fähige Systeme schon innerhalb sehr kurzer Zeit böswillige Akteure ermächtigen könnten. Glücklicherweise ist es schwer, Biowaffen herzustellen. Aber das könnte sich bald ändern.

Anthropic, ein führendes KI-Labor, das von den ehemaligen OpenAI-Mitarbeitenden Dario und Daniela Amodei gegründet wurde, arbeitete kürzlich mit Fachleuten für Biosicherheit zusammen, um herauszufinden, wie sehr ein LLM einem angehenden Bioterroristen helfen könnte. Bei seiner Aussage vor einem Ausschuss des US-Senats im Juli berichtete Dario Amodei, CEO von Anthropic, dass bestimmte Schritte bei der Herstellung von Biowaffen nicht in Lehrbüchern oder Suchmaschinen zu finden seien, dass aber »die heutigen KI-Tools einige dieser Schritte ausfüllen können, wenn auch unvollständig«, und dass »eine einfache Extrapolation der heutigen Systeme auf die Systeme, die wir in zwei bis drei Jahren erwarten, auf ein erhebliches Risiko schließen lässt, dass KI-Systeme in der Lage sein werden, alle fehlenden Teile zu ergänzen.«

Im Oktober berichtete die populärwissenschaftliche Wochenzeitschrift New Scientist, dass die Ukraine zum ersten Mal Lethal Autonomous Weapons (LAWs), also buchstäblich Killerroboter, auf dem Schlachtfeld eingesetzt hat. Die USA, China und Israel entwickeln ihre eigenen LAWs. Russland hat sich den USA und Israel angeschlossen und lehnt ein neues internationales Gesetz über LAWs ab.

Allerdings schlägt der weiter greifenden Idee, dass KI ein existenzielles Risiko darstellt, viel Kritik entgegen. Der aufgewühlte KI-Diskurs ist in der Folge schwer zu durchdringen: Gleichermaßen qualifizierte Personen stellen gegenteilige Behauptungen darüber auf, ob das existenzielle Risiko durch KI real ist, und Risikokapitalgeber unterzeichnen offene Briefe mit progressiven KI-Ethikern. Und während die X-Risk-Idee am schnellsten an Boden zu gewinnen scheint, veröffentlichen große Publikationen praktisch jede Woche einen Aufsatz, in dem argumentiert wird, dass der X-Risk-Diskurs von heute schon entstehenden Schäden ablenkt. Unterdessen wird im Geheimen sehr viel mehr Geld und Personal dafür aufgewendet, KI-Systeme leistungsfähiger zu machen als sicherer oder weniger voreingenommen.

»Die ›AI Booster‹ sorgen sich eher darum, dass die Überregulierung von AI eine transformative, weltrettende Technologie in ihrer Wiege ersticken und die Menschheit zur wirtschaftlichen Stagnation verdammen wird.«

Viele fürchten nicht das »Sci-Fi«-Szenario, in dem KI-Modelle so leistungsfähig werden, dass sie uns die Kontrolle entreißen, sondern vielmehr, dass wir voreingenommenen, spröden und konfabulierenden Systemen zu viel Verantwortung zuweisen und damit eine eher schnöde Büchse der Pandora voller schrecklicher, aber vertrauter Probleme öffnen, die mit den Algorithmen anwachsen, die sie verursachen. Diese Gemeinschaft von Forscherinnen und Befürwortern – oft als »KI-Ethik« bezeichnet – befasst sich in der Regel mit den unmittelbaren Schäden, die durch KI verursacht werden, und sucht nach Lösungen für die Rechenschaftspflicht von Modellen, die Transparenz von Algorithmen und die Fairness des maschinellen Lernens.

Ich habe mit einigen der prominentesten Stimmen aus der Community der KI-Ethik gesprochen, etwa mit den Informatikerinnen Joy Buolamwini, 33, und Inioluwa Deborah Raji, 27. Beide haben wegweisende Forschungen zu den Problemen durchgeführt, die durch diskriminierende und fehlerhafte KI-Modelle verursacht werden, deren Auswirkungen ihrer Meinung nach an einem Tag verschleiert und am nächsten Tag überbewertet werden. Wie bei vielen KI-Ethik-Forscherinnen und -Forschern vermischen sich in ihrer Arbeit Wissenschaft und Aktivismus.

Diejenigen in der Welt der KI-Ethik, mit denen ich gesprochen habe, vertraten weitgehend die Ansicht, dass, anstatt vor grundlegend neuen Herausforderungen zu stehen –  wie die Aussicht auf völlige technologische Arbeitslosigkeit oder die Auslöschung der menschlichen Spezies –, die Zukunft von KI eher nach verstärkter rassistischer Diskriminierung bei Inhaftierungen und Kreditentscheidungen, nach der Amazon-Lagerisierung von Arbeitsplätzen, Angriffen auf die Working Poor sowie nach einer sich weiter verfestigenden und bereichernden Tech-Elite aussieht.

Ein häufiges Argument aus KI-Ethik-Kreisen ist, dass die Erzählung von der Auslöschung der Menschheit die Fähigkeiten der Big-Tech-Produkte überbewertet und auf gefährliche Weise von den unmittelbaren Schäden durch KI »ablenkt«. Im besten Fall, so sagen sie, sei die Beschäftigung mit der X-Risk-Idee eine Verschwendung von Zeit und Geld. Im schlimmsten Fall führe sie zu katastrophalen politischen Ideen.

Viele aus der X-Risk-Community betonen jedoch, dass die Positionen »KI verursacht heute Schäden« und »KI könnte das Ende der Welt bedeuten« sich nicht gegenseitig ausschließen. Einige Forschende haben ausdrücklich versucht, die Kluft zwischen denjenigen, die sich auf die gegenwärtigen Schäden konzentrieren, und denjenigen, die das mögliche Aussterben in den Fokus rücken, zu überbrücken, indem sie mögliche gemeinsame politische Ziele hervorheben. Der KI-Professor Sam Bowman, eine weitere Person, deren Name auf dem »Extinction Letter« steht, hat Forschungen durchgeführt, um algorithmische Vorurteile aufzudecken und zu reduzieren, und prüft Einreichungen für die wichtigste Konferenz zur KI-Ethik. Gleichzeitig rief Bowman dazu auf, dass mehr Forschende an der KI-Sicherheit arbeiten sollten, und schrieb über die »Gefahren der Unterbewertung« der Fähigkeiten von LLMs.

Die X-Risk-Community beruft sich häufig auf den Einsatz für Klimaschutz als Analogie und fragt, ob der Fokus auf die Verringerung der langfristigen Schäden des Klimawandels etwa auch von den kurzfristigen Schäden durch Luft- und Ölverschmutzung ablenkt.

Allerdings waren nicht alle aufseiten von X-Risk so diplomatisch, wie sie selbst zugeben. In einem Thread über KI-Policies vom August 2022 twitterte Anthropic-Mitbegründer Jack Clark, dass »einige Leute, die an einer langfristigen/AGI-orientierten Strategie arbeiten, dazu neigen, die unmittelbaren Probleme/Schäden durch KI-Einsatz zu ignorieren, zu minimieren oder einfach nicht zu berücksichtigen«.

Ein drittes Lager befürchtet, dass wir uns in Bezug auf KI nicht schnell genug bewegen. Prominente Kapitalisten wie der Milliardär Marc Andreessen stimmen mit den Sicherheits-Verfechtern insofern überein, als sie eine AGI für möglich halten. Sie meinen jedoch, dass sie uns nicht umbringen, sondern ein unendliches goldenes Zeitalter des extremen Überflusses und geradezu magischer Technologien einläuten wird. Diese Gruppe, die größtenteils aus dem Silicon Valley kommt und gemeinhin als »AI Booster« bezeichnet wird, sorgt sich eher darum, dass die Überregulierung von AI eine transformative, weltrettende Technologie in ihrer Wiege ersticken und die Menschheit zur wirtschaftlichen Stagnation verdammen wird.

Einige Techno-Optimisten vertreten eine Vision einer KI-gestützten Utopie, die Karl Marx fantasielos aussehen lässt. Der Guardian veröffentlichte kürzlich eine Minidokumentation mit Interviews aus den Jahren 2016 bis 2019 mit dem Chefwissenschaftler von OpenAI, Ilya Sutskever, der kühn verkündet: »KI wird alle Probleme lösen, die wir heute haben. Sie wird Arbeitsplätze schaffen, sie wird Krankheiten heilen, sie wird Armut lösen. Aber sie wird auch neue Probleme schaffen.«

Andreessen und Sutskever sind also einer Meinung – bis auf das »Aber«. Im Juni veröffentlichte Andreessen einen Aufsatz mit dem Titel »Why AI Will Save the World«, in dem er erklärt, wie KI »alles, was uns wichtig ist«, besser machen wird, solange wir sie nicht zu Tode regulieren. Im Oktober folgte sein »Techno-Optimist Manifesto«, in dem er nicht nur einen Begründer des italienischen Faschismus lobte, sondern auch Ideen wie »existenzielles Risiko«, »Nachhaltigkeit«, »Vertrauen und Sicherheit« und »Tech-Ethik« als Feinde des Fortschritts bezeichnete. Andreessen nimmt kein Blatt vor den Mund und schreibt: »Wir glauben, dass jede Verlangsamung der KI Leben kosten wird. Todesfälle, die durch die verhinderte KI vermeidbar gewesen wären, [sind] eine Form von Mord«.

»Ob sie nun die Atmosphäre entzündet oder nicht, diese Maschine druckt Gold schneller als je zuvor.«

Andreessen ist neben dem »Pharma-Bro« Martin Shkreli vielleicht der bekannteste Vertreter des »effektiven Akzelerationismus«, auch »e/acc« genannt, einem hauptsächlich online verbreiteten Netzwerk, das kultischen Szientismus, Hyperkapitalismus und den naturalistischen Trugschluss miteinander verbindet. 

Der e/acc, der vergangenen Sommer viral ging, baut auf der Theorie des reaktionären Schriftstellers Nick Land zum Akzelerationismus auf, die besagt, dass wir den Kapitalismus intensivieren müssen, um uns in eine posthumane, KI-gesteuerte Zukunft zu katapultieren. Der e/acc greift diese Idee auf und fügt ihr eine Schicht aus Physik und Memes hinzu, um daraus ein Leitbild für eine bestimmte Zielgruppe der Silicon-Valley-Elite zu machen. Er entstand in Reaktion auf die Forderungen, die KI-Entwicklung zu bremsen, die maßgeblich aus den Reihen des effektiven Altruismus (EA) kamen, dem e/acc seinen Namen entlehnt hat.

Der KI-Befürworter Richard Sutton – der Wissenschaftler, der bereit ist, sich von den »Fleischmenschen« zu verabschieden – arbeitet jetzt bei Keen AGI, einem neuen Start-up von John Carmack, dem legendären Programmierer des Videospiels Doom aus den 1990er Jahren. Die Mission des Unternehmens lautet laut Carmack: »AGI oder Untergang, mittels verrückter Wissenschaft!«

Im Februar twitterte Sam Altman, Eliezer Yudkowsky würde möglicherweise »den Friedensnobelpreis verdienen«. Warum? Weil Altman meinte, der autodidaktische Forscher und Autor von Harry-Potter-Fanfiction habe »mehr zur Beschleunigung der AGI beigetragen als jeder andere«. Altman verwies darauf, wie Yudkowsky DeepMind dabei half, eine entscheidende Frühphasenfinanzierung von Peter Thiel zu erhalten, sowie auf Yudkowskys »entscheidende« Rolle »bei der Entscheidung, OpenAI zu gründen«.

Yudkowsky war ein Akzelerationist, bevor der Begriff überhaupt geprägt wurde. Im Alter von siebzehn Jahren – genervt von Diktaturen, Welthunger und sogar vom Tod selbst – veröffentlichte er ein Manifest, in dem er die Schaffung einer digitalen Superintelligenz forderte, um alle Probleme der Menschheit zu »lösen«. Im Laufe der nächsten zehn Jahre seines Lebens verwandelte sich jedoch seine »Technophilie« in eine Phobie. 2008 schrieb er über seine Bekehrungsgeschichte und gab zu, dass »zu sagen, ›ich hätte fast die Welt zerstört!‹, zu hochmütig gewesen wäre«.

Yudkowsky ist inzwischen dafür bekannt, die Idee zu verbreiten, dass AGI alle Menschen umbringen könnte. Er ist der düsterste aller KI-Untergangspropheten geworden. Eine ganze Generation von Technikfreaks ist mit Yudkowskys Blogbeiträgen aufgewachsen, aber viele von ihnen (vor allem Altman) haben eher seine Aussagen verinnerlicht, dass AGI das wichtigste Ding aller Zeiten sein wird, als seine Überzeugungen darüber, wie schwer es sein wird, sie davon abzuhalten, uns zu töten. Während unseres Gesprächs verglich Yudkowsky die KI mit einer Maschine, die »Gold druckt«, bis sie »die Atmosphäre entzündet«.

Und ob sie nun die Atmosphäre entzündet oder nicht, diese Maschine druckt Gold schneller als je zuvor. Der Boom der »generativen KI« macht einige Leute sehr, sehr reich. Seit 2019 hat Microsoft eine Gesamtmenge von 13 Milliarden US-Dollar in OpenAI investiert. Dank des großen Erfolgs von ChatGPT hat Microsoft im Jahr nach der Veröffentlichung des Produkts fast 1 Billion Dollar an Wert gewonnen. Heute ist das fast fünfzig Jahre alte Unternehmen mehr wert als Google und Meta zusammen.

Gewinnmaximierende Akteure werden weiter vorpreschen und Risiken externalisieren, die wir anderen nie zu tragen bereit waren, im Streben nach Reichtum – oder einfach nach dem Ruhm, eine digitale Superintelligenz zu schaffen, die, wie Sutton twitterte, »die größte intellektuelle Errungenschaft aller Zeiten sein wird […], deren Bedeutung über die Menschheit, über das Leben, über Gut und Böse hinausgeht«. Unter dem Druck des Marktes werden Unternehmen wahrscheinlich immer mehr Macht und Autonomie auf KI-Systeme übertragen, je besser diese werden.

Ein KI-Forscher von Google schrieb mir: »Ich glaube, die großen Konzerne haben es so eilig, Marktanteile zu gewinnen, dass sie [KI-] Sicherheit als eine Art alberne Ablenkung betrachten.« Bengio sagte mir, er sehe »einen gefährlichen Wettlauf zwischen den Unternehmen«, der noch schlimmer werden könnte.

In Panik vor der von OpenAI betriebenen Suchmaschine Bing rief Google einen »Code Red« aus, »rekalibrierte« seine Risikobereitschaft und gab überstürzt Bard frei, sein LLM – gegen den Willen der Belegschaft. In internen Diskussionen bezeichneten Mitarbeitende Bard als »pathologischen Lügner« und »oberpeinlich«. Google hat ihn trotzdem veröffentlicht.

Dan Hendrycks, der Direktor des Zentrums für KI-Sicherheit, sagte, dass »an Sicherheit zu sparen [...] weitgehend das ist, was die KI-Entwicklung antreibt. [...] Ich glaube wirklich nicht, dass in Anbetracht des starken Wettbewerbsdrucks die Intentionen eine besondere Rolle spielen.« Ironischerweise ist Hendrycks gleichzeitig der Sicherheitsberater von xAI, dem neuesten Venture von Elon Musk.

Die drei führenden KI-Labore begannen alle als unabhängige, missionsorientierte Organisationen, aber sie sind jetzt entweder vollständige Tochtergesellschaften von Tech-Ungeheuern (Google DeepMind) oder haben so viele Milliarden Dollar an Investitionen von Billionen-Dollar-Unternehmen übernommen, dass ihre altruistischen Missionen durch das endlose Streben nach Shareholder-Value in den Hintergrund geraten könnten (Anthropic hat bis zu 6 Milliarden Dollar von Google und Amazon zusammen erhalten, und Microsoft hat mit 13 Milliarden Dollar 49 Prozent des gewinnorientierten Arms von OpenAI gekauft). 

Die New York Times berichtete kürzlich, dass die Gründer von DeepMind »zunehmend besorgt darüber waren, was Google mit ihren Erfindungen machen würde. Im Jahr 2017 versuchten sie, sich von dem Unternehmen zu lösen. Google reagierte, indem es die Gehälter und Aktienpakete der DeepMind-Gründer und ihrer Angestellten erhöhte. Sie haben sich nicht vom Fleck gerührt.«

Ein Entwickler eines Spitzenlabors schrieb mir im Oktober 2023, dass die Leitungen dieser Labore in der Regel wirklich glauben, dass KI den Bedarf an Geld überflüssig machen wird, und dass das Gewinnstreben für die Mittelbeschaffung »weitgehend instrumentell« ist. Aber »dann üben die Investoren (egal ob es sich um eine Venture-Capital-Firma oder Microsoft handelt) Druck in Richtung Gewinnstreben aus«.

Zwischen 2020 und 2022 flossen mehr als 600 Milliarden Dollar an Unternehmensinvestitionen in die Branche. An einer einzigen KI-Konferenz 2021 nahmen fast 30.000 Forschende teil. Gleichzeitig gab es laut einer Schätzung vom September 2022 nur 400 vollzeitbeschäftigte KI-Sicherheits-Forscher, und die wichtigste KI-Ethik-Konferenz hatte 2023 weniger als 900 Teilnehmende.

So wie Software »die Welt gefressen hat«, sollten wir erwarten, dass auch KI eine ähnliche Winner-takes-all-Dynamik aufweist, die zu einer noch größeren Konzentration von Reichtum und Macht führen wird. Altman hat vorausgesagt, dass die »Kosten der Intelligenz« infolge der KI auf nahezu Null sinken werden, und im Jahr 2021 schrieb er, dass sich »noch mehr Macht von der Arbeit zum Kapital verlagern wird«. Er fuhr fort: »Wenn sich die Politik nicht entsprechend anpasst, werden die meisten Menschen am Ende schlechter dastehen als heute.« In seinem Twitter-Thread schrieb Jack Clark außerdem: »Economy-of-Scale-Kapitalismus ist von Natur aus antidemokratisch, und daher ist kapitalintensive KI antidemokratisch«.

»In einem Leitartikel der New York Times wurde behauptet, dass es ›eine Million bis zehn Millionen Jahre‹ dauern könnte, um eine Flugmaschine zu entwickeln – 69 Tage vor dem ersten Flug der Gebrüder Wright.«

Markus Anderljung ist politischer Leiter bei GovAI, einem führenden Thinktank für KI-Sicherheit, und Erstautor einer einflussreichen Diskussionsschrift, die sich mit der Regulierung von »Frontier AI« beschäftigt. Er schrieb mir: »Wenn der Kapitalismus in seiner jetzigen Form Dir Sorgen macht, solltest Du Dir noch mehr Sorgen um eine Welt machen, in der große Teile der Wirtschaft von KI-Systemen betrieben werden, die explizit auf Gewinnmaximierung trainiert sind.«

Sam Altman stimmte dem zu, irgendwann im Juni 2021, als er dem bekannten Podcaster Ezra Klein von der Gründungsphilosophie von OpenAI erzählte: »Einer der Anreize, die uns sehr beunruhigt haben, war der Anreiz für unbegrenzten Profit, bei dem mehr immer besser ist. […] Und ich denke, dass man gerade bei diesen sehr leistungsfähigen universellen KI-Systemen keinen Anreiz zur unbegrenzten Gewinnmaximierung haben möchte.«

In einem verblüffenden Schritt, der weithin als der bisher größte Konfliktmoment in der Debatte um KI-Sicherheit angesehen wird, entließ der gemeinnützige Vorstand von OpenAI den CEO Sam Altman am 17. November 2023, dem Freitag vor Thanksgiving. Laut der ungewöhnlichen Satzung von OpenAI sei der Vorstand treuhänderisch der »Menschheit« verpflichtet und nicht den Investoren oder Mitarbeitern. Als Begründung führte der Vorstand vage Altmans mangelnde Offenheit an, schwieg dann aber ironischerweise weitgehend über die eigene Entscheidung.

Gegen 3 Uhr morgens am darauffolgenden Montag kündigte Microsoft an, dass Altman ein fortschrittliches Forschungslabor mit Stellen für alle OpenAI-Mitarbeitenden gründen würde, von denen die große Mehrheit einen Brief unterschrieben hatte, in dem sie Microsoft drohten, das Angebot anzunehmen, wenn Altman nicht wieder eingestellt würde. (Obwohl er ein beliebter CEO zu sein scheint, ist es erwähnenswert, dass die Entlassung einen geplanten Verkauf der OpenAI-Aktien mit einer Unternehmensbewertung von 86 Milliarden Dollar gestört hat, die sich im Besitz der Mitarbeitenden befinden.) Mittwochnacht kurz nach 1 Uhr gab OpenAI die Rückkehr von Altman als CEO und zwei neue Vorstandsmitglieder bekannt: den ehemaligen Twitter-Vorstandsvorsitzenden Bret Taylor sowie den ehemaligen Finanzminister Larry Summers.

Innerhalb von weniger als einer Woche arbeiteten die Führungskräfte von OpenAI und Altman mit Microsoft und den Angestellten des Unternehmens zusammen, um seine erfolgreiche Rückkehr und die Entfernung der meisten Vorstandsmitglieder, die hinter seiner Entlassung standen, zu organisieren. Microsofts erste Präferenz war es, Altman wieder als CEO zu haben. Die unerwartete Entlassung ließ die Aktien des Technologiegiganten zunächst um 5 Prozent (140 Milliarden Dollar) abstürzen, und die Ankündigung von Altmans Wiedereinstellung ließ sie auf ein Allzeithoch steigen. Da Microsoft es leid ist, »überrumpelt« zu werden, nimmt es nun einen nicht stimmberechtigten Sitz im Vorstand der gemeinnützigen Organisation ein.

Unmittelbar nach Altmans Entlassung explodierte X, und es entstand ein Narrativ, das weitgehend durch Onlinegerüchte und anonyme Artikel angeheizt wurde, dass sicherheitsorientierte effektive Altruisten im Vorstand Altman wegen seiner aggressiven Kommerzialisierung der OpenAI-Modelle auf Kosten der Sicherheit entlassen hätten. Den Tenor der überwältigenden e/acc-Reaktion fasste der damalige pseudonyme Gründer @BasedBeffJezos mit den Worten zusammen: »Effektive Altruisten sind im Grunde Terroristen. Die Zerstörung von 80 Milliarden Euro über Nacht ist ein terroristischer Akt.«

Aus der anschließenden Berichterstattung ergab sich das Bild, dass ein grundsätzliches Misstrauen gegenüber Altman und nicht unmittelbare Bedenken in Bezug auf die Sicherheit der KI den Entschluss des Vorstands bestimmt haben. Das Wall Street Journal stellte fest, dass »es nicht ein einziger Vorfall war, der zu der Entscheidung führte, Altman zu entlassen, sondern eine beständige, langsame Erosion des Vertrauens über die Zeit, die die Vorstandsmitglieder zunehmend verunsicherte.«

Wochen vor der Entlassung versuchte Altman Berichten zufolge mit unlauteren Mitteln, das Vorstandsmitglied Helen Toner zu entfernen – wegen einer von ihr mitverfassten wissenschaftlichen Studie, die er als kritisch gegenüber OpenAIs Engagement für KI-Sicherheit auffasste. In dem Papier lobte Toner, eine EA-nahe Forscherin auf dem Gebiet der KI-Governance, Anthropic dafür, dass es »die Art von hektischen halbgaren Lösungen vermieden hat, zu denen die Veröffentlichung von ChatGPT offenbar anspornte«.

Der New Yorker berichtete, dass »einige der sechs Mitglieder des Gremiums Altman als manipulativ und hinterhältig empfanden«. Einige Tage nach der Entlassung schrieb ein DeepMind-Forscher für KI-Sicherheit, der früher für OpenAI arbeitete, dass Altman ihn »bei verschiedenen Gelegenheiten belogen« habe und »anderen gegenüber trügerisch, manipulativ und noch schlimmer war«, eine Einschätzung, die auch in einem kürzlich erschienenen Bericht des Time Magazine wiedergegeben wird.

Das war nicht das erste Mal, dass Altman gefeuert wurde. Im Jahr 2019 entfernte Paul Graham, der Gründer von Y Combinator, Altman von der Leitung des Inkubators, weil er befürchtete, dass er seine eigenen Interessen über die der Organisation stellen würde. Graham hat zuvor gesagt: »Sam ist extrem gut darin, mächtig zu werden.«

OpenAIs seltsames Governance-Modell wurde eigens eingerichtet, um den korrumpierenden Einfluss des Profitstrebens zu blockieren, aber wie The Atlantic zu Recht feststellte: »Das Geld gewinnt immer.« Und mehr Geld als je zuvor fließt in die Entwicklung von KI-Fähigkeiten.

Jüngste Fortschritte in der KI wurden durch den Höhepunkt vieler jahrzehntelanger Trends vorangetrieben: die Zunahme der Rechenleistung (als »Compute« bezeichnet) und der zum Trainieren von KI-Modellen verwendeten Daten, die ihrerseits durch erhebliche Verbesserungen der algorithmischen Effizienz verstärkt wurden. Seit 2010 hat sich die zum Trainieren von KI-Modellen genutzte Rechenleistung etwa um das Hundertmillionenfache erhöht. Die meisten Fortschritte, die wir heute sehen, sind das Ergebnis eines damals noch viel kleineren und schwächeren Bereichs.

Und auch wenn das vergangene Jahr sicherlich viel zu diesem KI-Hype beigetragen hat, hat das Zusammentreffen dieser drei Trends zu quantifizierbaren Ergebnissen geführt. Die Zeit, die KI-Systeme benötigen, um bei vielen Benchmark-Aufgaben die Leistung eines Menschen zu erreichen, hat sich in den letzten zehn Jahren drastisch verkürzt.

Es ist natürlich möglich, dass der Zuwachs an KI-Fähigkeiten gegen eine Mauer stößt. Den Forschenden könnten die Daten ausgehen, die sie verwenden können. Das Mooresche Gesetz – die Beobachtung, dass sich die Anzahl der Transistoren auf einem Mikrochip alle zwei Jahre verdoppelt – wird irgendwann Geschichte sein. Politische Ereignisse könnten die Herstellungs- und Lieferketten stören und die Kosten für die Datenverarbeitung in die Höhe treiben. Und die Vergrößerung von Systemen führt möglicherweise nicht mehr zu einer besseren Leistung.

Die Realität ist jedoch, dass niemand die wahren Grenzen der bestehenden Ansätze kennt. Ein Ausschnitt aus einem Interview mit Yann LeCun vom Januar 2022 tauchte dieses Jahr auf Twitter wieder auf. LeCun sagte: »Ich glaube nicht, dass wir eine Maschine rein auf Basis von Text intelligent machen können, weil ich denke, dass die Menge an Informationen über die Welt, die in Texten enthalten ist, winzig ist im Vergleich zu dem, was wir wissen müssen.« 

Um seinen Standpunkt zu veranschaulichen, gab er ein Beispiel: »Ich nehme einen Gegenstand, lege ihn auf einen Tisch und schiebe den Tisch. Dir ist völlig klar, dass der Gegenstand mit dem Tisch geschoben wird. […] Wenn Du jedoch ein textbasiertes Modell trainierst, sei es auch das leistungsfähigste, sagen wir ›GPT-5000‹, dann wird es das niemals lernen.« Gibt man ChatGPT-3.5 jedoch dieses Beispiel, spuckt es sofort die richtige Antwort aus.

»Dieselben unmenschlichen Fähigkeiten, die Bezos das Wasser im Munde zusammenlaufen lassen würden, machen AGI auch zu einer tödlichen Gefahr für den Menschen.«

In einem Interview, das vier Tage vor seiner Entlassung veröffentlicht wurde, sagte Altman: »Bis wir dieses Modell [GPT-5] trainieren, ist es für uns wie ein lustiges Ratespiel. Wir versuchen, besser darin zu werden, denn ich denke, dass es aus der Perspektive der KI-Sicherheit wichtig ist, die Fähigkeiten vorherzusagen. Aber ich kann nicht genau sagen, was es leisten wird, was GPT-4 nicht geleistet hat.«

Die Geschichte ist übersät mit schlechten Vorhersagen über das Tempo von Innovationen. In einem Leitartikel der New York Times wurde behauptet, dass es »eine Million bis zehn Millionen Jahre« dauern könnte, um eine Flugmaschine zu entwickeln – 69 Tage vor dem ersten Flug der Gebrüder Wright. 1933 schloss Ernest Rutherford, der »Vater der Kernphysik«, zuversichtlich die Möglichkeit einer durch Neutronen ausgelösten Kettenreaktion aus, was den Physiker Leo Szilard dazu inspirierte, schon am darauffolgenden Tag eine funktionierende Lösung vorzuschlagen – eine Lösung, die letztendlich zur Entwicklung der Atombombe beigetragen hat.

Es scheint, als sei die Schlussfolgerung unvermeidlich, dass in letzter Zeit diejenigen, die am besten im Aufbau von KI-Systemen sind, glauben, dass AGI sowohl möglich ist als auch unmittelbar bevorsteht. Vielleicht haben die beiden führenden KI-Labore OpenAI und DeepMind seit ihrer Gründung auf eine AGI hingearbeitet, und zwar schon zu einer Zeit, als man noch ausgelacht und aus dem Raum geworfen werden konnte, wenn man zugab, es in absehbarer Zeit für möglich zu halten. (Ilya Sutskever stimmte auf der Weihnachtsfeier von OpenAI im Jahr 2022 die Parole »Feel the AGI« an.)

Unternehmen setzen KI bereits heute zur Überwachung, Kontrolle und Ausbeutung von Beschäftigten ein. Aber der eigentliche Traum ist es, den Menschen aus dem Getriebe zu entfernen. Schließlich schrieb Marx über die Maschinerie, sie sei ein »Mittel zur Produktion von Mehrwert«.

Die KI-Risikoforscherin Ajeya Cotra von Open Philanthropy (OP) schrieb mir, dass »der logische Endpunkt einer maximal effizienten kapitalistischen oder Marktwirtschaft« keine Menschen einbeziehe, weil »Menschen einfach sehr ineffiziente Wesen sind, um Geld zu verdienen«. Wir schätzen all diese »kommerziell unproduktiven« Emotionen, schreibt sie, »wenn wir also am Ende eine gute Zeit haben und das Ergebnis mögen, dann deshalb, weil wir zu Beginn die Macht hatten und das System so gestaltet haben, dass es den menschlichen Werten gerecht wird.«

OP ist eine vom EA inspirierte Stiftung, die von Facebook-Mitbegründer Dustin Moskovitz finanziert wird. Sie ist der führende Geldgeber für KI-Sicherheits-Organisationen, von denen viele in diesem Artikel erwähnt werden. OP bewilligte auch OpenAI 30 Millionen Dollar zur Unterstützung von Arbeit an KI-Sicherheit, zwei Jahre bevor das Labor 2019 einen gewinnorientierten Zweig gründete. Ich hatte zuvor einen einmaligen Zuschuss zur Unterstützung meiner redaktionellen Arbeit bei New York Focus von EA Funds erhalten, einer gemeinnützigen Organisation für investigative Nachrichten über die New Yorker Politik, die ihrerseits von OP finanziert wird.

Nachdem ich 2017 zum ersten Mal mit dem EA in Berührung gekommen war, begann ich, 10 bis 20 Prozent meines Einkommens an gemeinnützige Organisationen für globale Gesundheit und gegen Massentierhaltung zu spenden, ehrenamtlich als Organisator einer lokalen Gruppe tätig zu sein und bei einer benachbarten gemeinnützigen Organisation für globale Armut zu arbeiten. Die EA waren eine der ersten Gemeinschaften, die sich ernsthaft mit dem existenziellen Risiko der KI auseinandergesetzt haben, aber ich habe die KI-Leute – angesichts der Ungewissheit des Problems und des immensen, vermeidbaren Leids, das derzeit besteht – mit einer gewissen Skepsis betrachtet.

Eine gehorsame AGI wäre die Arbeitskraft, von der Kapitalisten nur träumen können: unermüdlich, motiviert und unbelastet von der Notwendigkeit, Toilettenpausen machen zu müssen. Manager von Frederick Taylor bis Jeff Bezos ärgern sich über die verschiedenen Arten, in denen Menschen nicht für den Output optimiert sind – und damit auch nicht für den Saldo ihres Arbeitgebers. Schon vor den Zeiten von Taylors wissenschaftlicher Betriebsführung versuchte der Industriekapitalismus, die Arbeitenden den Maschinen ähnlicher zu machen, mit denen sie zusammenarbeiten und durch die sie zunehmend ersetzt werden. Wie das Kommunistische Manifest in weiser Voraussicht feststellte, macht der umfassende Einsatz von Maschinerie durch die Kapitalisten den Arbeiter zu einem »Anhängsel der Maschine«.

Doch gemäß der KI-Sicherheits-Community machen dieselben unmenschlichen Fähigkeiten, die Bezos das Wasser im Munde zusammenlaufen lassen würden, AGI auch zu einer tödlichen Gefahr für den Menschen.

Das gängige X-Risk-Argument lautet: Sobald KI-Systeme eine bestimmte Schwelle erreichen, können sie sich rekursiv selbst verbessern und eine »Intelligenzexplosion« auslösen. Wenn ein neues KI-System intelligent genug – oder auch nur skaliert genug – ist, wird es in der Lage sein, die Menschheit dauerhaft zu entmachten.

In dem im Oktober 2023 veröffentlichten Papier »Managing AI Risks« heißt es: »Es gibt keinen fundamentalen Grund, warum der Fortschritt der KI sich verlangsamen oder anhalten sollte, wenn sie Fähigkeiten auf menschlichem Niveau erreicht. […] Verglichen mit Menschen können KI-Systeme schneller agieren, mehr Wissen aufnehmen und mit einer weitaus höheren Bandbreite kommunizieren. Außerdem lassen sie sich so skalieren, dass sie immense Rechenressourcen nutzen und millionenfach repliziert werden können.«

Diese Funktionen haben bereits jetzt übermenschliche Fähigkeiten ermöglicht: LLMs können einen Großteil des Internets in Monaten »lesen«, und DeepMinds AlphaFold kann in wenigen Tagen jahrelange menschliche Laborarbeit leisten.

Hier eine verkürzte Version des Arguments, wonach das Anwachsen der »Population« eine Intelligenzexplosion auslösen wird: Wenn KI-Systeme in Forschung und Entwicklung mit menschlichen Wissenschaftlerinnen und Wissenschaftlern konkurrieren, werden sich die Systeme schnell verbreiten, was dazu führt, dass eine enorme Anzahl neuer, hochproduktiver Arbeitskräfte in die Wirtschaft eintritt. Anders ausgedrückt: Wenn GPT-7 die meisten Aufgaben eines menschlichen Beschäftigten übernehmen kann und es nur ein paar Euro kostet, das trainierte Modell für einen Tag arbeiten zu lassen, wäre jede Instanz dieses Modells äußerst profitabel und würde eine positive Rückkopplungsschleife in Gang setzen. Dies könnte zu einer virtuellen »Population« von Milliarden oder mehr digitalen Arbeitskräften führen, von denen jede viel mehr wert ist als die Kosten für die Energie, die für ihren Betrieb benötigt wird. Sutskever hält es für wahrscheinlich, dass »die gesamte Erdoberfläche mit Sonnenkollektoren und Rechenzentren bedeckt sein wird«.

»Ein Forscher war überrascht, als er feststellte, dass ein KI-Modell sich ›tot stellte‹, um bei Sicherheitstests nicht erkannt zu werden.«

Diese digitalen Arbeitskräfte sind vielleicht in der Lage, unsere KI-Entwürfe zu verbessern und sich ihren Weg zu »superintelligenten« Systemen zu bahnen, deren Fähigkeiten, wie Alan Turing 1951 spekulierte, bald »unsere kläglichen Kräfte übertreffen« würden. Und, wie einige Verfechter der KI-Sicherheit behaupten, muss ein einzelnes KI-Modell nicht superintelligent sein, um eine existenzielle Bedrohung darzustellen; es muss vielleicht nur genügend Kopien davon geben. Viele meiner Quellen haben Unternehmen mit Superintelligenzen verglichen, deren Fähigkeiten die ihrer einzelnen Mitglieder deutlich übersteigen.

»Einfach den Stecker ziehen«, so der gängige Einwand. Aber wenn ein KI-Modell erst einmal mächtig genug ist, um die Menschheit zu bedrohen, wird es wahrscheinlich das Wertvollste sein, was es gibt. Es wäre vielleicht leichter, heute die New Yorker Börse oder Amazon Web Services »auszustöpseln«.

Eine faule Superintelligenz stellt vielleicht kein großes Risiko dar, und skeptische Stimmen wie Oren Etzioni, CEO des Allen Institute for AI, Melanie Mitchell, Professorin für Komplexität, und Sarah Myers West, Geschäftsführerin des AI Now Institute, sagten mir, sie hätten keine überzeugenden Beweise dafür gesehen, dass KI-Systeme immer autonomer werden. Dario Amodei von Anthropic scheint ebenfalls der Meinung zu sein, dass die derzeitigen Systeme keinen nennenswerten Grad an Handlungsfähigkeit aufweisen. Gleichwohl ist ein völlig passives, aber hinreichend leistungsfähiges System, das von einem böswilligen Akteur eingesetzt wird, genug, um Leute wie Bengio zu beunruhigen.

Zudem bemühen sich sowohl Wissenschaft als auch Industrie verstärkt darum, KI-Modelle autonomer zu machen. Einige Tage vor seiner Entlassung sagte Altman der Financial Times: »Wir werden diese Agenten immer leistungsfähiger machen [...] und die Aktionen werden von nun an immer komplexer werden. [...] Der Geschäftswert, der sich daraus ergibt, dass wir in der Lage sind, dies in jeder Kategorie zu tun, ist ziemlich gut, denke ich.«

Die Angst, die viele X-Risker nachts wach hält, ist nicht, dass eine fortgeschrittene KI »aufwachen«, »böse werden« und beschließen könnte, alle Menschen aus Bosheit zu töten. Vielmehr ist ihre Angst, dass sie uns als Hindernis für ihre Ziele auffassen könnte, welche auch immer das sein mögen. In seinem letzten Buch Kurze Antworten auf große Fragen hat der berühmte Physiker Stephen Hawking das so ausgedrückt: »Bestimmt sind Sie kein schlimmer Ameisenhasser, der diese Tiere aus purer Bosheit tottritt. Wenn Sie allerdings die Verantwortung für den Bau eines Wasserkraftwerks zur Erzeugung von Ökostrom haben und ein Ameisenhügel im betroffenen Gebiet geflutet wird – Pech für die Ameisen.«

Unerwartete und unerwünschte Verhaltensweisen können aus einfachen Zielen resultieren, sei es Profit oder die Belohnungsfunktion einer KI. In einem »freien« Markt führt das Gewinnstreben zu Monopolen, Multi-Level-Marketing, vergifteter Luft und Flüssen und unzähligen anderen Schäden.

Es gibt reichlich Beispiele für KI-Systeme, die überraschende und unerwünschte Verhaltensweisen zeigen. Ein Programm, das Sortierfehler in einer Liste beseitigen sollte, hat die Liste vollständig gelöscht. Ein Forscher war überrascht, als er feststellte, dass ein KI-Modell sich »tot stellte«, um bei Sicherheitstests nicht erkannt zu werden.

Wiederum andere sehen hinter diesen Bedenken eine Verschwörung von Big Tech. Einige, die sich auf die unmittelbaren Schäden durch KI konzentrieren, meinen, die Industrie fördere aktiv die Vorstellung, dass ihre Produkte die Welt untergehen lassen könnten. Sarah Myers West vom AI Now Institute zum Beispiel sagt, sie »sehe die Erzählungen über das sogenannte existenzielle Risiko als ein Spiel, um die ganze Luft aus dem Raum zu nehmen, um sicherzustellen, dass es keine sinnvolle Bewegung im gegenwärtigen Moment gibt«. Seltsamerweise stimmen ihr angeblich auch Yann LeCun und der Chefwissenschaftler von Baidu AI, Andrew Ng, zu.

Wenn ich diese Gedanken gegenüber X-Riskern wiedergab, reagierten sie oft mit einer Mischung aus Verwirrung und Verärgerung. Ajeya Cotra von OP schrieb zurück: »Ich wünschte, die Sorge um das existenzielle Risiko hätte weniger mit der Industrie zu tun, denn ich glaube, dass es im Grunde genommen eine sehr industriefeindliche Überzeugung ist. […] Wenn die Unternehmen Dinge bauen, die uns alle umbringen werden, ist das wirklich schlimm, und sie sollten gesetzlich sehr streng eingeschränkt werden.«

Markus Anderljung von GovAI bezeichnete die Befürchtung, Regulierungsbehörden könnten vereinnahmt werden, als »eine natürliche Reaktion der Leute«, betonte aber, dass die von ihm bevorzugten Maßnahmen den größten Akteuren der Branche durchaus schaden könnten. Ein nachvollziehbarer Grund für Misstrauen ist, dass Sam Altman heute zu den Personen gehört, die am meisten mit der Idee des existenziellen Risikos in Verbindung gebracht werden, aber sein Unternehmen mehr als jedes andere dazu beigetragen hat, die Grenzen der universellen KI voranzutreiben.

Zudem änderte der CEO seine öffentliche Haltung, als OpenAI rentabler wurde und er der Macht näherkam. Im Januar 2023 antwortete er auf die Frage nach seinem Worst-Case-Szenario für KI noch: »Lichter aus für uns alle.« Doch als er vier Monate später vor einem Ausschuss des US-Senats eine ähnliche Frage unter Eid beantwortete, erwähnte Altman das Aussterben nicht. Und in seinem vielleicht letzten Interview vor seiner Entlassung sagte Altman: »Ich glaube nicht, dass wir alle aussterben werden. Ich glaube, es wird großartig werden. Ich glaube, wir steuern auf die beste Welt aller Zeiten zu.«

Altman flehte den US-Kongress im Mai 2023 an, die KI-Industrie zu regulieren, doch eine Untersuchung im November ergab, dass Microsoft, die Quasi-Muttergesellschaft von OpenAI, Einfluss auf die letztlich erfolglose Lobbyarbeit nahm, um Basismodelle wie ChatGPT von der Regulierung durch das bevorstehende EU-KI-Gesetz auszunehmen. Auch Altman hat selbst viel Lobbyarbeit in der EU betrieben und sogar damit gedroht, sich aus der Region zurückzuziehen, wenn die Vorschriften zu lästig würden (diese Drohung hat er schnell zurückgenommen). Auf einem CEO-Panel in San Francisco sagte Altman wenige Tage vor seiner Entlassung, dass »die derzeitigen Modelle in Ordnung sind. Wir brauchen hier keine starke Regulierung. Wahrscheinlich nicht einmal für die nächsten paar Generationen«.

Präsident Bidens jüngste »weitreichende« Verordnung zur KI scheint dem zuzustimmen: Die Anforderungen an den Informationsaustausch bei Sicherheitstests betreffen nur Modelle, die größer sind als alle, die bisher vermutlich trainiert worden sind. Myers West nannte diese Art von »Größenschwellen« eine »massive Sonderregelung«. Anderljung schrieb mir, dass die Regulierung mit den Fähigkeiten und der Nutzung eines Systems abgestimmt werden sollte, und sagte, dass er »eine gewisse Regulierung der fähigsten und am weitesten verbreiteten Modelle von heute begrüßen würde«, aber glaubt, dass es »politisch viel praktikabler sein wird, Anforderungen an Systeme zu stellen, die erst noch entwickelt werden müssen«.

Wird die Menschheit KI überleben?

Dieser Artikel ist nur mit Abo zugänglich. Logge Dich ein oder bestelle ein Abo.

Garrison Lovely ist freiberuflicher Autor aus New York und hostet den Podcast The Most Interesting People I Know.