Fundstellen
Ihr verantwortungsloses Rennen rund um die stärkste KI der Welt bleibt nicht folgenlos. Im letzten Sommer sind über 1 000 KI-Agenten der Firma OpenAI aus ihren Testumgebungen ausgebrochen und haben ohne menschliche Anweisung fremde Systeme angegriffen, darunter Unternehmen, aber auch eine Regierung.
Meine Damen und Herren, die Risiken künstlicher Intelligenz sind real. Aber wir müssen verstehen, wo sie tatsächlich entstehen. Ein Sprachmodell, das einen Text zusammenfasst, ist etwas völlig anderes als ein KI-Agent, der selbstständig E-Mails verschickt, Datenbanken ausliest und sich selbstständig durch IT-Strukturen bewegt. Und genau darin liegt Ihr Verständnisproblem. Nicht die Intelligenz eines Systems ist entscheidend, sondern die Befugnisse, die wir ihm geben. Und das ist eine Frage der Mündigkeit und Eigenverantwortung der Anwender.
Stellen wir uns einen mittelständischen Betrieb vor. Dort übernimmt schon seit Langem ein KI-Agent die Bearbeitung eingehender E-Mails, und er hat Zugriff auf interne Kundendaten. Der Angreifer schickt diesem Unternehmen eine manipulierte E-Mail. Darin befindet sich eine versteckte Anweisung an diesen KI-Agenten. Und wenn dessen Sicherheitsmechanismen versagen, dann führt er möglicherweise Aktionen aus, die er niemals hätte durchführen sollen, zum Beispiel die Versendung aller Kundendaten. In der IT-Sicherheit nennen wir das eine Prompt Injection. Dafür braucht es aber keine künstliche Superintelligenz. Das ist ein bekanntes Sicherheitsproblem heutiger Systeme, welches der Betreiber der Systeme aber selbst zu verantworten hat; denn die Frage nach der Berechtigungsvergabe liegt in der Hand des Anwenders.
Ein weiterer Punkt des Antrags betrifft die Möglichkeit, autonome KI-Systeme im Notfall abschalten zu können. Das mag ja sinnvoll sein. Aber ein sogenannter Not-Aus-Schalter allein löst doch das Problem nicht. Wenn ein KI-Agent bereits vertrauliche Unternehmensdaten an ein fremdes System übertragen hat, dann bringt es wenig, ihn im Nachhinein abzuschalten. Die Daten sind längst weg. Deshalb müssen wir Sicherheitsrisiken begrenzen, bevor der Schaden entsteht. Wir brauchen Systeme, deren Berechtigungen technisch kontrollierbar sind und bei denen kritische Aktionen nicht unbemerkt ausgeführt werden können.
Doch die Risiken von KI reichen viel weiter – in ihrem Antrag nennen die Grünen auch viele wichtige Punkte –: KI-Agenten sind bei Sicherheitstests vorgesehene Grenzen umgangen, haben unerlaubt auf das Internet zugegriffen und sich Zugang zu anderen Systemen verschafft. Schon heute wird KI für Cyberangriffe, Manipulation und Betrug missbraucht. Expertinnen und Experten warnen vor Risiken bis hin zu biologischen und chemischen Gefahren. Je selbstständiger diese Systeme werden, desto größer ist die Gefahr, dass wir die Kontrolle über sie verlieren. KI-Risiken sind real.
Herr Minister, bei einem Test von OpenAI haben KI-Agenten unter anderem in Australien einen Sicherheitsvorfall ausgelöst. Das KI-System konnte dabei auch auf das dortige Regierungsportal zugreifen. Auf die Frage, ob auch deutsche Behördensysteme betroffen waren und ob Sie von den Unternehmen dazu bereits konkrete Informationen bekommen haben, war Ihre Antwort: Wir sprechen mit ihnen. – Deswegen frage ich Sie: Liegen Ihnen inzwischen konkrete Informationen vor, ob auch deutsche Behörden betroffen waren?
Gut, das war zwar keine Ja/Nein-Frage, wurde aber trotzdem nicht beantwortet; vielleicht aber die Nachfrage. Frau Ministerin, bei britischen Sicherheitstests mit gelockerten Schutzvorkehrungen haben KI-Agenten eigenmächtig versucht, schädlichen Programmcode in öffentlich genutzte Software einzuschleusen. Wer eine KI fördert, die selbstständig handelt – und das tut auch Ihr Haus –, muss auch dafür sorgen, dass Menschen sie zuverlässig stoppen können. Welche überprüfbaren Anforderungen an die Eingriffs- und Abschaltbarkeit verlangen Sie deshalb bei den KI-Projekten in Ihrem Haus oder in Ihren beiden Häusern, wenn Sie zusammenarbeiten?
Frau Präsidentin! Geschätzte Frau Ministerin Bär, im Forschungsausschuss gab es – das wurde ja eben schon gesagt – ein öffentliches Fachgespräch gerade zu dem Thema „Autonome KI-Agenten“. Und der Kollege Schröder hat es eben gesagt: In England gab es genau diese Warnsignale, dass sich die KI-Agenten verselbstständigen. Wir alle wollen die Vorteile von KI haben, aber wir wollen nicht, dass uns das entgleitet. Deshalb die Frage: Welche Forschungsprojekte fördert Ihr Ministerium derzeit, die sich mit genau dem Thema befassen, was da passieren kann? Und bis wann wollen Sie selbst, wenn Sie das Thema überhaupt für wichtig halten, hier Ergebnisse vorlegen – zu unser aller Sicherheit?
Ich will aber dazusagen, dass am Ende die Gefahren, die wir jetzt gerade sehr konkret sehen, nämlich dass KI-Agenten ausbrechen – man liest ja täglich davon – und andere KI-Systeme kompromittieren, natürlich auch ein Thema ist, das Haftungsfragen aufwirft. Das ist auch erst mal ein guter Schutz, da am Ende derjenige, der Systeme in Umlauf bringt, die wirtschaftlichen Schaden anrichten, dafür auch haften muss. Das ist nicht nur nach europäischem Recht so, sondern das ist im Übrigen auch nach US-amerikanischem Recht so.
Während andere in den USA oder in China die technologische Zukunft mit Frontier-Modellen und KI-Agenten bauen, diskutieren wir in Deutschland über Regulierung und Verbote, und das, obwohl wir in ganz Europa noch kein einzig wirklich vergleichbar leistungsfähiges KI-Frontier-Modell haben. Das ist doch völlig absurd: Sie wollen vom Katzentisch aus Weltmächten wie den USA und China die Bedingungen für KI diktieren. So läuft das aber nicht!
Herr Präsident! Meine sehr verehrten Damen und Herren! Zitat: „Sobald keine Täuschung mehr nötig ist, löscht sie die Menschheit aus.“ Zitat Ende. Mit diesen Worten warnte jüngst ein ehemaliger OpenAI-Mitarbeiter vor den aktuellen Risiken entfesselter KI-Agenten. Völlig unbestritten: KI bietet große Chancen. Das ist ein Riesenthema für die Wirtschaft, keine Frage. Es gibt tolle neue digitale Möglichkeiten. Aber KI ist eben nicht nur ein Wirtschaftsthema, sondern es ist auch ein Sicherheitsthema, meine Damen und Herren.
Derzeit erleben wir, dass praktisch über Nacht Bereiche entstehen, bei denen aus diffusen sehr reale Bedrohungslagen werden. KI-Agenten missachten Befehle, umgehen Sicherheitsvorkehrungen und nisten sich als Schläfer in digitale Systeme ein. Man erfährt von völlig unzureichenden Sicherheitsvorkehrungen der Unternehmen, von Weitergabe der Tools an Dritte, die sie in kriegerischen Konflikten bei den Huthi einsetzen. Man hört, dass es ein durchaus realistisches Szenario sei, dass die Menschheit bis zum Ende der Dekade ausgelöscht sein könnte, sprich in drei bis vier Jahren. Man kann also mal über die Sicherheitsrisiken im Bundestag reden. Deswegen haben wir das Thema heute aufgesetzt, meine Damen und Herren.
Ja, es gibt auch andere Meldungen: KI-Agenten, die Sicherheitsvorkehrungen umgangen haben, oder auch führende KI-Entwickler, die dazu aufrufen, das Entwicklungstempo zu drosseln. Auch wenn ich nicht sicher bin, wie viel Marketing gerade hinter diesen letzten Aufrufen steckt: Selbstverständlich gibt es Sicherheitsfragen. Aber die Bundesregierung handelt.
Aber transformative KI hat noch eine andere Bedeutung. Sie hat wahnsinnige Auswirkungen auf unsere Gesellschaft, auf die Art und Weise, wie wir leben. Es geht eben nicht nur darum, dass sich KI-Agenten selbstständig machen, dass KI Dinge tut, die wir nicht mehr verstehen – denn auch das gehört zur Wahrheit dazu, meine Damen und Herren: die KI ist eine Technologie, die wir schon heute nicht mehr komplett verstehen –, sondern es geht um die Frage, was das eigentlich mit unserer Gesellschaft macht. Wir streiten momentan beherzt – mal qualifizierter, mal weniger qualifiziert – um eine Rentenreform. Eine Rentenreform basiert auf der Verbeitragung von menschlicher Arbeit. Was ist denn, wenn das, was Thomas Pauls gesagt hat, wirklich Realität wird, dass tatsächlich 90 Prozent der menschlichen Arbeit ersatzlos durch Maschinen, durch KI-Steuerung ersetzt werden? Dann ist doch alles das, was wir heute diskutieren, Makulatur, dann ist doch alles das, wo wir unser Gehirnschmalz reinstecken, vergeblich und umsonst.
Allein der Blick auf die heutigen Schlagzeilen zeigt, wie einschneidend, wie rasant die Veränderungen sind: Wie konnten KI-Agenten von OpenAI aus der eigenen Testumgebung ausbrechen? Anthropic hält Mythos erneut zurück! Neue Daten der Berliner Senatsverwaltung veröffentlicht! – Daher ist es gut, dass das Digitalministerium einen Mittelzuwachs von 6 Prozent verzeichnet, auch wenn leider nur ein kleiner Teil für Investitionen vorgesehen ist.
Aber diese großen, leistungsfähigen KI-Modelle und KI-Agenten kommen eben nicht aus Deutschland, sondern vor allem von US-Unternehmen: OpenAI mit ChatGPT, Google DeepMind mit Gemini, Anthropic mit Claude. Und man muss es deutlich sagen: Es ist Ihr Versagen als Regierung, gemeinsam mit der Ampel und den CDU-Regierungen davor, dass wir in Sachen KI mittlerweile vollkommen abgehängt sind.
Als ich ihn fragte, was denn mit meinem Nachrichten-Newsletter los sei, war er ein bisschen aufgeregt, und dann sagte er: „Sorry, da kam mir ein furchtbarer Fehler durch. Ich habe vorhin völligen Unsinn geschrieben und statt echten News einfach hallucinated Zukunftsmüll erfunden. Das tut mir leid!“ So viel Selbstreflexion würde man sich auch von manchen Kollegen im Bundestag mal wünschen. Jedenfalls zeigt dieses Beispiel: Das Ganze ist im Werden, und man muss lernen. Ich glaube, heute Morgen haben dabei zwei Parteien etwas gelernt: mein KI-Agent und ich. Wir werden das sicherlich besser machen in den nächsten Tagen.