Zum Inhalt springen
plenarprotokolle.de
Deutscher Bundestag 21/109

109. Sitzung

Freitag, 13. November 2026Berlin 09:00 – 14:23 Uhr Nächste Sitzung: 24.11.2026
5:23 h
Sitzungsdauer
73
Reden
+ 6 Erklärungen, 10 Zwischenfragen
45.032
gesprochene Wörter
ohne Sitzungsleitung
920
Reaktionen
Beifall, Zurufe, Heiterkeit
4
Namentliche Abstimmungen
4
Verknüpfte Vorgänge
laut DIP-Metadaten

Redeanteil nach Fraktion

Gesprochene Wörter · Anzahl Reden

CDU/CSU
11.495
SPD
9.181
AfD
7.949
Linke
5.514
Grüne
4.745
Bundesregierung
1.941

Reaktionen im Saal

Beifall und Zwischenrufe, ausgehend von der Fraktion

BeifallZwischenrufe
CDU/CSU
196
114
SPD
172
31
Grüne
102
73
Linke
93
124
AfD
92
125

Außerdem 24× Heiterkeit oder Lachen und 5× Widerspruch im Protokoll vermerkt.

Namentliche Abstimmungen

JaNeinEnthaltung
Änderungsantrag der Grünen zur zweiten Beratung des Gesetzentwurfs der Bundesregierung – Reform des Nachrichtendienstrechts – auf Drucksache 21/9163 · TOP 26
abgelehnt
2 Enthaltungen · 572 abgegebene Stimmen · Nach Fraktion anzeigen
FraktionJaNeinEnthaltenVerteilung
AfD13301
SPD01100
CDU/CSU02030
Linke5101
fraktionslos200
Grüne7100

„Laut Protokoll ergibt sich zum einen für den Änderungsantrag der Grünen zur zweiten Beratung des Gesetzentwurfs der Bundesregierung – Reform des Nachrichtendienstrechts – auf Drucksache 21/9163 folgendes Ergebnis: Abgegebene Stimmkarten 573. Mit Ja haben gestimmt 258, mit Nein haben gestimmt 313, Enthaltungen 2. Der Änderungsantrag ist damit abgelehnt.“

Änderungsantrag der Grünen auf Drucksache 21/9164 · TOP 26
abgelehnt
52 Enthaltungen · 572 abgegebene Stimmen · Nach Fraktion anzeigen
FraktionJaNeinEnthaltenVerteilung
AfD13301
SPD01100
CDU/CSU02030
Linke1051
fraktionslos200
Grüne7100

„Zum anderen – das ist das zweite Ergebnis, das mir vorliegt – ergibt sich für den Änderungsantrag der Grünen auf Drucksache 21/9164 folgendes Ergebnis: Abgegebene Stimmkarten 571. Mit Ja haben gestimmt 206, mit Nein 313, Enthaltungen 52. Auch dieser Änderungsantrag ist abgelehnt.“

Gesetzentwurf der Bundesregierung zur Reform des Nachrichtendienstrechts · TOP 26
angenommen
71 Enthaltungen · 569 abgegebene Stimmen · Nach Fraktion anzeigen
FraktionJaNeinEnthaltenVerteilung
AfD01330
SPD10711
CDU/CSU20110
Linke0520
fraktionslos011
Grüne0269

„Verehrte Kolleginnen und Kollegen, ich komme zurück zu dem Tagesordnungspunkt 26a. Mir liegt jetzt das von den Schriftführerinnen Schriftführern ermittelte Ergebnis der namentlichen Schlussabstimmung über den Gesetzentwurf der Bundesregierung zur Reform des Nachrichtendienstrechts vor, Drucksachen 21/7868, 21/8295 sowie 21/9161 (neu) Buchstabe a: Abgegebene Stimmkarten 570. Mit Ja haben gestimmt …“

Beschlussempfehlung des Auswärtigen Ausschusses zu dem Antrag der Bundesregierung „Fortsetzung der Beteiligung bewaffneter deutscher Streitkräfte an der NATO-geführten Maritimen Sicherheitsoperation SEA GUARDIAN“ · TOP 30
angenommen
2 Enthaltungen · 559 abgegebene Stimmen · Nach Fraktion anzeigen
FraktionJaNeinEnthaltenVerteilung
AfD01320
SPD10611
CDU/CSU19900
Linke0510
fraktionslos110
Grüne6511

„Ich komme zurück zur namentlichen Abstimmung über die Beschlussempfehlung des Auswärtigen Ausschusses zu dem Antrag der Bundesregierung „Fortsetzung der Beteiligung bewaffneter deutscher Streitkräfte an der NATO-geführten Maritimen Sicherheitsoperation SEA GUARDIAN“ und gebe das von den Schriftführerinnen und Schriftführern ermittelte Ergebnis der namentlichen Abstimmung bekannt: Abgegebene Stimm…“

TOP 29 · Drucksache 21/8810

KI-Sicherheit stärken – Risiken leistungsfähiger KI-Systeme wirksam begrenzen

Überweisung laut Tagesordnung, Drucksache 21/8810
Ausschuss für Digitales und Staatsmodernisierung · federführendAuswärtiger AusschussInnenausschussAusschuss für Recht und VerbraucherschutzAusschuss für Wirtschaft und EnergieVerteidigungsausschussAusschuss für Menschenrechte und humanitäre HilfeAusschuss für Forschung, Technologie, Raumfahrt und TechnikfolgenabschätzungAusschuss für die Angelegenheiten der Europäischen UnionHaushaltsausschuss
Vizepräsident Omid Nouripour

Ich rufe auf den Tagesordnungspunkt 29:

Für die Aussprache wurde eine Dauer von 30 Minuten vereinbart. Bevor ich sie eröffne, möchte ich darauf hinweisen, dass wegen der fortgeschrittenen Zeit keine Kurzinterventionen und Zwischenfragen mehr zugelassen werden. Ich habe das vorhin beim letzten Tagesordnungspunkt bereits erwähnt. Wenn es Umsetzungswünsche gibt, dann bitte jetzt, damit die Debatte mit der gebotenen Ruhe und Fokussierung vollzogen werden kann. Vielen Dank.

Ich eröffne die Aussprache und erteile das Wort Rebecca Lenhard für die Fraktion Bündnis 90/Die Grünen.

Beifall beim BÜNDNIS 90/DIE GRÜNEN
RL
#

Sehr geehrter Herr Präsident! Sehr geehrte Zuhörende! KI verändert gerade alles. Noch können wir mitgestalten, aber das Zeitfenster schließt sich so langsam. Was wirtschaftlich zu tun ist, das haben wir Grüne bereits im Juli vorgelegt. Aber die Grundvoraussetzung für Gestaltung ist am Ende Sicherheit, und was bei KI-Sicherheit zu tun ist, das legen wir mit dem heutigen Antrag vor.

Einige Forderungen unseres Antrags sind inzwischen auch ins Zielbild der Bundesregierung aufgenommen worden: Deutschland als KI-Nation 2030. Wir fordern die Bundesregierung jetzt auf, diese Ankündigungen mit allerhöchster Priorität und Dringlichkeit in die Tat umzusetzen; denn gerade im Bereich der KI-Sicherheit können wir auf gar keinen Fall bis 2030 warten.

Beifall bei Grüne

Künstliche Intelligenz ist supermächtig und kann sehr, sehr viel Gutes bewirken. Sie hat aber auch das Potenzial, Schadsoftware zu schreiben oder Sicherheitslücken zu entdecken, und das schneller als jeder Mensch. Und sie handelt immer öfter selbstständig. Selbst ihre Entwickler können nicht vollständig erklären, wie künstliche Intelligenz zu ihren Ergebnissen kommt, und niemand kann derzeit die absoluten Spitzenmodelle verlässlich absichern.

KI ist die unregulierteste Hochrisikotechnologie dieser Welt. Über die Weiterentwicklung, aber auch über die Sicherheit der leistungsfähigsten KI-Systeme entscheiden derzeit die Big-Tech-Unternehmen, also besser gesagt die Tech-Bros. Und dass diese Verantwortung dort in den falschen Händen ist, das ist ja wohl offensichtlich.

Beifall bei Grüne

Ihr verantwortungsloses Rennen rund um die stärkste KI der Welt bleibt nicht folgenlos. Im letzten Sommer sind über 1 000 KI-Agenten der Firma OpenAI aus ihren Testumgebungen ausgebrochen und haben ohne menschliche Anweisung fremde Systeme angegriffen, darunter Unternehmen, aber auch eine Regierung.

Und während diese Big-Tech-Konzerne offensichtlich ihre eigene Technologie nicht unter Kontrolle haben, versuchen sie gleichzeitig, Systeme zu bauen, die sich ohne menschliches Zutun selbst verbessern können, also durch sogenannte rekursive Selbstverbesserung. Es ist eine ganz klare rote Linie, die die Tech-Bros an der Stelle überschreiten: Sie spielen russisches Roulette mit unserer Sicherheit und verdienen gleichzeitig damit Milliarden, und das muss dringend aufhören.

Beifall bei Grüne

Was es jetzt dringend braucht, ist eine internationale Aufsicht. Diese Hochrisikotechnologie braucht dringend internationale Sicherheitsstandards und vor allem unabhängige Kontrollen, und sie braucht klare Haftungsregelungen. Wer Milliarden mit dieser Technologie verdient, der muss auch zur Rechenschaft gezogen werden, wenn Schäden entstehen. Das gilt vor allem auch für die Chefetagen.

Unsere Infrastruktur ist verwundbar; das haben wir in den vergangenen Wochen eindeutig gesehen. Ganz Europa wurde angegriffen, in Supermärkten wurden Kühlregale abgetaut. Diesen Sommer fand ein 23-Jähriger eine Sicherheitslücke und hätte mit einem Klick 250 000 Solaranlagen abschalten können – das ist so, als würden mehrere große Kraftwerke auf einmal abgeschaltet werden –, und das hätte einen Blackout verursacht.

Diese Infrastruktur voller Schwachstellen trifft jetzt auf KI-Systeme, die diese Lücken selbstständig finden und rund um die Uhr millionenfach angreifen können. Das heißt, die Angreifenden arbeiten mit Maschinengeschwindigkeit, und unsere Abwehr ist noch viel zu oft im Behördentempo. Das wird nicht mehr ausreichen.

Beifall bei Grüne

Was wir jetzt brauchen, ist ein umfassendes Resilienzpaket, das unsere Unternehmen, die Behörden, aber auch die gesamte Bevölkerung auf die Herausforderungen des KI-Zeitalters umfassend vorbereitet. Noch können wir mitgestalten, aber das Zeitfenster schließt sich. Die Bundesregierung ist am Zug – nicht 2030, sondern jetzt.

Danke schön.

Beifall bei Grüne
Vizepräsident Omid Nouripour

Vielen Dank. – Marvin Schulz spricht als Nächster für die CDU/CSU-Fraktion.

Beifall bei der CDU/CSU sowie bei Abgeordneten der SPD
MS
Marvin Schulz CDU/CSU
#

Sehr geehrter Herr Präsident! Ein Gedankenexperiment: Das, was die Grünen fordern, wird Realität, und wegen der hohen Risiken von künstlicher Intelligenz beschließen wir heute, am Freitag, gemeinsam den Stopp von KI-Systemen. Dann passiert morgen, am Samstag, in Peking – gar nichts; die machen nämlich einfach weiter. Am Sonntag im Silicon Valley passiert dann – gar nichts; die machen einfach weiter. Still, meine Damen und Herren, wird es nur bei uns.

Schauen Sie, ich bin für meine Fraktion zuständig für künstliche Intelligenz, und deswegen frage ich: Wird mit Ihrem Antrag die Welt, die ja Probleme mit KI hat, wirklich sicherer, oder zieht China einfach uneinholbar davon?

Zuruf Dr. Konstantin von Notz [Grüne]: „Was machen Sie dagegen?“

Die Beschreibungen der Risiken, die Sie ansprechen, sind richtig.

Zuruf Dr. Konstantin von Notz [Grüne]: „Was ist denn die Antwort?“ Zuruf Corinna Rüffer

Aber zur Wahrheit gehört auch: Wer bei künstlicher Intelligenz bremst und sich selber aus dem Rennen verabschiedet, der sieht zu, wie andere über die Ziellinie laufen.

Beifall bei CDU/CSU

Alles, was technisch entwickelt werden kann, wird technisch entwickelt. Die Frage ist also nicht, ob, sondern die Frage ist „Wo?“, die Frage ist „Wann?“, und die Frage ist „Von wem?“.

Zuruf Corinna Rüffer

Und ich möchte, Herr von Notz, keine KI-Modelle in China, ich möchte keine in Russland. Ich möchte, dass die leistungsfähigsten KI-Modelle weiter aus den USA kommen und am liebsten aus Europa.

Beifall bei CDU/CSU

Ihr Antrag fordert, dass KI-Systeme unter die Regulation der Vereinten Nationen gestellt werden.

Beifall bei Grüne

Ich will ganz ernsthaft von dieser Stelle fragen: Glauben Sie wirklich, dass Peking seine KI-Systeme unter die UN-Aufsicht stellt? Ich kann Ihnen die Frage beantworten. Im Antrag schreiben Sie ja selbst, vermutlich brauche es dafür einen langen Atem. Wenn man diesen Politikersprech in normales Deutsch übersetzen würde, dann hieße das: Wir werden niemals zu diesem Punkt kommen, und während Sie grünen Hoffnungen hinterherjagen, wird überall auf der Welt KI weiterentwickelt, nur in Deutschland ist Stillstand.

Zuruf Rebecca Lenhard [Grüne]: „Und Sie machen nichts!“

Ich stelle weiter fest, dass Ihr Antrag ein ganz merkwürdiges Verständnis von den unterschiedlichen Abstufungen bei KI-Risiken offenbart. Sie haben in Ihrem Antrag davon gesprochen, dass KI reale Gefahren für die Menschheit birgt, und im gleichen Atemzug sprechen Sie davon, dass künstliche Intelligenz auch zu neuen Gefahren führt, etwa beim Einsatz in der Migrationsverwaltung.

Meine Damen und Herren, wer künstliche Intelligenz, die in einer Software läuft, beispielsweise bei einer Sachbearbeiterin im BAMF, und dabei helfen soll, Stempel zu prüfen, mit dem Terminator und der Auslöschung der Menschheit gleichsetzt, der zeigt, dass er von künstlicher Intelligenz überhaupt kein Verständnis hat.

Zuruf Dr. Konstantin von Notz [Grüne]: „Herr Schulz, meine Güte!“

Insofern komme ich zum Abschluss: Weil wir uns in Europa Regulation und Überbürokratisierung eben nicht mehr leisten können – Europa hängt weit zurück bei künstlicher Intelligenz; die Kollegin Lenhardt hat an dieser Stelle ja durchaus recht, wenn sie sagt, jetzt ist gerade noch die Chance, aufzuholen –, lassen Sie uns doch ein Beispiel an dem nehmen, was Europa schon einmal geschafft hat, zum Beispiel bei Airbus. Airbus stellt heute mehr Flugzeuge her als Boeing. Das hat funktioniert, weil wir mit harter Arbeit und mit Commitment gearbeitet haben; das war kein Zufall. Beides braucht es auch heute.

Die Bundesrepublik und die Bundesregierung sind mit einem starken BSI und einem starken AI-Safety-and-Security-Institute, das ja bereits in der Lage ist, auch die modernsten KI-Systeme zu überprüfen, schon auf einem guten Weg;

Zuruf Rebecca Lenhard

dafür braucht es nicht Ihren Antrag.

KI-Sicherheit, meine Damen und Herren, schafft man nicht, indem man bürokratisiert und reglementiert und dann darauf hofft, dass die gesamte Welt ein gleiches Interesse daran hat wie die grüne Bundestagsfraktion. KI-Sicherheit schafft man nach meiner festen Überzeugung dadurch, dass man KI-Systeme modern macht, dass man von vorne führt, dass man Standards prägt. Insofern können wir Ihrem Antrag nicht zustimmen.

Beifall bei CDU/CSU
Vizepräsident Omid Nouripour

Vielen Dank. – Bevor ich die Aussprache fortsetze, möchte ich, weil ja einige jetzt noch neu dazugekommen sind, darauf hinweisen: Es werden keine Zwischenfragen und Kurzinterventionen mehr zugelassen, weil wir gegenüber dem Zeitplan erheblich in Verzug sind.

Der nächste Redner ist Robin Jünger für die Fraktion der AfD.

Beifall bei der AfD
RJ
#

Vielen Dank. – Herr Präsident! Liebe Kolleginnen und Kollegen! Herr Schulz, Sie haben unglaublich viel Richtiges gesagt von diesem Pult aus: nachvollziehbare Dinge, gute Dinge. Vor allem fand ich es schön, dass Sie gesagt haben: Wir haben mit Airbus schon mal ein solches Projekt auf die Beine gestellt, wir sind konkurrenzfähig in Europa. – Da hätten Sie doch unserem Antrag vor einigen Monaten zustimmen können. Aber schön, dass es bei der Union doch eine Lernkurve gibt. Das freut mich.

Beifall bei AfD

Künstliche Intelligenz verändert unsere Welt mit einer Geschwindigkeit, die wir so noch nicht erlebt haben. Während in den USA und in China immer leistungsfähigere KI-Systeme entwickelt werden, beschäftigen wir uns in Deutschland vor allem mit der Frage, wie wir diese Technologie regulieren können. Und statt endlich Maßnahmen zur Schaffung einer konkurrenzfähigen KI-Initiative zu ergreifen, fordern die Grünen mit ihrem Antrag noch mehr staatliche Kontrolle, zusätzliche Sicherheitsanforderungen und natürlich den Ausbau weiterer Behördenstrukturen.

Sie sind wie zwei Kinder im Sandkasten: Das eine baut diszipliniert eine schöne Burg auf, und das andere, talentlose reißt sie mit der Schippe wieder ein, statt selber was Ordentliches zu schaffen. Das ist das Bild, das Sie in der Welt von Deutschland verbreiten.

Beifall bei AfD

Dabei stellt sich doch zunächst eine ganz andere Frage: Sind wir überhaupt technologisch und organisatorisch in der Lage, die Sicherheit dieser unserer Systeme wirksam zu gewährleisten?

Meine Damen und Herren, die Risiken künstlicher Intelligenz sind real. Aber wir müssen verstehen, wo sie tatsächlich entstehen. Ein Sprachmodell, das einen Text zusammenfasst, ist etwas völlig anderes als ein KI-Agent, der selbstständig E-Mails verschickt, Datenbanken ausliest und sich selbstständig durch IT-Strukturen bewegt. Und genau darin liegt Ihr Verständnisproblem. Nicht die Intelligenz eines Systems ist entscheidend, sondern die Befugnisse, die wir ihm geben. Und das ist eine Frage der Mündigkeit und Eigenverantwortung der Anwender.

Stellen wir uns einen mittelständischen Betrieb vor. Dort übernimmt schon seit Langem ein KI-Agent die Bearbeitung eingehender E-Mails, und er hat Zugriff auf interne Kundendaten. Der Angreifer schickt diesem Unternehmen eine manipulierte E-Mail. Darin befindet sich eine versteckte Anweisung an diesen KI-Agenten. Und wenn dessen Sicherheitsmechanismen versagen, dann führt er möglicherweise Aktionen aus, die er niemals hätte durchführen sollen, zum Beispiel die Versendung aller Kundendaten. In der IT-Sicherheit nennen wir das eine Prompt Injection. Dafür braucht es aber keine künstliche Superintelligenz. Das ist ein bekanntes Sicherheitsproblem heutiger Systeme, welches der Betreiber der Systeme aber selbst zu verantworten hat; denn die Frage nach der Berechtigungsvergabe liegt in der Hand des Anwenders.

Und damit kommen wir zum Kern der Sache und zum Problem Ihres Antrags. Sicherheit entsteht nicht dadurch, dass wir einem KI-System bürokratische Rechtsrahmen aufsetzen. Sie muss bereits in seiner technischen Architektur verankert sein: durch begrenzte Zugriffsrechte, durch möglicherweise abgeschottete Systeme, die menschliche Freigabe – der klassische Human in the Loop –, wirksame Kontrollmechanismen und vor allem durch geschulte, digital mündige Anwender.

Liebe Kollegen, die Grünen wollen nun das deutsche KI-Sicherheitsinstitut AISI zu einer leistungsfähigen, unabhängigen Prüfeinrichtung ausbauen – das nächste Institut mit Personal, mit Geld, mit permanentem Ressourcenverbrauch und schwer zu definierendem Output. Dieses Institut hat am 31. August seine Arbeit aufgenommen. Und, wissen Sie, was bemerkenswert an AISI ist? Es arbeitet offenbar, ohne buchhalterisch zu existieren. Unsere Fraktion hat die Bundesregierung konkret gefragt, wie diese Institution organisatorisch, personell und finanziell ausgestattet werden soll. Es gibt aber keine konkreten langfristigen Personal- und Finanzierungspläne, für die erste Phase keine gesondert ausgewiesenen Personalstellen, keine Angaben zu den Haushaltsmitteln der kommenden Jahre und nicht einmal eine erklärte Befugnis, den Zugang zu den zu untersuchenden KI-Modellen gegenüber den Anbietern auch durchzusetzen.

Wie auch? Wir spielen in der Liga der Frontier-Modelle absolut keine Rolle. Wir sprechen hier über eine der bedeutendsten Sicherheitstechnologien unserer Zeit, und die Bundesregierung eröffnet ein KI-Sicherheitsinstitut, ohne dem Parlament eine langfristige Personal- und Finanzierungsplanung vorzulegen. Liebe Kollegen, wie soll dieses Institut mit den führenden KI-Laboren der Welt Schritt halten, wenn die Bundesregierung noch nicht einmal den Umfang und die Ausstattung konkret beziffern kann?

Beifall bei AfD

Es ist keinem normalen Mittelständler mehr zu vermitteln, mit wie vielen Regelungen gerade Sie von den Grünen die wenigen verbleibenden Macher in Deutschland noch gängeln wollen und wie viele Ihrer Günstlingsinstitute noch aus dem Steuertopf bezahlt werden sollen. Wir haben den AI Act und den Cyber Resilience Act, wir bekommen die NIS-2-Richtlinie und weitere sektorspezifische Sicherheitsvorschriften. Und anstatt die Unternehmer hier im Lande konkurrenzfähige Produkte entwickeln zu lassen, spendieren Sie den nächsten zuständigen Institutionen im kommenden Jahr 504 neue Personalstellen. Das ist der Nettozuwachs aus BSI, BMI, BMDS und BfDI inklusive 189 neuer NIS-2-Stellen beim ITZ Bund. Und trotz dieses unglaublichen Behördenaufwuchses fordern Sie schon wieder die nächste Kompetenzstelle im Bund. Welches konkrete Sicherheitsproblem lösen wir damit, das durch die bestehenden Vorschriften aus der EU und den nationalen Umsetzungsgesetzen noch nicht abgedeckt ist? Liebe Kollegen, mehr Regulierung bedeutet nicht automatisch mehr Sicherheit und mehr Behörden bedeuten auch nicht automatisch mehr technische Kompetenz.

Beifall bei AfD

Ein weiterer Punkt des Antrags betrifft die Möglichkeit, autonome KI-Systeme im Notfall abschalten zu können. Das mag ja sinnvoll sein. Aber ein sogenannter Not-Aus-Schalter allein löst doch das Problem nicht. Wenn ein KI-Agent bereits vertrauliche Unternehmensdaten an ein fremdes System übertragen hat, dann bringt es wenig, ihn im Nachhinein abzuschalten. Die Daten sind längst weg. Deshalb müssen wir Sicherheitsrisiken begrenzen, bevor der Schaden entsteht. Wir brauchen Systeme, deren Berechtigungen technisch kontrollierbar sind und bei denen kritische Aktionen nicht unbemerkt ausgeführt werden können.

Zuruf Rebecca Lenhard [Grüne]: „Wer soll das kontrollieren?“

Das ist praktische Cybersicherheit, und an ihrer tatsächlichen Wirksamkeit müssen wir unsere Maßnahmen messen.

Wenn wir etwas brauchen in Deutschland, in Europa, dann sind es eigene Rechenkapazitäten, leistungsfähige deutsche und europäische KI-Anbieter, sichere Infrastruktur und bessere Bedingungen für Unternehmen, die hier Sicherheitssoftware entwickeln und betreiben wollen. Am Ende entscheidet nämlich nicht die Anzahl unserer Vorschriften darüber, wie sicher künstliche Intelligenz ist. Entscheidend ist, ob wir die Technologie tatsächlich beherrschen und die Entwicklung und den Betrieb hier in Deutschland halten können.

Vielen Dank.

Beifall bei AfD
Vizepräsident Bodo Ramelow

Für die SPD-Fraktion darf ich Dr. Carolin Wagner das Wort erteilen.

Beifall bei der SPD sowie bei Abgeordneten der CDU/CSU

Sehr geehrter Herr Präsident! Werte Damen und Herren! Diese Woche habe ich gemeinsam mit Kolleginnen und Kollegen von den Grünen und den Linken eine Petition mit 200 000 Unterschriften entgegengenommen. Der Titel der Petition lautet: „Du bist kein Content“. Es geht um Smart Glasses von Meta und Ray-Ban. Ich möchte Ihnen aufzeigen, wie konkret hier die Risiken von KI schon heute sind: Kamerabrillen filmen unbemerkt, zum Beispiel im Freibad oder in der S-Bahn, und Meta nutzt diese Bild- und Audiodateien Unbeteiligter für ihr KI-Training. Da sage ich ganz klar: Keine Profite auf Kosten unserer Privatsphäre!

Beifall bei Grüne

Der Schutz im öffentlichen Raum muss gewährleistet werden.

Beifall bei CDU/CSU, SPD, Grüne

Doch die Risiken von KI reichen viel weiter – in ihrem Antrag nennen die Grünen auch viele wichtige Punkte –: KI-Agenten sind bei Sicherheitstests vorgesehene Grenzen umgangen, haben unerlaubt auf das Internet zugegriffen und sich Zugang zu anderen Systemen verschafft. Schon heute wird KI für Cyberangriffe, Manipulation und Betrug missbraucht. Expertinnen und Experten warnen vor Risiken bis hin zu biologischen und chemischen Gefahren. Je selbstständiger diese Systeme werden, desto größer ist die Gefahr, dass wir die Kontrolle über sie verlieren. KI-Risiken sind real.

Eine Gefahr fehlt mir aber in Ihrem Antrag in Bezug auf die KI, nämlich die Gefahr für unsere Demokratie. KI-Systeme sind die neuen Gatekeeper der Nachrichtenvermittlung – mit großen Auswirkungen auf unsere demokratische Öffentlichkeit. Sie beantworten politische Fragen umfassend, aus welchen Quellen, etwa aus der „Welt“, dem „Spiegel“ oder der „FAZ“, bleibt intransparent. Auch Fake News gelangen ungekennzeichnet in derartige KI-Antworten. Studien zeigen schon jetzt: KI-Modelle nutzen nur eine enge Quellenbasis; die politische Ausrichtung der Modelle, ob liberal oder konservativ, hängt vom Thema ab. Bei ChatGPT dominieren als Quelle welt.de, während OpenAI mit Axel Springer kooperiert. Da müssen wir uns doch fragen: Wer bestimmt hier eigentlich, was wir lesen? Meine Damen und Herren, wer bestimmt, was Millionen Menschen als Antwort bekommen, muss offenlegen, wie er das tut; denn Macht über unseren Diskurs braucht demokratische Kontrolle.

Beifall bei SPD

Deswegen müssen wir noch entschlossener handeln.

Hierfür möchte ich drei Punkte anführen.

Erstens. Der Aufbau des AI Safety and Security Institute ist absolut notwendig. Wir müssen unsere Resilienz im Bereich KI nachhaltig stärken und schneller werden, wenn es darum geht, Systeme zu prüfen und auf Vorfälle zu reagieren. Wichtig ist jetzt: Wir müssen das Institut zügig aufsetzen. Die Mittel dafür sind im Haushalt bereitgestellt.

Beifall bei SPD

Zweitens. Wer Systeme entwickelt, die eigenständig handeln, Sicherheitsgrenzen umgehen und unseren öffentlichen Diskurs prägen, der muss auch die Verantwortung dafür tragen. Gründliche Sicherheitsprüfungen kosten Geld. Aber die Unternehmen müssen dieses Geld in die Hand nehmen. Externe Aufsicht muss bei allen KI-Laboren zum Standard werden. Bei Anthropic schauen aktuell bereits externe Berater den Programmierern über die Schulter. Zukünftig sollten diese externen Aufsichten jedoch neutral finanziert werden, aber nicht durch Steuergelder, sondern durch eine Abgabe der Unternehmen.

Beifall bei SPD

Drittens. Europa braucht eigene Modelle. Der nächste technologische Fortschritt bei der Erstellung von Grundlagenmodellen muss aus der Europäischen Union kommen. Wir müssen Mistral stärken. Auch der Zusammenschluss von Cohere und Aleph Alpha war ein richtiger Schritt. Die Handlungsfähigkeit Europas müssen wir ausbauen. Wir können es uns nicht leisten, bei der wichtigsten Technologie unserer Zeit von Trump und zwei bis drei Tech-Bros abhängig zu sein. Gleichzeitig sind KI-Partnerschaften, wie jetzt mit Kanada, genau der richtige Schritt. Hier geht mein Blick auch in Richtung Südkorea, Japan usw. usf.; da liegt noch viel Potenzial für internationale Zusammenarbeit.

Beifall bei SPD

Liebe Kolleginnen und Kollegen, der Antrag der Grünen bringt viele wichtige Punkte auf. Ich sage: Wer KI noch stärker in alle Lebensbereiche bringen möchte, muss ihre Sicherheit mit entwickeln und prüfen. Das ist eine gesellschaftliche und demokratische Aufgabe. Es wird hier schon viel gemacht. Ich freue mich darauf, wenn wir hier noch mehr Speed aufnehmen.

Vielen herzlichen Dank.

Beifall bei CDU/CSU, SPD, Grüne
Vizepräsident Bodo Ramelow

Das Wort erhält für die Fraktion Die Linke Sonja Lemke.

Beifall bei der Linken
SL
Sonja Lemke Linke
#

Sehr geehrte Zuhörende! Herr Präsident! Die Grünen stellen heute einen Antrag, um auf die Risiken von KI-Systemen zu reagieren. Und es stimmt: Mit KI-Systemen wird es leichter, auch ohne großes technisches Verständnis Angriffe auf Unternehmen und Verwaltung zu starten. Es braucht daher dringend mehr Investitionen in die Cybersicherheit.

Ihr Antrag enthält auch richtige Maßnahmen. Doch was Sie unter anderem vergessen, sind die Kommunen. Sie verwalten einen Großteil der Daten der Bürgerinnen und Bürger, und gerade sie brauchen sichere IT-Systeme, damit Vorfälle, wie wir sie schon hatten, wie in Berlin bis hin zur Südwestfalen-IT nicht mehr geschehen. Und das muss mit ausreichend Geld hinterlegt sein. Die Kommunen werden das alleine nicht schaffen; denn wir wissen, wie fatal ihre Haushaltssituation ist. Da müssen wir jetzt handeln.

Beifall bei Linke

Wenn wir über die Gefahren von KI-Systemen reden, dann dürfen wir auch nicht vergessen, dass hinter jeder Erzählung auch handfeste wirtschaftliche Interessen stehen. Und da gehen Sie den Werbeerzählungen auf den Leim; denn KI-Firmen profitieren davon, ihre Systeme als gefährlich dastehen zu lassen. Was gefährlich ist, das ist mächtig, das kann alles. Und wenn etwas mächtig und gefährlich ist, dann muss ich als Unternehmen und auch als Staat natürlich dabei sein und dort investieren, erst recht, wenn das gefährliche Werkzeug droht in die Hand eines anderen zu fallen wie dem Konkurrenten China. Da muss man dann natürlich weiter in die KI-Systeme verbündeter Staaten investieren, sie einkaufen und beste Bedingungen für sie schaffen: ob es sich lohnt oder nicht, komme was wolle. Wir haben das gerade zur Genüge gehört.

Um diese Erzählung am Leben zu halten, passt es auch sehr gut, ab und zu mal ein Modell zurückhalten „zu müssen“, weil es „zu gefährlich“ ist. Das erste Mal wurde das übrigens 2019 mit GPT-2 gemacht, quasi einer Betaversion von ChatGPT. Dadurch hat es extreme Aufmerksamkeit bekommen, und seitdem ist das eine Standarderzählung der KI-Branche. Und mal ernsthaft: Sie können doch nicht immer und immer wieder auf den gleichen Trick reinfallen. Das ist doch wirklich lächerlich.

Beifall bei Linke

Das viele Investieren in diese Systeme führt zu einer sehr realen Gefahr, einer gigantischen Machtkonzentration. Die gleichen Modelle unter der Fuchtel einiger weniger reicher Männer werden überall eingesetzt. Sie fassen jedes Wissen zusammen, filtern das Internet, ihre Texte wandern selbst in Bücher, und auch in unserer Verwaltung sollen sie eingesetzt werden. Doch diese Systeme sind nicht neutral. Sie können manipuliert werden; Frau Wagner hat schon einige wichtige Punkte angesprochen. Und die wenigen reichen Männer werden nicht davor zurückschrecken, diese Macht einzusetzen. Dabei ist es egal, ob es um Techfaschisten aus den USA oder um Milliardäre aus Europa geht. Wenn sich Macht bei wenigen Menschen bündelt, dann wird sie auch eingesetzt. Deswegen ist es umso wichtiger, dass wir sie einschränken.

Beifall bei Linke

Die KI-Verordnung macht dort gute Anfänge, aber sie geht nicht weit genug. Statistische Verfahren dürfen nirgendwo Entscheidungen über Menschen treffen, erst recht nicht, wenn es um Entscheidungen über Leben und Tod geht, wie sie an den deutschen und den europäischen Grenzen getroffen werden. Wir brauchen nicht mehr KI. Wir brauchen verlässliche Systeme und eine gute digitale Infrastruktur, die unabhängig von einigen großen Firmen funktioniert.

Vizepräsident Bodo Ramelow

Frau Abgeordnete.

Sonja Lemke (fortgesetzt)

Denn die Tech-Bros warnen uns nicht vor der Gefahr, sie sind die Gefahr.

Gehen wir das an!

Beifall bei Linke
Vizepräsident Bodo Ramelow

Wir hören für die Bundesregierung Thomas Jarzombek, Parlamentarischer Staatssekretär beim Bundesminister für Digitales und Staatsmodernisierung.

Beifall bei der CDU/CSU sowie bei Abgeordneten der SPD
TJ
Thomas Jarzombek Parl. Staatssekretär BMDS
#

Herr Präsident! Liebe Kolleginnen und Kollegen! Wir nehmen die Risiken der KI sehr ernst, und die Bundesregierung handelt. Vieles von dem, was in Ihrem Antrag steht, passiert längst. Wir müssen aber – das ist mir sehr wichtig – auch auf die Innovation gucken. Die größte Gefahr ist, dass wir die Innovation verpassen. Wir werden KI nicht nur durch Regulierung sicher machen können, sondern indem wir KI gestalten. Dafür dürfen wir kein Konsumentenmarkt sein, sondern müssen Teil dieser Entwicklung sein und sie vorantreiben.

Beifall bei CDU/CSU, SPD

Was tun wir, um die Sicherheit an dieser Stelle nach vorne zu stellen? Wir haben das deutsche KI-Sicherheitsinstitut, das AISI Deutschland, gegründet, das seinen Dienst bereits aufgenommen hat und das wir jetzt hochskalieren zu einer Institution, die mit vielen Wissenschaftlern Verständnis von KI erzeugt und am Ende auch Mechanismen entwickelt. – Wir haben eine Kooperation mit Kanada beschlossen. Wir werden bis zu 100 Millionen Euro in das Institut LawZero investieren, das erstmalig außerhalb von Kanada einen Sitz hat, von dem weltweit am meisten zitierten Forscher Professor Yoshua Bengio. – Wir setzen uns dafür ein, dass wir für das Thema KI eine internationale Governance bekommen; denn es hilft nichts, wenn wir Regeln in Deutschland oder Europa beschließen, die Systeme aber in den USA und in China entwickelt werden. – Das zum Teil „Wie mitigieren wir die Risiken?“.

Was tun wir für die Innovation, was uns sehr wichtig ist? Wir haben in Brüssel sehr für Erleichterungen beim Thema KI-Trainingsdaten gekämpft, gerade im Digital-Omnibus, um deutschen Unternehmen die gleichen Möglichkeiten zu geben wie amerikanischen. – Wir haben die Maschinenverordnung im Bereich des AI Acts ausgenommen, um gerade das Thema der industriellen KI deutlich leichter zu machen. – Wir haben Erleichterungen eingeführt für Betriebe des Mittelstands mit bis zu 750 Mitarbeitern, die jetzt die gleichen Erleichterungen von der Brüsseler Bürokratie bekommen wie sehr kleine Unternehmen. – Wir investieren in Rechenzentren; ohne Rechenzentren geht es nicht. Wir werden die KI-Kapazitäten vervierfachen mit einem sehr umfangreichen Paket; das haben wir hier diskutiert. Über 40 Milliarden Euro Investitionen sind hier angekündigt. – Wir haben mit Cohere und Aleph Alpha auch politisch flankiert, dass das höchst bewertete KI-Unternehmen außerhalb von USA und China jetzt auch seinen Sitz in Deutschland hat. – Und wir investieren in KI in der Bundesverwaltung. Ja, wir wollen die Prozesse schneller machen. Wir haben mit SPARK einen Mechanismus, mit dem wir Planungsverfahren bei Autobahnen und Eisenbahnen deutlich beschleunigen. Wir haben über 900 Behörden, die wir jetzt mit KI ausstatten werden. Mit dem Agentic AI Hub gibt es bei fast 700 Kommunen schon Interesse, KI-Lösungen von Start-ups einzuführen.

Deshalb: Lassen Sie uns daran arbeiten! Vieles von dem, was Sie hier fordern, setzen wir schon um. Wir müssen auch an die Innovation denken.

Beifall bei CDU/CSU, SPD
Vizepräsident Bodo Ramelow

Als letzte Stimme in der Aussprache hören wir für die CDU/CSU-Fraktion Ralph Brinkhaus.

Beifall bei der CDU/CSU sowie bei Abgeordneten der SPD
RB
Ralph Brinkhaus CDU/CSU
#

Herr Präsident! Meine Damen und Herren! Ich finde es wichtig, dass wir uns hier viel mehr mit KI beschäftigen; das ist überhaupt keine Frage. Ich finde auch, dass Ihr Antrag einige gute Punkte hat. Aber ich möchte auch dem Kollegen Marvin Schulz recht geben: Es fehlt ein bisschen die Lust auf Zukunft.

Beifall bei CDU/CSU

Ich würde mich freuen, wenn wir uns wirklich sehr ernsthaft darüber unterhielten, welche Risiken mit KI verbunden sind. Ich würde mich aber noch viel mehr freuen, wenn wir uns darüber unterhalten würden, welche Chancen, welche Innovationen, welche Möglichkeiten damit verbunden sind, wie wir unser tägliches Leben, wie wir das Leben der Bürgerinnen und Bürger mit KI besser machen können; denn ich glaube, dass das eine ganz große Chance ist. KI ist eben nicht eine normale Technologie wie Buchdruck, Elektrizität und was da sonst noch gekommen ist, sondern hat eine ganz neue Dimension.

Diese ganz neue Dimension besteht darin – ich erzähle das hier immer wieder, weil wir, glaube ich, alle unterschätzen, was KI mit unserem Leben und unserem Wirken machen wird –, dass KI eine Technologie ist, die sich mittelfristig selbst verbessern kann. KI ist eine Technologie, bei der wir abschließend nicht mehr verstehen, wie Entscheidungen, wie Mechanismen funktionieren. KI ist, wenn wir Physical AI, das heißt: KI im realen Leben, möglich machen, in allen Lebensbereichen. Deswegen ist es eine epochale Veränderung; das ist überhaupt keine Frage.

Natürlich ist es so, dass diese epochale Veränderung wie alle epochalen Veränderungen auch eine negative Auswirkung haben kann. Sie haben viele richtige Punkte im Antrag aufgeschrieben. Ich finde, der allerwichtigste Punkt, über den wir uns unterhalten müssen, ist: Wie sieht das Szenario aus, wenn es eine Superintelligenz gibt? Und ist das tatsächlich wünschenswert? Können wir das verhindern – Marvin Schulz hat da die Grenzen aufgezeigt –, können wir das bremsen? Das müssen wir hier regeln; denn – da greife ich das auf, was Thomas Jarzombek gesagt hat – wir sollten uns nicht als Opfer dieser Entwicklung betrachten, indem wir versuchen, diese Entwicklung einzudämmen, sondern wir sollten die Gestalter sein. Wir sollten das aktiv aufnehmen.

Beifall bei CDU/CSU, SPD

Und wenn wir das Thema KI aktiv aufnehmen, dann müssen wir, bei allem Respekt, was die Bundesregierung schon macht – und das ist gut –, noch viel beherzter zugreifen. Wenn wir freitags mittags eine halbe Stunde über KI sprechen, dann wird das der Bedeutung dieses Themas überhaupt nicht gerecht, wenn ich mir die anderen Debatten hier im Deutschen Bundestag anschaue.

Und weil KI eben nicht nur unser Leben verbessern kann, weil es Krankheiten heilen kann, besseres Saatgut hervorbringen kann und uns erlösen kann von Arbeiten, die keiner machen möchte. Wir müssen allerdings auch sehen, dass sie bei uns tief in das gesellschaftliche Leben eingreift. Ich würde mir wünschen, dass wir uns nicht nur über die technischen Gefahren, die Sie beschrieben haben, unterhalten, sondern auch über den transformativen Effekt von KI, beispielsweise auf unser Arbeitsleben, auf Bildung, auf die Kultur. Deswegen betrachte ich diesen Antrag jetzt nicht unbedingt als Einladung, zuzustimmen – das ist er sicherlich auch –, aber als Einladung, dieses Thema weiter intensiv zu diskutieren. Und deswegen ist es gut, dass Sie es auf die Tagesordnung gesetzt haben.

Beifall bei CDU/CSU, SPD, Grüne
Vizepräsident Bodo Ramelow

Damit schließe ich die Aussprache.

Interfraktionell wird die Überweisung der Vorlage auf der Drucksache 21/8810 an die in der Tagesordnung aufgeführten Ausschüsse vorgeschlagen. Gibt es weitere Überweisungsvorschläge? – Das kann ich nicht erkennen. Dann verfahren wir wie vorgeschlagen.