Zum Inhalt springen
plenarprotokolle.de
Deutscher Bundestag 20/129

129. Sitzung

Freitag, 13. Oktober 2023Berlin 09:00 – 14:46 Uhr Nächste Sitzung: 18.10.2023
5:46 h
Sitzungsdauer
81
Reden
+ 1 Erklärungen, 3 Zwischenfragen
44.964
gesprochene Wörter
ohne Sitzungsleitung
1.104
Reaktionen
Beifall, Zurufe, Heiterkeit
0
Namentliche Abstimmungen
4
Verknüpfte Vorgänge
laut DIP-Metadaten

Redeanteil nach Fraktion

Gesprochene Wörter · Anzahl Reden

SPD
11.312
CDU/CSU
10.588
Grüne
6.457
FDP
4.658
AfD
4.523
Linke
2.571
Bundesregierung
2.454
fraktionslos
626

Reaktionen im Saal

Beifall und Zwischenrufe, ausgehend von der Fraktion

BeifallZwischenrufe
SPD
275
76
Grüne
274
94
FDP
208
35
CDU/CSU
128
198
Linke
82
17
AfD
65
158
fraktionslos
12

Außerdem 19× Heiterkeit oder Lachen und 5× Widerspruch im Protokoll vermerkt.

TOP 25 · Drucksache 20/7583, 20/7578

a) Beratung des Antrags der Fraktion der CDU/CSU – Europäische KI-Verordnung – Für eine engagierte und innovationsfreundliche Mitgestaltung Deutschlands bei der Regulierung Künstlicher Intelligenz in Europa

a) Beratung des Antrags der Fraktion der CDU/CSU – Europäische KI-Verordnung – Für eine engagierte und innova… · Überweisung laut Tagesordnung, Drucksache 20/7583
Ausschuss für Digitales · federführendWirtschaftsausschussAusschuss für Bildung, Forschung und TechnikfolgenabschätzungAusschuss für die Angelegenheiten der Europäischen Union
b) Beratung des Antrags der Abgeordneten Barbara Lenk, Eugen Schmidt, Edgar Naujok, weiterer Abgeordneter und… · Überweisung laut Tagesordnung, Drucksache 20/7578
Ausschuss für Digitales · federführendAusschuss für Inneres und HeimatRechtsausschussWirtschaftsausschussVerteidigungsausschussAusschuss für Bildung, Forschung und TechnikfolgenabschätzungAusschuss für die Angelegenheiten der Europäischen Union
Präsidentin Bärbel Bas

Ich rufe nun die Tagesordnungspunkte 25 a und 25 b auf:

Für die Aussprache wurde eine Dauer von 68 Minuten vereinbart.

Bevor ich eröffne, bitte ich, die Platzwechsel zügig vorzunehmen.

Ich eröffne die Aussprache, und zuerst hat das Wort für die CDU/CSU-Fraktion Ronja Kemmer.

Beifall bei der CDU/CSU
RK
Ronja Kemmer CDU/CSU
#

Frau Präsidentin! Liebe Kolleginnen und Kollegen! Das Handy mit dem Gesicht entsperren, bequem von unterwegs die Waschmaschine oder den Staubsaugerroboter starten oder durch vernetztes Fahren CO2 sparen – das sind nur drei Beispiele von vielen, die zeigen, wo heute schon künstliche Intelligenz unser alltägliches Leben erleichtert. KI ist gekommen, um zu bleiben, und spätestens seit ChatGPT diskutieren wir auch in der breiten Öffentlichkeit über diese Technologie.

Die Potenziale, die wir damit nutzen können, sind bei Weitem noch nicht ausgeschöpft. Gerade in einem Land wie unserem, wo der Arbeits- und der Fachkräftemangel eines der drängendsten Probleme ist, liegen darin immense Chancen. Wir sind auch überzeugt davon, dass bei den großen Herausforderungen dieser Zeit – der demografische Wandel, die Gesundheitsversorgung und auch der Klimawandel – technologische Fortschritte diejenigen sind, die uns am Ende auch den Lösungen näherbringen. Zumindest wir als Union finden, dass das zunächst eine gute Nachricht ist.

Beifall bei CDU/CSU

Die leider schlechte Nachricht ist allerdings, dass mit Blick auf KI viele Entwicklungen nicht bei uns in Deutschland oder in Europa stattfinden. Etwa drei Viertel der großen KI-Sprachmodelle kommen aus den USA, weitere 15 Prozent aus China. Und da müssen wir wirklich schon aufpassen, dass dieser Zug, der noch nicht abgefahren ist, der aber jetzt gerade große Geschwindigkeit aufnimmt, nicht ohne uns abfährt.

Wenn man der These zustimmt, dass technologischer Fortschritt auch die Grundlage unseres Wohlstandes ist, dann ist es eben falsch, aus purer Ideologie neue Technologien im Keim zu ersticken. Wir zumindest finden, das wäre ein schwerer politischer Fehler.

Beifall bei CDU/CSU

Deswegen heißt es jetzt für die Ampel: Aufwachen, bevor es wirklich zu spät ist! Nach zwei Jahren intensiver Verhandlungen in Brüssel kommt die KI-Verordnung dort jetzt auf die Zielgerade. Wir haben Sie schon vor über einem Jahr, im September 2022, hier im Bundestag dazu aufgefordert, dass Sie diesen Verhandlungen höchste Priorität einräumen und dass Sie sich vor allem dafür einsetzen, dass wir am Ende auch ein innovationsfreundliches Umfeld in Europa bekommen. Die Bilanz, die Sie da vorlegen – so muss man es sagen –, ist aber leider sehr enttäuschend. Liebe Kolleginnen und Kollegen der Ampel, das lassen wir Ihnen so nicht durchgehen.

Beifall bei CDU/CSU

Es braucht eben für Schlüsseltechnologien wie KI einen Rahmen, der diese nicht verhindert, sondern genügend Freiräume bietet. Im globalen Wettbewerb brauchen unsere wirtschaftlichen Akteure, unsere Unternehmen, am Ende auch Spielregeln, die sich in der Praxis umsetzen lassen. Da müssen wir besonders auf KMUs und Start-ups achten, weil die eben keine großen Rechtsabteilungen haben, die nachher die ganze Bürokratie bewältigen können. Die Aussage vieler auch namhafter KI-Akteure, die wir noch in Deutschland und Europa haben, dass sie den Standort verlassen werden, wenn die KI-Verordnung überzieht, müsste eigentlich ein Alarmsignal an die Regierung sein. Aber die Zerstrittenheit der Ampel zieht sich leider in dieser Frage – genauso wie in so vielen anderen Bereichen – wie ein roter bzw. rot-grün-gelber Faden durch: weitgehende Abwesenheit am Verhandlungstisch und verpasste Fristen. Man muss sagen: Da liegt schon vieles im Argen. Jetzt gilt es, zu retten, was noch zu retten ist.

Beifall bei CDU/CSU

Mit unserem Antrag legen wir Ihnen heute für die finale Verhandlungsphase sehr konkrete Vorschläge vor, die es anzupacken gilt. Das geht von der Definition über die Frage der Dokumentationspflichten bis hin zu verschiedenen Aspekten, wie wir eigentlich mit generativer KI in der Verordnung umgehen. Eines brauchen wir am Ende als Ergebnis: Wir brauchen Klarheiten. Das heißt, dass auch Widersprüchlichkeiten, die sich ergeben können, zum Beispiel zwischen KI-Verordnung und DSGVO, in den Verhandlungen ausgeräumt werden müssen. Stichwort „DSGVO und Datenschutz“: Da brauchen wir, glaube ich, perspektivisch in Deutschland noch einmal eine Debatte, die einen Paradigmenwechsel ins Auge fasst. Wir brauchen einen Datenschutz in Deutschland, der praktikabler und innovationsfreundlicher ist. Der Status quo ist einfach unbefriedigend.

Beifall bei CDU/CSU

Es geht zusammengefasst um die Frage, wo der Wohlstand der Zukunft herkommt, wie wir die Weichen dafür stellen. Es geht aber noch um mehr: Es geht auch um die Frage der Souveränität Europas, und dazu zählt natürlich auch die digitale Souveränität. Aber Souveränität erreicht man eben nicht im Schlafwagen, liebe Kolleginnen und Kollegen der Ampel. Deswegen sage ich Ihnen heute auch noch mal: Nehmen Sie doch den Schlüssel zur Welt von morgen, der dort liegt, in die Hand, bevor es andere für uns tun; denn das wäre mitnichten im Interesse eines souveränen Europas.

Abschließend will ich noch zwei Dinge sagen, die wichtig sind, wenn wir über KI und generell über neue Technologien sprechen. Wir brauchen in Deutschland auch wieder mehr Neugier, und wir brauchen vor allem wieder mehr Mut und Optimismus. Wir reden dauernd von Risiken und schlimmen Szenarien, aber wir brauchen das Gegenteil. Deswegen auch der Appell an die Regierungsvertreter: Arbeiten Sie weiter an der KI-Strategie! Bis dato sind Sie eine solche schuldig geblieben. Der KI-Aktionsplan ist angekündigt, aber eine Umsetzung ist nicht in Sicht. Vor allem planen Sie, im ganzen Bereich der Digitalisierung Gelder zu streichen. Das geht auf keine Kuhhaut. Deswegen an Sie der klare Appell: Mehr Mut, mehr Neugier! Aber machen Sie vor allem Ihre Hausaufgaben, wenn es um die KI-Verordnung geht. Das ist unser klarer Appell.

Herzlichen Dank.

Beifall bei CDU/CSU
Präsidentin Bärbel Bas

Nächster Redner: für die SPD-Fraktion Parsa Marvi.

Beifall bei der SPD und dem BÜNDNIS 90/DIE GRÜNEN sowie bei Abgeordneten der FDP
PM
#

Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Lange Zeit fristete das Thema „künstliche Intelligenz“ eher ein Nischendasein. Das hat sich in der Tat mit dem Hype um generative KI vor einem knappen Jahr durch die Veröffentlichung von GPT-3.5 fundamental verändert. Seitdem hat die Technologie überall Einzug gehalten: in den Medien, auf politischen Panels, im Büro und sogar beim Abendbrot zu Hause. Anwendungen wie ChatGPT faszinieren, nicht nur wegen ihres Könnens, sondern auch, weil sie KI auf einmal und für alle einfach nutzbar machen.

Gleichzeitig sehen wir aber auch erhebliche Risiken, die von generativer KI ausgehen. Dazu zählen Falsch- und Desinformation, Verstärkung von Diskriminierung und Marginalisierung, die Verbreitung persönlicher, sensibler Informationen bis hin zu unzähligen Clickworkerinnen und Clickworkern im Globalen Süden, die sich im Dienst der Unternehmen sozusagen als menschliche Filter für diese Technologien traumatisierende Inhalte anschauen müssen.

Es geht für uns darum, fantastische Potenziale von Zukunftstechnologien wie KI zu fördern – selbstverständlich; und von denen gibt es eine ganze Menge –, aber bei dieser Faszination nicht an der Seitenlinie stehen zu bleiben, sondern als Politik, Wirtschaft und Gesellschaft auch einen verantwortungsvollen Umgang mit KI zu finden. Das nennt man klassischerweise Risikofolgenabschätzung, und dafür sind wir im Parlament und als Politik verdammt noch mal zuständig, liebe Kolleginnen und Kollegen.

Beifall bei SPD, Grüne, FDP

Deshalb haben wir ja gewichtige Stimmen aus Wissenschaft, Gesellschaft und auch aus der Wirtschaft, die sich abseits von fragwürdigen Forderungen nach Entwicklungsstopps und Moratorien kritisch zu aktuellen Entwicklungen im Bereich künstlicher Intelligenz äußern. Vom Forscher bis zum Entwickler, viele sind sich einig: Wir brauchen verbindliche Regeln für KI. Nur dann gelingt eine vertrauenswürdige und sichere Technologie, die uns Menschen dient und die mehr Akzeptanz in Gesellschaft und Wirtschaft findet.

Beifall bei SPD, Grüne, Linke

Das ist das Setting für den risikobasierten, wertebezogenen Regulierungsansatz für KI auf europäischer Ebene, dessen Verhandlung und Beratung sich jetzt mit dem Trilog auf ein abschließendes Ergebnis hinbewegen. Ja, selbst die Europäische Volkspartei und auch Ihre eigenen Unionsabgeordneten im Europäischen Parlament stellen diese Regulierung nicht grundsätzlich in Frage,

Zuruf Nadine Schön [CDU/CSU]: „Wir auch nicht!“

und die Europäische Kommission und die Kommissionspräsidentin Ursula von der Leyen erst recht nicht.

Wir sind jedenfalls sehr froh darüber, dass es zu dieser KI-Regulierung auf europäischer Ebene kommen wird, die ein weltweit einzigartiges Regelwerk schafft, das dazu beitragen wird, dass es künftig mehr Modelle dieser Art weltweit geben wird, und das uns auch auf dem Weg hin zu der dringend benötigten internationalen Kooperation bei KI-Normen und KI-Standards helfen wird. Es ist ausdrücklich gut, dass wir als Europäerinnen und Europäer hier gemeinsam vorangehen, liebe Kolleginnen und Kollegen.

Beifall bei SPD, Grüne, FDP

Ihr Antrag – und ich habe ihn genau gelesen – ist es wert, dass wir darüber reden – selbstverständlich. Man könnte zu vielen Thesen etwas entgegnen. Ich will beispielhaft drei Bereiche hervorheben.

Erstens: Forschung und Entwicklung. Die Unionsfraktion fordert mit Blick auf die KI-Verordnung mehr Ausnahmen für diesen Bereich.

Das klingt erst mal zum Wohlfühlen:

Zuruf Ronja Kemmer [CDU/CSU]: „Es ist sinnvoll!“

Freiheit für Forschung und Entwicklung, bloß nicht zu viel regulieren; das wollen Sie damit vermutlich sagen. Dann muss man das Ganze aber auch gesamthaft betrachten. Auch OpenAI ist einst als gemeinnützige Forschungsorganisation gestartet.

Zuruf Thomas Jarzombek [CDU/CSU]: „Na ja!“

Ein paar Jahre und viele Milliarden US-Dollar später dominiert das Unternehmen den Markt.

Zuruf Thomas Jarzombek [CDU/CSU]: „Na ja, mit Elon Musk als First Investor! So gemeinnützig kann das nicht gewesen sein!“

Wie gehen wir mit einer solchen Kommerzialisierung um? Ebendieses Problem wird von Ihnen nach meinem Dafürhalten nicht ausreichend betrachtet, liebe Kolleginnen und Kollegen.

Zweitens: Ihre Einlassungen zum Thema Urheberrecht. Das Europäische Parlament hat in seinem Beschluss Mitte Juni vorgeschlagen, dass Unternehmen offenlegen müssen, mit welchem urheberrechtlich geschützten Material sie ihre Systeme trainieren.

Wir unterstützen das. Aber das kann nur ein erster Schritt sein, um dem Ungleichgewicht zwischen Kreativen und Unternehmen zu begegnen. Denn das Geschäftsmodell der Big-Tech-Unternehmen wird aktuell zu einer echten Bedrohung der beruflichen Existenz von Kreativen und Kulturschaffenden.

Nach dem Willen der Union, also laut Ihrem Antrag, soll das Thema Urheberrecht aber gar keinen Platz in der KI-Verordnung bekommen. Sie glauben, das sei einfach nicht der richtige Ort. Stattdessen wird auf die Urheberrichtlinie verwiesen.

Zuruf Ronja Kemmer [CDU/CSU]: „Ja, genau!“

Darüber, wie genau dort eine geeignete Regelung angesichts offener Fragen wie etwa beim Thema Data-Mining aussehen könnte, lassen Sie uns noch im Dunkeln, liebe Kolleginnen und Kollegen.

Drittens: das Thema Umweltschutz. Recherchen haben gezeigt, dass allein für das Training von GPT-3 so viel Strom aufgewendet worden ist, wie 200 Menschen in einem Jahr verbrauchen, und so viel Wasser, wie über 5 000 Menschen am Tag trinken. Dazu kommt das, was der tägliche Betrieb aufzehrt. Trotzdem setzt sich die Union dafür ein, dass wir Bestimmungen aus dem Beschluss des Europäischen Parlaments zur KI-Verordnung, die auf Transparenz und Eindämmung der Ressourcennutzung abzielen, fallen lassen. Ein verantwortungsvoller Umgang mit der Technologie darf aber den Umweltschutz nicht aussparen.

Beifall bei SPD, Grüne, FDP

Deshalb müssen wir die Unternehmen hier in die Pflicht nehmen, liebe Kolleginnen und Kollegen.

Was wir jetzt brauchen, ist keine Fundamentalkritik am AI Act quasi in letzter Sekunde. Wir brauchen aktive und konstruktive Mitarbeit auf den letzten Metern der Verhandlungen, um die KI-Verordnung noch besser zu machen und noch an den wichtigen Stellschrauben zu drehen. Da sind wir auf dem Weg. Selbstverständlich müssen wir heute auch schon sehr stark über eine kluge Umsetzung einer KI-Governance nachdenken, die ja dann entscheidend sein wird.

Wir sind uns sicher: So werden wir als Teil der Europäischen Union nicht nur die Ersten sein, die eine umfassende Regulierung der KI auf die Beine stellen, sondern auch global zum Vorbild für andere Staaten im Umgang mit künstlicher Intelligenz werden. An diesem Projekt wollen wir gerne mitarbeiten.

Vielen Dank.

Beifall bei SPD, Grüne, FDP
Präsidentin Bärbel Bas

Nächste Rednerin: für die AfD-Fraktion Barbara Benkstein.

Beifall bei der AfD

Sehr geehrte Frau Präsidentin! Sehr geehrte Damen und Herren! Werte Kollegen! Wir debattieren heute einen Antrag der Unionsfraktion zur EU-Verordnung über KI. Auch unsere Fraktion hat einen Antrag beigestellt.

Werte Kollegen der Union, Ihr Antrag ist wie üblich in Ansätzen gut gedacht, aber schlecht gemacht.

Zuruf Ronja Kemmer [CDU/CSU]: „Aha!“

Jeder Mensch mit gesundem Menschenverstand fragt sich doch inzwischen: Warum hat die Union ihre Vorstellungen zur KI und zur Digitalisierung nicht umgesetzt, als sie die Möglichkeit dazu hatte?

Zuruf Ronja Kemmer [CDU/CSU]: „Weil die KI-Verordnung erst jetzt verhandelt worden ist!“

Nun gut, schauen wir uns Ihren Antrag mal genauer an. Völlig zu Recht kritisieren Sie, dass es in der Bundesregierung einen chronischen Streit über Zuständigkeiten für KI zwischen den Ministerien des Digitalen, der Justiz und der Wirtschaft gibt. Doch nun rufen Sie sich mal in Erinnerung, wer sich jahrelang gegen die Einrichtung eines federführenden Digitalministeriums auf Bundesebene gewehrt hat!

Beifall bei AfD Zuruf

Wir begrüßen es, dass Sie sich für eine Stärkung der digitalen Souveränität Deutschlands und Europas aussprechen. Es gibt ja handfeste Gründe für die Vormachtstellung US-amerikanischer und chinesischer Konzerne bei der Entwicklung und Vermarktung großer KI-Sprachmodelle. Vorhandenes bzw. fehlendes Geld für eine taugliche Recheninfrastruktur ist der eine, ein überkomplizierter Rechtsrahmen, der geeignet ist, die Dynamik eines lebendigen Marktes auszubremsen, ist der andere.

Gegenwärtig läuft es doch darauf hinaus, dass die USA und China die wegweisenden Produkte liefern, während in Deutschland und Europa die Einschränkung durch Regulierung geprobt wird. Sehr geehrte Damen und Herren, Marktanteile werden so garantiert nicht gewonnen. Ganz im Gegenteil: Ideenreiche Gründer kehren unserem Land in Scharen den Rücken.

Der Vorschlag des EU-Parlaments zur Gestaltung der KI-Verordnung sieht im neugeschaffenen Artikel 28b vor, dass die Hersteller generativer KI-Lösungen, die urheberrechtlich geschützten Daten, die sie zu Trainingszwecken ihrer Algorithmen verwenden, auflisten sollen. Die Gefahr, die von großen Sprachmodellen ausgeht, liegt in der nicht näher benannten Herkunft der zugrundeliegenden Daten. Aus genau diesen Gründen der Transparenz halten wir es für richtig, die Trainingsdaten offen zu markieren.

Beifall bei AfD

Doch damit ist die Mängelliste Ihres Antrags noch nicht abgeschlossen. Die Förderung quelloffener KI-Lösungen nehmen Sie nicht in den Blick, als habe es den großen Erfolg der in Deutschland entwickelten Open-Source-Software Stable Diffusion nie gegeben.

Leider klammern Sie in Ihrem Antrag die aktive Rolle der Bürger bei der Nutzung von KI-Lösungen aus. Wir greifen in unserem Antrag die Sorgen vieler Menschen vor den Auswirkungen von KI auf das eigene private und berufliche Leben auf.

Beifall bei AfD

Daher ist es für uns wichtig, in den Trilogverhandlungen auf Maßnahmen hinzuweisen, durch die Menschen besser mit der neuen technischen Entwicklung KI umgehen können. Ein Ziel ist der souveräne Verbraucher und Arbeitnehmer im Umgang mit künstlicher Intelligenz.

Beifall bei AfD

Werte Kollegen, wie ich anfangs schon gesagt habe: Laut gerufen, schwach gesprungen. Nach einer in Grundzügen richtigen Problembeschreibung hakt es bei den sachgerechten Lösungsvorschlägen. Hier sollten Sie, werte Kollegen der Union, vielleicht Ihr KI-Verständnis noch etwas trainieren.

Vielen Dank für die Aufmerksamkeit.

Beifall bei AfD
Präsidentin Bärbel Bas

Nächste Rednerin: für die Fraktion Bündnis 90/Die Grünen Tabea Rößner.

Beifall beim BÜNDNIS 90/DIE GRÜNEN sowie bei Abgeordneten der SPD und der FDP
TR
#

Sehr geehrte Frau Präsidentin! Meine Damen und Herren! Die Union sorgt sich um die Anschlussfähigkeit Deutschlands. Ja, aus welchem Dornröschenschlaf sind Sie denn erwacht?

Beifall bei SPD, Grüne, FDP

ChatGPT gibt es ja nun schon lange, das ist nicht einfach vom Himmel gefallen; die Foundation Models werden bereits seit über zehn Jahren trainiert.

Europa muss wettbewerbsfähig sein. Deshalb ist es richtig, dass wir KI-Labore und Kompetenzzentren aufbauen, in Forschung und Entwicklung investieren, Bedingungen für Gründerinnen und Gründer verbessern, den Zugang zu Daten ermöglichen und ein Umfeld schaffen, das Innovation befördert. Und dazu gehört auch ein gesetzlicher Rahmen, der Rechtssicherheit schafft. Das fordern auch viele Unternehmen. Denn neben den vielen Chancen gibt es beim Einsatz von KI natürlich auch Risiken; auf die weisen ja selbst die großen Techunternehmen hin wie auch viele Wissenschaftlerinnen und Entwickler, darunter auch der KI-Vordenker Geoffrey Hinton. Insofern sind Forderungen nach Deregulierung anachronistisch.

Beifall bei Grüne Zuruf Ronja Kemmer [CDU/CSU]: „Nein! Richtige Regulierung!“

Regulierung und gemeinsame Standards schaffen ja gerade Rechtssicherheit und ein Level Playing Field für Wirtschaft und Innovation. Die KI-Verordnung stellt einen Paradigmenwechsel dar. Erstmals wird nicht eine Technologie reguliert, sondern mit dem risikobasierten Ansatz werden auch zukünftige Technologien mit adressiert. Damit kommen wir endlich in die Vorhand, statt den technischen Entwicklungen immer hinterherzurennen.

Beifall bei Grüne

Aber für Risiken zeigen Sie ja keinerlei Lösungen auf. Stattdessen will die Union die Grundrechteprüfung streichen, die AfD gar die Klassifizierung von Hochrisikosystemen. Dabei gibt es zahlreiche Beispiele, welches Diskriminierungspotenzial KI hat: Ich denke an die niederländische Kindergeldaffäre, bei der Zehntausende Familien durch KI fälschlicherweise des Betrugs bezichtigt wurden und die einige Menschen in den Selbstmord trieb, oder zweifelhafte KI-Analysen im Personalwesen bis hin zu automatisierten Kündigungen wie in den USA, Chatbots, die Suizidtendenzen bestärken, oder Bonitätsrechnungen, die Männer gegenüber Frauen deutlich bevorzugen. Das sind nur einige Beispiele.

KI wird in vielen öffentlichen und privaten Bereichen bereits eingesetzt: in Forschung und Bildung, Mobilität und Städteplanung, bei Versicherungen und Banken, in Handel und Verwaltung, Arbeitsmarkt und Polizeiarbeit. Umso wichtiger, dass Daten-, Verbraucher- und Grundrechtsschutz gewährleistet sind! Vertrauenswürdige KI „made in Europe“, das muss unsere Marke sein.

Beifall bei SPD, Grüne

Unsicherheit besteht hinsichtlich der Large Language Models. Die Plattform X hat dem Scraping großer Sprachmodelle den Riegel vorgeschoben. OpenAI stoppte die Bing-Integration von ChatGPT wegen der Umgehung von Paywalls. Und Kreative sehen ihre Werke als begehrtes Datenfutter missbraucht und fordern Vergütungen für die Nutzung.

Zuruf Thomas Jarzombek [CDU/CSU]: „Das ist nur negativ! Die ganze Rede ist nur negativ!“

Für den Datenhunger dieser Systeme braucht es Antworten, lieber Herr Jarzombek.

Zuruf Thomas Jarzombek [CDU/CSU]: „Aber doch nicht, indem man alles nur schlimm findet!“

Wenn es keine neuen kreativen Inhalte im Netz mehr gibt, weil man damit nichts mehr verdienen kann und die Systeme kein frisches Futter mehr bekommen, dann landen wir im Value Lock.

Zuruf Thorsten Frei [CDU/CSU]: „Wo?“

Welche Auswirkungen hat das auf den Meinungsbildungsprozess? Genauso wie vermeintlich perfekte ChatGPT-Texte oder Kl-Bilder! Viele Menschen haben ja heute schon Probleme, redaktionelle Inhalte von Werbung oder Falschmeldungen zu unterscheiden.

Zuruf Thomas Jarzombek [CDU/CSU]: „Das liegt auch an den Redaktionen zuweilen!“

Hier geht es um womöglich fundamentale Auswirkungen auf unsere Demokratie.

Beifall bei SPD, Grüne Zuruf Thomas Jarzombek [CDU/CSU]: „Das ist nur negativ! Die ganze Rede ist nur negativ!“

– Nein, das ist nicht nur negativ.

Es ist richtig, dass das Europaparlament generative Kl in die Kl-Verordnung mit aufgenommen hat. Und es ist wichtig, dass von Anfang an evaluiert wird und Fehlentwicklungen schnell entgegengesteuert werden kann.

Und zum Schluss: Völlig unverständlich sind Ihre Forderungen, Umweltauflagen zu streichen. Ja, Kl kann viele Effizienzgewinne ermöglichen, aber doch nur dann, wenn sie selbst weniger Ressourcen verbraucht. Wenn aber allein 1 Milliarde Anfragen bei ChatGPT in einem Monat so viel Energie verbraucht wie eine Stadt wie Oldenburg im ganzen Jahr, dann zeigt das doch, dass man dringend auch an den Stromfresser Kl ranmuss.

Beifall bei Grüne, FDP Zuruf Thomas Jarzombek [CDU/CSU]: „Wir müssen Oldenburg abschalten! Das ist total absurd!“

Wir sind überzeugt: Mit der Kl-Verordnung fördern wir Kl auf Basis der europäischen Werteordnung. Daran werden sich viele andere Länder orientieren. Wir setzen damit Maßstäbe, und zwar weltweit.

Vielen Dank.

Beifall bei SPD, Grüne, FDP
Präsidentin Bärbel Bas

Nächste Rednerin: für die Fraktion Die Linke Dr. Petra Sitte.

Beifall bei der LINKEN
PS
#

Frau Präsidentin! Meine Damen und Herren! Es ist gut, dass wir erneut zu Fragen der künstlichen Intelligenz beraten. Anlass geben nicht nur der Verhandlungsverlauf zur Regulierung von künstlicher Intelligenz auf EU-Ebene, sondern auch jüngste Erkenntnisse aus KI-Anwendungen, die wir nicht ignorieren sollten.

Zuruf Dr. Gesine Lötzsch [Linke]: „Genau!“

So galt bislang ChatGPT immer wieder als besonders positives Anwendungsbeispiel für KI. Nun aber haben Forschungen von AlgorithmWatch gemeinsam mit IA-Forensics gezeigt, dass der Chatbot beispielsweise Fragen zu den Landtagswahlen in Bayern und Hessen falsch und mit irreführenden Inhalten beantwortet hat.

Zuruf Ronja Kemmer [CDU/CSU]: „Das macht ihr doch mit den Menschen!“

Das ist demokratiegefährdend, und deshalb können wir nicht einfach über solche Entwicklungen hinweggehen.

Beifall bei SPD, Grüne, Linke

Zudem – auch das will ich an den Anfang meiner Rede stellen; Kollege Marvi von der SPD und Tabea Rößner von den Bündnisgrünen haben gerade darauf hingewiesen – stellt eigenartigerweise der Unionsantrag das vom EU-Parlament eingeführte Kriterium „Umwelt“ infrage. Das verstehe ich überhaupt nicht.

Beifall bei Grüne, Linke Zuruf Ronja Kemmer [CDU/CSU]: „Nicht in der EU zugelassen! Darum geht es!“

– Sie wollen es sogar streichen; das steht in Ihrem Antrag.

Dabei ist doch bekannt, dass KI-Nutzung einen immens hohen Strom- und Wasserverbrauch verursacht. Nachhaltigkeit und Klimaneutralität müssen angesichts der Klimaziele der UN und Deutschlands

Zuruf Thomas Jarzombek

mittelfristig wesentlich über die Förderung und den Einsatz neuer Technologien, also auch von KI, entscheiden.

Beifall bei Linke

Die Linke schlägt weiterführend vor, dass gemeinwohlorientierte, also nichtkommerzielle Anwendungen gestärkt werden. Und natürlich sollen diese auch auf verlässlichen sogenannten Grundlagenmodellen basieren können. Die Kollegen haben es schon erwähnt: Aktuell sind es jedoch die großen Techunternehmen, die solche Grundlagenmodelle anbieten. Es kann also nicht verwundern, dass wir diese auch in die Pflicht nehmen wollen, wenn es darum geht, Risiken von KI-Anwendungen zu begrenzen. Das muss verbindlich geregelt werden.

Beifall bei Linke

KI-Anwendungen im Sinne des Gemeinwohls gibt es beispielsweise in Behörden, in Schulen, kleinen Unternehmen oder eben auch in Nichtregierungsorganisationen. Und diese agieren oftmals im Grundrechtsbereich, oder sie bemühen sich beispielsweise aktiv um den Schutz von Grundrechten. Aktuell sollen bezüglich der Grundlagenmodelle diese Akteure aber deutlich stärker belastet werden als die großen Techkonzerne. Für diese stehen sogar Ausnahmen in Aussicht, beispielsweise bei Anwendungen im Hochrisikobereich; also sie können sich dort sozusagen selbst einschätzen. Aktuell ist die Verordnung so formuliert, dass sie den Techkonzernen damit Schlupflöcher öffnet, Grundrechte einzuschränken. Das ist vollkommen inakzeptabel.

Beifall bei SPD, Linke Zuruf Ronja Kemmer [CDU/CSU]: „So ein Quatsch!“

– Ja, ja.

Die Öffentlichkeit kann derzeit kaum überblicken, was gerade zur KI-Verordnung verhandelt wird. Und mit welchen Positionen die Bundesregierung sich dort einbringt, bleibt ebenso intransparent. Das zeigen die Antworten der Bundesregierung auf unsere Kleine Anfrage.

Zuruf Nadine Schön [CDU/CSU]: „Das waren keine Antworten!“

Damit werden die Kontrollrechte des Parlaments, aber eben auch Informationsansprüche der Bevölkerung unterlaufen. Auch das ist inakzeptabel.

Beifall bei Linke

Statt weiterer Regulierungsausnahmen bedarf es schnell verbindlicher Regeln und Definitionen. Würden Sie sich beispielsweise stärker an unseren Vorschlägen oder verschiedener demokratischer, zivilgesellschaftlicher Organisationen orientieren, gäbe es mehr Vertrauenswürdigkeit für KI, sicherere Anwendungen und besseren Grundrechtsschutz. Wieso, um Gottes willen, soll das ein Innovationsnachteil sein? Das wäre doch eher ein Marktvorteil für europäische Modelle.

Beifall bei SPD, Linke

Fazit: Es muss an Werkzeugen gegen den Missbrauch von KI viel stärker geforscht werden, Zulassungsverfahren müssen verbindlicher werden. Es müssen gemeinwohlorientierte Anwendungen gestärkt werden. Und schließlich müssen Erklärungs- und Mitbestimmungsrechte bei Entscheidungen, die auf KI-Nutzung folgen, etabliert werden.

Besten Dank.

Beifall bei Linke
Präsidentin Bärbel Bas

Nächster Redner: für die Bundesregierung der Parlamentarische Staatssekretär beim Bundesminister für Digitales und Verkehr, Michael Theurer.

Beifall bei der FDP sowie bei Abgeordneten der SPD
MT
Michael Theurer Parl. Staatssekretär BMDV
#

Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Die Digitalisierung ist die Erweiterung der realen Welt um eine digitale Dimension, die im Zusammenwirken neue, zusätzliche Handlungsoptionen eröffnet. Die Debatte hat jetzt schon gezeigt, dass diese Entwicklung – als Quantensprung, als Revolution, als Multitalent wird ja die künstliche Intelligenz bezeichnet – mit Chancen und Risiken einhergeht.

Meine Damen und Herren, die Chancen und die Risiken sind heute schwer absehbar und kalkulierbar. Manche sagen, dass keiner weiß, was KI können wird und wie man sicherstellt, dass man vertrauen kann. Man muss nicht so weit gehen wie der Cambridge-Physiker Stephen Hawking, der 2014 davor warnte, dass künstliche Intelligenz das Ende der Menschheit bedeuten könnte, oder der Historiker Yuval Harari, der davon sprach, dass KI das zerstören könnte, was den Menschen ausmacht.

Zuruf Ronja Kemmer [CDU/CSU]: „Selbst die FDP ist nur negativ!“

Es reicht schon, meine Damen und Herren, einfach mal online zu gehen und eines der beliebten Sprachmodelle zu fragen, etwa ChatGPT oder Bard; man erfährt dann: Die Steuerung von Verkehr und selbstfahrende Fahrzeuge können das Verkehrswesen revolutionieren. Das Gesundheitswesen wird durch datengestützte Verbesserungen in Diagnose und Behandlung transformiert. Und die Wirtschaft kann durch die Automatisierung von Arbeitsplätzen und effizientere Produktionsmethoden in Schwung gebracht werden. – Das sind alles positive Dinge, die ja zum Teil auch heute schon angewendet werden.

Aber auch KI warnt davor, dass Arbeitsplatzverluste, Datenschutzprobleme und Diskriminierungsanfälligkeit drohen und sich völlig neue ethische und auch sicherheitspolitische Fragen stellen. Im Mutterland der Digitalisierung, in den Vereinigten Staaten von Amerika, haben in Hollywood kürzlich die Kunstschaffenden und die Kreativen gestreikt, weil sie Angst haben, dass ihr Urheberrecht nicht geschützt werden kann und ihnen in Zukunft die wirtschaftliche Basis ihrer Tätigkeit komplett entzogen wird.

Wenn Kollegin Kemmer bei der Begründung des Antrags der CDU/CSU-Fraktion darauf hinweist, dass es in Deutschland und in Europa erheblichen Nachholbedarf bei der künstlichen Intelligenz gibt, dann hat sie völlig recht. Denn 2021, als wir von der CDU/CSU-geführten Bundesregierung übernommen haben, war es ja so, dass die privaten Investitionen in künstliche Intelligenz in Deutschland bei 2,35 Milliarden US-Dollar lagen, in Großbritannien bei 4,4 Milliarden US-Dollar, also Faktor 2, und in den USA bei 47,4 Milliarden US-Dollar, also Faktor 20. Auch in China wurden 13,4 Milliarden US-Dollar investiert. Da gab es also einen erheblichen Handlungsbedarf.

Aber es gibt auch positive Signale: Die Zahl der Unternehmen in Deutschland, die künstliche Intelligenz anwenden, ist gestiegen – von damals 9 Prozent auf jetzt 15 Prozent. Aber das ist natürlich immer noch eindeutig zu wenig.

Zuruf Ronja Kemmer [CDU/CSU]: „Wo ist denn die Fortschreibung der KI-Strategie?“

In der Marktwirtschaft kommt es darauf an, dass die Unternehmen investieren; das kann nicht der Staat machen. Das macht in anderen Ländern wie in den USA auch nicht der Staat, sondern die private Wirtschaft.

Beifall bei FDP

Meine Damen und Herren, wir sind froh und stolz, dass sich die Zahl der Start-ups von 245 im Jahr 2022 auf 508 verdoppelt hat, davon 40 Prozent wissenschaftsbasiert.

Heute geht es um die Verordnung der Europäischen Union. Diese Verordnung allein wird den Rückstand nicht aufholen. Im Gegenteil: Sie muss einen Rahmen setzen, dass Innovation auch in Zukunft möglich ist. Sie darf also die Risiken nicht überbewerten; sie muss auch die Chancen berücksichtigen, und genau dafür setzen wir uns ein. Die Punkte, die zum Teil in Ihrem Antrag erwähnt werden, sind für uns handlungsleitend bei den Beratungen, die jetzt im Trilog anstehen,

Zuruf Ronja Kemmer [CDU/CSU]: „Wer verhandelt denn?“

die die spanische Ratspräsidentschaft entsprechend für den Rat verhandeln muss. Deutschland hat in der Protokollerklärung darauf hingewiesen, was wir zusätzlich haben wollen.

Wir finden den risikobasierten Ansatz richtig, dass „General Purpose AI“-Systeme, also allgemeine Problemlösungsmaschinen, die zur Verfügung stehen, nach der Risikosystematik reguliert werden müssen.

Zuruf Ronja Kemmer [CDU/CSU]: „Das macht überhaupt keinen Sinn!“

Wir wollen aber – ich komme damit zum Schluss –, dass es für sogenannte Foundation Models, also KI-Basismodelle, nur eine Selbstregulierung gibt. Wir wollen einen Rechtsrahmen schaffen, in dem vertrauenswürdige KI-Systeme entwickelt werden, aber Risiken minimiert und Auswüchse gesetzlich geahndet werden können. Dafür setzen wir uns bei den Trilogverhandlungen ein.

Beifall bei SPD, Grüne, FDP
Präsidentin Bärbel Bas

Nächste Rednerin: für die CDU/CSU-Fraktion Nadine Schön.

Beifall bei der CDU/CSU
NS
Nadine Schön CDU/CSU
#

Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Mich lässt diese Debatte heute Morgen ziemlich ratlos zurück.

Zuruf Thomas Jarzombek [CDU/CSU]: „Sprachlos!“

– Sprachlos auch.

Zuruf Armand Zorn [SPD]: „Das muss am Antrag liegen!“

Normalerweise sitzen hier an einem Freitagvormittag auf den Tribünen viele junge Leute.

Zuruf

Ich bin ganz froh, dass Sie, die gerade erst den Saal betreten haben, die Debatte bisher noch nicht verfolgen mussten; denn ich würde mir wünschen, dass von so einer Debatte das Signal ausgeht: Wir blicken optimistisch in die Zukunft.

Wir sind der Meinung, dass wir mit unserem Know-how,

Zuruf Stefan Schmidt [Grüne]: „Wahnsinn!“ Zuruf

mit unseren schlauen Menschen, mit unseren Forschern, mit unserer innovativen Wirtschaft das Thema „künstliche Intelligenz“ nutzen sollten, um die großen Probleme, die wir haben, angehen zu können,

Zuruf Tabea Rößner [Grüne]: „Das tun wir doch!“

um neue Lösungen zu erarbeiten. Wir sind der Meinung, dass wir das so regulieren sollten, dass wir das schaffen und wirtschaftlich erfolgreich sind, aber auch unsere Gesellschaft mitnehmen. Das, was ich bisher in den Reden gehört habe, waren vor allem Bedenken, Skepsis, Sorgen und Risiken. Wo ist der Zukunftsoptimismus in diesem Haus?

Beifall bei CDU/CSU Zuruf Parsa Marvi [SPD]: „Jetzt zu Ihrem Antrag!“ Zuruf Dr. Johannes Fechner [SPD]: „Zum Antrag! Zum Thema!“

Noch viel ratloser bin ich bezüglich der Frage, was diese Ampelregierung mit den sie tragenden Fraktionen jetzt eigentlich will. Wir haben gerade den Staatssekretär gehört, und ich dachte: Vielleicht gibt er uns mal einen Eindruck davon, was jetzt genau verhandelt wird in Brüssel.

Zuruf Maximilian Funke-Kaiser [FDP]: „Hat er doch!“

Aber außer drei völlig allgemeinen Sätzen über die Regulierung, über den AI Act, haben wir erneut nichts gehört.

Ich dachte: Vielleicht gibt er uns mal einen Eindruck davon, wer jetzt eigentlich was verhandelt.

Zuruf Maximilian Funke-Kaiser [FDP]: „Das BMDV! Ist doch klar!“ Zuruf Ronja Kemmer [CDU/CSU]: „Das BMWK sieht das anders!“

Denn wir versuchen alle seit Monaten, herauszufinden, wer in dieser Regierung eigentlich was mit welchem Ziel in Brüssel verhandelt.

Zuruf Tobias B. Bacherle [Grüne]: „Die Ratspositionierung war letztes Jahr im Dezember abgeschlossen!“

Wir haben dazu Anfragen gestellt. Es gab gerade einen „Zeit“-Artikel, wo ganz deutlich zum Ausdruck kam: Es ist überhaupt nicht klar, welche Positionen die Bundesregierung auf europäischer Ebene vertritt.

Zuruf Tabea Rößner [Grüne]: „Das ist doch gar nicht wahr!“

Die Bevölkerung bleibt größtenteils im Unklaren.

Auf die Anfragen von uns und auch der Fraktion Die Linke wurde überwiegend geantwortet, dass man noch prüft und noch in Abstimmung ist. Und auch hier: mehr Fragezeichen als Antworten. Das ist deutlich zu wenig, wenn man als starkes Industrieland Deutschland in Brüssel kraftvoll auftreten will.

Beifall bei CDU/CSU, Linke

Am meisten Unklarheit besteht darüber, ob Sie denn überhaupt eine Einigkeit haben. Der Staatssekretär sagte eben, dass das, was wir als Union in unserem Antrag schreiben, handlungsleitend für die Bundesregierung sei – handlungsleitend! Es ist erst mal ein ermutigendes Zeichen, Herr Staatssekretär, dass Sie unsere Positionierung offensichtlich teilen. Nur, alle Redner der Ampel, die vor Ihnen gesprochen haben, haben genau das Gegenteil gesagt; sie haben jeden einzelnen Punkt in unserem Antrag infrage gestellt.

Zuruf Tabea Rößner

Deshalb frage ich mich und auch Sie als Parlament: Was ist denn jetzt eigentlich die Position des Parlamentes in dieser Frage? Was ist die Position der Parlamentarier, die ihrer Regierung doch auch Guidance geben müssen? Es gibt bisher keinen Antrag, keine Positionierung seitens der Ampelfraktionen und auch keine klare Positionierung der Bundesregierung.

Deshalb kann ich Ihnen nur empfehlen: Nehmen Sie unsere Positionierung! Darin gehen wir nämlich sehr konkret in die einzelnen Vorschriften rein mit dem Ziel, dass wir sehr innovationsoffen, sehr pragmatisch, aber eben auch mit dem notwendigen Schutz unserer Bürgerinnen und Bürger den AI Act, dieses ganz wichtige Regularium für die Regulierung der künstlichen Intelligenz in Europa, gestalten. Nehmen Sie es als handlungsleitend, wie der Staatssekretär sagt; dann kann daraus noch was werden! Aber bringen Sie mehr Transparenz und mehr Klarheit auch in Ihre politischen Äußerungen, damit die Menschen in unserem Land wissen, worum es geht, und damit wir alle mit mehr Zukunftsoptimismus in die nächsten Jahre gehen können.

Beifall bei CDU/CSU
Präsidentin Bärbel Bas

Nächster Redner: für die SPD-Fraktion Armand Zorn.

Beifall bei der SPD sowie bei Abgeordneten des BÜNDNISSES 90/DIE GRÜNEN und der FDP
AZ
#

Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Sehr geehrte Damen und Herren! Es freut mich sehr, dass wir die Debatte um die KI-Verordnung fortführen können. Das ist ja nicht das erste Mal, dass wir darüber sprechen.

Liebe Frau Schön, das kann ich Ihnen jetzt leider nicht ersparen: Wir haben Kritik am Antrag der CDU/CSU-Fraktion geäußert, nicht an der KI-Verordnung, nicht an der Technologie an sich, sondern an dem Antrag, der wesentliche Punkte enthält, die wir hier noch kritisch besprechen müssen.

Beifall bei SPD, Grüne, FDP Zuruf Thomas Jarzombek [CDU/CSU]: „Aha!“

Ich glaube, Sie haben das in dem Antrag auf den Punkt gebracht – ich will auch etwas Positives dazu sagen –: Sie haben herausgearbeitet, dass das Thema „generative KI“ einer der kritischsten Punkte ist, die wir gerade miteinander besprechen müssen.

Da gibt es unterschiedliche Meinungen. Da gibt es die einen, die der Meinung sind: Generative KI bringt so viele Risiken mit sich, und sie sind nicht vorhersehbar; deswegen muss man das komplett verbieten. – Es gibt andere – dazu gehört das Europäische Parlament –, die die Meinung vertreten, dass man diese Modelle berechnen muss, dass man Basismodelle regulieren muss. Basismodelle müssten sich einer Risikoklassifizierung unterziehen, und dann solle man entlang der Wertschöpfungskette weiterschauen.

Zuruf Tabea Rößner [Grüne]: „Genau!“

Und es gibt die Position der Bundesregierung – das hat der Staatssekretär deutlich gemacht –: Die Bundesregierung setzt sich dafür ein, dass man eine klare Trennung zwischen Basismodell einerseits und generativer KI andererseits macht. Basismodellen sollte eine Selbstverpflichtung auferlegt werden, während generative KI entsprechend der Risikoklassifizierung einzuordnen ist.

Was ich vermisse, ist eine Position der CDU/CSU-Fraktion.

Beifall bei SPD, Grüne

In Ihrem Antrag gibt es kein Wort dazu. Sie sagen: „Man muss das angehen“, ja. Aber Sie machen keinen Vorschlag, wie wir mit der Frage von generativer KI umgehen können, und das finde ich schon sehr fahrlässig.

Beifall bei SPD, Grüne

Was komplett widersprüchlich ist: Die Position des Europäischen Parlamentes, die ein Kompromiss war, wozu auch die EVP beigetragen hat, dem auch die europäischen Abgeordneten der CDU und der CSU zugestimmt haben, steht konträr zu dem, was Sie in Ihrem Antrag haben. Ja, was denn nun? Jetzt müssen Sie es uns mal sagen: Was denkt denn die CDU/CSU, wenn es darum geht, mit generativer KI umzugehen? Ich muss sagen: Sie lassen mich ratlos zurück. Ich frage mich, was da eigentlich Ihre Position ist.

Beifall bei SPD, Grüne

Liebe Kolleginnen und Kollegen, ich will aber etwas Positives dazu sagen, weil Sie gerade bemängelt haben, dass sich diese Debatte immer wieder um Risiken dreht. Aber nein, so ist es nicht.

Diese Regulierung ist gut. Diese Regulierung setzt den richtigen Rahmen, den wir brauchen, um auf der einen Seite das Vertrauen in diese Technologie zu stärken,

Zuruf Tabea Rößner [Grüne]: „Um zu ermöglichen!“

aber auf der anderen Seite zeitgleich auch Innovationsfähigkeit und Wettbewerbsfähigkeit bei uns in Deutschland und bei uns in Europa zu ermöglichen.

Zuruf Ronja Kemmer [CDU/CSU]: „Da eben nicht!“

Ich will auf die Frage von Reallaboren eingehen, weil wir ja bei dem Thema „generative KI“ nicht genau wissen, wie sich diese Technologie entwickeln wird.

Wir machen eine Verordnung. Wir wissen, wie lange es dauert, bis eine Verordnung auf den Weg gebracht wird. Wir wissen aber nicht, wie sich diese Technologie in den nächsten Jahren ändern wird. Deswegen ist eine der größten Herausforderungen, die wir jetzt haben, eine technologieoffene und zukunftsfeste Regulierung auf den Weg zu bringen.

Die Reallabore sind eine gute Möglichkeit, dafür zu sorgen, insbesondere kleinen und mittelständischen Unternehmen die Möglichkeit zu geben, in Zukunft insbesondere bei generativer KI in enger Zusammenarbeit mit den Aufsichtsbehörden an bestimmten KI-Modellen zu arbeiten und sie so lange zu testen, so lange zu proben, bis diese Unternehmen bereit sind, auf den Markt zu gehen, wobei dann gesichert wird, dass nicht nur die Grundrechte gewährleistet werden, sondern auch, dass Innovationen aus Europa kommen.

Beifall bei FDP

Aber, liebe Kolleginnen und Kollegen, am Ende sind eine gute Verordnung und gute Regularien nur die Hälfte der Miete. Auf der anderen Seite gibt es viele weitere Faktoren, die wir brauchen, um dafür zu sorgen, dass diese Technologie auch bei uns in Europa weiterhin an Fahrt aufnimmt.

Ich will auf das Thema KI-Rechenzentren eingehen. Wir brauchen mehr KI-Rechnerkapazitäten in Deutschland. Deswegen werden wir jetzt in den Haushaltsverhandlungen dafür sorgen, dass auch mehr Mittel dafür zur Verfügung gestellt werden.

Zuruf Ronja Kemmer [CDU/CSU]: „So, so!“ Zuruf Thomas Jarzombek [CDU/CSU]: „Oha! – Weiterer Zuruf von der CDU/CSU: Hört! Hört!“

– Ja: „So, so!“ – „Hört! Hört!“.

Des Weiteren muss man auch mal über die Frage von Datenqualität, Datenverarbeitung, Datenkultur und Datennutzung reden. Es ist diese Bundesregierung, diese Ampelregierung, die vor ein paar Wochen die Weiterentwicklung der Datenstrategie vorgelegt hat, wodurch genau die richtigen Faktoren genannt werden, wodurch genau die richtigen Schwerpunkte gesetzt werden. Denn am Ende des Tages ist jede Innovation, jedes KI-System nur so gut wie die Daten, worauf es basiert. Wir als Ampelkoalition stehen dafür, dass wir Daten stärker nutzen, dass wir für mehr Datenqualität sorgen und dass wir am Ende auch dafür sorgen, dass diese Daten den Weg in die freie Wirtschaft finden. Dafür stehen wir.

Liebe Kolleginnen und Kollegen, abschließend will ich sagen – –

Zuruf Thomas Jarzombek [CDU/CSU]: „Das konsentiert mal mit den Grünen! Viel Spaß!“

– Ja, das machen wir. Die Grünen sehen das genauso.

Abschließend will ich sagen – –

Zuruf Thomas Jarzombek [CDU/CSU]: „Ich habe hier gerade andere Reden gehört!“

– Darf ich meine Rede zu Ende führen, ohne durch Zwischenrufe unterbrochen zu werden? – Danke.

Abschließend will ich sagen, dass wir auf europäischer Ebene diese KI-Verordnung brauchen. Sie wird kommen. Aber den lokalen Ansatz dürfen wir nicht vergessen. Innovationen entstehen in Ökosystemen, und Ökosysteme machen lokal oder regional am besten Sinn.

Bei mir in Frankfurt gibt es einen AI Hub, das sich auf den Weg gemacht hat, einen Verein, der verschiedene Akteure aus der Wirtschaft, aus der Zivilgesellschaft, aus der Wissenschaft und aus der Verwaltung zusammenbringt, um dafür zu sorgen, dass gemeinsam KI-Modelle entwickelt werden, die dann tatsächlich dafür sorgen, dass wir in all diesen Bereichen Fortschritte erzielen können. Das ist ein Ansatz, der zeigt, wofür wir stehen. Das ist ein Ansatz, den wir verfolgen wollen. Ich freue mich auf die weitere Debatte.

Vielen Dank.

Beifall bei SPD, Grüne, FDP
Vizepräsidentin Katrin Göring-Eckardt

Eugen Schmidt hat das Wort für die AfD-Fraktion.

Beifall bei der AfD
ES
#

Frau Präsidentin! Liebe Landsleute! George Orwells Buch „1984“ sollte als Warnung verstanden werden, nicht als Handbuch oder Bedienungsanleitung. Die neuen Systeme der künstlichen Intelligenz sind eine große Chance für Deutschland. Der von der Regierung missbrauchte Begriff des Fachkräftemangels dient aber nur dazu, noch mehr Migranten nach Deutschland zu schleusen.

Zuruf Tobias B. Bacherle [Grüne]: „Hä?“ Zuruf Tabea Rößner

KI hat das Potenzial, uns bei vielen Aufgaben zu entlasten, um Deutschland trotz einer älter werdenden Gesellschaft wettbewerbsfähig zu halten. Die Zukunft liegt in der Technologie und nicht in der Einwanderung.

Beifall bei AfD

Deshalb müssen wir viel mehr tun, um die KI-Entwicklung auch in Deutschland zu stärken.

Doch bei allen Chancen, die KI bietet, dürfen wir die potenziellen Gefahren nicht aus den Augen verlieren. Künstliche Intelligenz in den falschen Händen hat das Potenzial zur Totalüberwachung.

Zuruf Ronja Kemmer

Die Pläne liegen bereits auf dem Tisch. Das lehnen wir entschieden ab.

Beifall bei AfD

Biometrische Überwachung in Echtzeit darf nicht zur Realität in Deutschland werden, egal welchen Vorbildern im Ausland auch immer diese Regierung nacheifert.

Wenn wir an Orwells dystopische Visionen denken, scheinen sie uns wie reine Fiktion. Doch in Zeiten der Sozialkreditsysteme sind solche Szenarien bedrohlich nah. Ein kritischer Kommentar gegen die Regierung im Netz, und schon wird man im echten Leben zum Gejagten,

Zuruf Maximilian Funke-Kaiser [FDP]: „So wie in Russland!“

beruflich gebrandmarkt und sozial isoliert.

Die EU hat den Entwurf der KI-Verordnung sogar verschlechtert. Die bürokratischen Hürden sind für unsere Unternehmen erdrückend. Diese Regelungen bevorzugen diejenigen, die genug Ressourcen haben, um mit der Komplexität umzugehen, nämlich die US-Großkonzerne.

Wo KI echte Möglichkeiten bietet, etwa beim stärkeren Grenzschutz, da legen EU-Bürokraten Steine in den Weg. Die Überprüfung von Reisedokumenten mittels KI ist nur der Anfang. Hier müssen alle technischen Möglichkeiten ausgeschöpft werden, auch für die so dringend benötigte Remigration von Sozialmigranten.

Beifall bei AfD

Die Deutschen verdienen etwas Besseres als Ihre desaströse Politik. Denn Sie konzentrieren sich viel mehr auf Überwachung und Bevormundung unseres Volkes. Vielleicht liegt es daran, dass bei Ihnen schlicht zu wenig menschliche Intelligenz am Werk ist.

Beifall bei AfD Zuruf Ronja Kemmer [CDU/CSU]: „Oh!“ Zuruf Tobias B. Bacherle [Grüne]: „Wie lange haben Sie für den Witz gebraucht? Die ganzen letzten zwei Jahre?“

Eine KI anstelle der Bundesregierung würde unserem Land wohl weniger schaden.

Beifall bei AfD Zuruf Armand Zorn [SPD]: „So eine schlechte Rede habe ich lange nicht mehr gehört!“
Vizepräsidentin Katrin Göring-Eckardt

Für die Bundesregierung hat das Wort die Parlamentarische Staatssekretärin Dr. Franziska Brantner.

Beifall beim BÜNDNIS 90/DIE GRÜNEN sowie bei Abgeordneten der SPD und der FDP
FB
Dr. Franziska Brantner Parl. Staatssekretärin BMWK
#

Sehr geehrte Präsidentin! Sehr geehrte Damen und Herren! Künstliche Intelligenz ist Schlüssel und Zukunftstechnologie. Sie wird für unseren Wohlstand entscheidend sein. Die Stichworte sind genannt: „Fachkräftemangel“, aber auch „Klimaschutz“. Bei all diesen Punkten kann und wird KI helfen. Und: Wir wollen, dass KI aus Europa für Europa und für die Welt von Nutzen ist. Das ist unser Ziel, da wollen wir mitspielen, und das ist die Aufgabe, die wir haben.

Beifall bei SPD, Grüne, FDP Zuruf Tabea Rößner

Frau Kemmer und Frau Schön, in Ihrem Antrag und auch in Ihren Reden nennen Sie immer wieder Zahlen, die belegen, was es in den USA und was es in China gibt. Ich habe von Ihnen kein Wort darüber gehört, was wir in Deutschland Tolles haben. Wir haben deutsche KI-Player. Einer davon ist in meiner Heimat Heidelberg: Aleph Alpha. Großartig!

Zuruf Ronja Kemmer

Nennen Sie doch mal all die tollen Unternehmen! Lassen Sie uns diese Unternehmen doch mal stärken, statt nur zu lamentieren, was alles vielleicht noch nicht perfekt ist. Ich finde, wir haben hier Stärken. Die gilt es weiter voranzubringen.

Beifall bei SPD, Grüne, FDP

Natürlich ist es so, dass die KI auch Risiken hat. Man muss sich doch nur mal ansehen, was gerade im Hinblick auf den grausamen Angriffskrieg der Hamas gegen Israel in den sozialen Medien passiert und welche Fake News dort laufen. Da muss man sich die Frage stellen: Was passiert eigentlich, wenn da noch KI on top kommt,

Zuruf Tabea Rößner [Grüne]: „Genau! Ganz genau!“

und wie können wir uns davor schützen? Es ist eine Anforderung an uns alle, hierauf Antworten zu finden.

Deswegen wählen wir als Regierung auch den risikobasierten Ansatz, und das ist richtig. Wir sagen damit: Es gibt Dinge, die wir als Demokraten nicht wollen, nämlich Social Scoring; aber es gibt auch ganz viel, was wir wollen. Wir wollen ganz viel in der KI ermöglichen, und dafür müssen wir ebendiesen risikobasierten Ansatz voranbringen.

Und wir haben als Bundesregierung eine Positionierung zu General Purpose AI. Im Gegensatz zu vielen anderen haben wir als Regierung eine und bringen sie aktiv ein. Trotz einer – man könnte es fast so nennen – Tripelfederführung, die in der Regierung sonst nicht immer so einfach ist, haben wir hier eine dezidierte Position. Schwerpunkt ist die Anwendung, diese aber auch risikobasiert, bei der Entwicklung nur verbindliche Selbstregulierung. Das ist die Position der Bundesregierung, und die wird in Brüssel eingebracht. Zweitens: Dopplungen vermeiden. Das haben wir von Anfang an gesagt. Dafür haben wir sogar noch mal eine eigene Protokollerklärung gemacht.

Und dann haben Sie in Ihrem Antrag, Frau Kemmer und Frau Schön, formuliert – komplett zu Recht –: Bitte nicht wieder eine Antwortverteilung auf die Bundesländer wie bei der Datenschutz-Grundverordnung! – Da kann ich nur sagen: Ja, hätten Sie es mal damals besser gemacht.

Zuruf Tabea Rößner [Grüne]: „Genau!“

Zum Glück haben wir das schon lange nicht mehr umgesetzt, auch bei anderen Sachen nicht wie dem DSA, der kommen wird. Wir haben das auch nicht vor bei der KI. Aber gut, dass Sie jetzt realisieren, dass diese Verteilung keine gute Aktion war.

Beifall bei SPD, Grüne, FDP

In Ihrem Antrag fordern Sie einerseits: „Bitte keine starke europäische Behörde, die das überwacht!“,

Zuruf Tabea Rößner [Grüne]: „Das habe ich auch nicht verstanden!“

und gleichzeitig schreiben Sie: „Das darf aber nicht dazu führen, dass es in den nationalen Mitgliedstaaten einzelne Behörden und einzelne Auslegungen gibt.“

Zuruf Tabea Rößner [Grüne]: „Genau!“

Ja, Sie können nicht beides haben. Sie müssen sich schon entscheiden.

Beifall bei Grüne

Der Vorteil einer europäischen Regulierung ist ja genau der, dass wir nicht 27 unterschiedliche nationale Gesetze und Anwendungen dazu haben, sondern hoffentlich eine gemeinsame europäische, die unseren europäischen Akteuren ermöglicht, hier in diesem Raum innovativ zu sein und aktiv daran teilzuhaben und voranzukommen.

Beifall bei SPD, Grüne

Wir sind als Bundesregierung nicht blind für die Risiken. Wir ignorieren sie auch nicht. Aber ich bitte alle darum: Können wir einmal uns die Chancen nicht durch die Angst vor den Risiken kaputt machen lassen!

Beifall bei Grüne, FDP

Einmal zu sagen: Wir nutzen die Chancen, statt immer nur die Chancen gegen die Risiken auszuspielen. Einmal zu sagen: Wir machen eine kluge Regulierung der Risiken,

Zuruf Tabea Rößner [Grüne]: „Genau!“

weil sie existieren, und gleichzeitig wollen wir mit voller Kraft die Chancen nutzen,

Zuruf Ronja Kemmer [CDU/CSU]: „Klären Sie das doch intern bei den Grünen mal!“

weil darin ein Teil der Zukunft unseres Landes liegt. Und die werden wir gemeinsam in der Ampel auch gut voranbringen.

Danke schön.

Beifall bei SPD, Grüne, FDP
Vizepräsidentin Katrin Göring-Eckardt

Maximilian Funke-Kaiser ist der nächste Redner für die FDP-Fraktion.

Beifall bei der FDP sowie bei Abgeordneten der SPD und des BÜNDNISSES 90/DIE GRÜNEN

Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Liebe Union! Sie stellen in Ihrem Antrag aus dem Juli 2023 fest, dass in generativer KI „das größte Innovationspotenzial … für Gesellschaft und Wirtschaft liegt“. Ich möchte sagen: Das stimmt. – Doch leider kommt diese Erkenntnis der Unionsfraktion zu spät.

Zuruf Ronja Kemmer [CDU/CSU]: „Was?“ Zuruf Nadine Schön [CDU/CSU]: „Was?“

Ich möchte Ihnen auch sagen, wieso.

Zuruf Ronja Kemmer [CDU/CSU]: „Wo sind Ihre Anträge dazu?“

Im Jahre 2018 führte die wohl bekannteste KI-Firma der Welt, OpenAI, ihr erstes generatives Sprachmodell vor, nämlich GPT-1. Dieses Modell war bereits damals in der Lage, auf Basis von 117 Millionen Parametern menschenähnliche Gespräche zu führen.

Zuruf Ronja Kemmer [CDU/CSU]: „Wo waren die FDP-Anträge dazu?“

Im gleichen Jahr legte die unionsgeführte Bundesregierung ihre KI-Strategie vor – von generativer KI, geschweige denn von Basismodellen

Zuruf Tabea Rößner [Grüne]: „… kein Wort!“

keine Rede! Nun erinnert sich der informierte Unionler auch an die Fortschreibung der KI-Strategie aus dem Jahre 2020. 2020 – der eine oder andere wird sich erinnern – war das Jahr, in dem OpenAI die dritte Version seines Sprachmodells vorstellte. Dieses Modell verfügte zu diesem Zeitpunkt über 175 Milliarden Parameter; das sind drei Nullen mehr. Auch in der Fortschreibung der KI-Strategie sucht man ein Kapitel oder wenigstens die Erwähnung von generativer KI vergebens.

Zuruf Tabea Rößner [Grüne]: „Kein Wort!“ Zuruf Ronja Kemmer [CDU/CSU]: „Deswegen haben Sie einfach mal gar nicht fortgeschrieben!“

Liebe Union, in aller Deutlichkeit:

Zuruf Nadine Schön [CDU/CSU]: „Die FDP, was hat die so veröffentlicht?“

Es war ein Urfehler, die Entwicklung eines deutschen und europäischen KI-Modells nicht bereits 2018 und in den Folgejahren als klares Zielbild zu nennen. Sie wurden von generativer KI kalt erwischt.

Zuruf Ronja Kemmer [CDU/CSU]: „Sie haben alles vorausgesehen!“

– Ich kann Ihnen sagen: Wir wurden von der Technologie der generativen KI nicht kalt erwischt und überrascht. Wir korrigieren diesen Fehler

Zuruf Thomas Jarzombek [CDU/CSU]: „Indem Sie jetzt die Mittel kürzen!“ Zuruf Ronja Kemmer [CDU/CSU]: „Sie schreiben die Strategie gar nicht fort! Das ist echt unterirdisch!“

und sorgen auf nationaler Ebene und auf europäischer Ebene dafür,

Zuruf Thomas Jarzombek [CDU/CSU]: „Indem Sie jetzt die Mittel kürzen!“

dass wir diese Technologie aktiv mitgestalten.

Beifall bei SPD, Grüne, FDP

Denn eine moderne Innovationspolitik springt nicht immer nur auf technologische Entwicklungen auf. Eine moderne Innovationspolitik muss Technologien auch antizipieren und entsprechend fördern. Und das machen wir bei generativer KI, nicht nur auf globaler Ebene, nicht nur auf nationaler Ebene, sondern natürlich auch auf europäischer Ebene. Da ist die bereits angesprochene und in Ihrem Antrag erwähnte KI-Verordnung von besonderer Relevanz.

Zuruf Ronja Kemmer [CDU/CSU]: „Die hat das auch nicht vorausgesehen!“

Vorneweg: Bei mir schrillen sämtliche Alarmglocken, wenn die Tech-CEOs dieser Welt, die in den Vereinigten Staaten nahezu unreguliert ihr Business aufbauen, eine maximal harte Regulierung der EU fordern; denn Big Tech hat kein Problem mit harter Regulierung. Die wischen Bürokratie einfach mit einem Fingerschnippen weg. Überregulierung und Bürokratie, das ist für die eine Nachkommastelle in der GuV. Kleine KI-Unternehmen hingegen leiden am stärksten unter Überregulierung. Überregulierung sichert also die Alleinstellung der Microsofts und Googles dieser Welt.

Liebe Kolleginnen und Kollegen, in aller Klarheit: Wir wollen keine KI-Verhinderungsverordnung.

Zuruf Ronja Kemmer [CDU/CSU]: „Machen Sie doch mal was dagegen!“

Wir wollen eine KI-Ermöglichungsverordnung. Die Bundesregierung setzt sich für eine KI-Ermöglichungsverordnung ein, damit wir unser Potenzial ausschöpfen und an die globale KI-Spitze kommen.

Beifall bei SPD, Grüne, FDP

Wir wollen eine KI-Ermöglichungsverordnung auch, um die von der Union verschlafenen KI-Modelle endlich zu ermöglichen; denn KI-Modelle sind im Grunde das Revolutionäre bei generativer KI. Darauf bauen Anwendungen wie ChatGPT auf.

Zuruf Ronja Kemmer [CDU/CSU]: „Modelle brauchen nicht zu viele, sondern weniger politische Eingriffe!“

Deshalb setzt sich die Bundesregierung dafür ein. Die Kolleginnen und Kollegen der Bundesregierung haben schon gesagt, dass für diese Basismodelle leicht umsetzbare und pragmatische Vorschriften gelten, die europäische Innovationen eben ermöglichen und nicht verhindern. Das können Sie übrigens auch nachlesen in der deutschen Stellungnahme – das würde ich Ihnen empfehlen –; das steht da bereits drin. Ihre Forderung ist durch Regierungshandeln erledigt, liebe Kolleginnen und Kollegen der Union.

Parallel arbeitet Volker Wissing auf G-7-Ebene – das ist die globale Ebene – erfolgreich daran, internationale Standards für KI zu schaffen.

Zuruf Tabea Rößner [Grüne]: „Genau!“

Auch das ist nämlich für uns als Exportnation wichtig: dass wir unsere KI-Produkte nach Japan oder in die Vereinigten Staaten exportieren können. Und unsere Forschungsministerin Bettina Stark-Watzinger

Zuruf Thomas Jarzombek [CDU/CSU]: „… kürzt die Mittel!“

macht mit dem KI-Aktionsplan in Deutschland ernst.

Zuruf Ronja Kemmer [CDU/CSU]: „Wo ist die Umsetzung des Aktionsplans?“

Wir bauen auf der starken Ausgangslage, die wir hier in Deutschland haben – starke KI-Forschung, starke KI-Start-up-Basis –, auf. Allein in dieser Legislaturperiode werden 1,6 Milliarden Euro in die Erforschung, in die Entwicklung und in die Anwendung künstlicher Intelligenz investiert,

Zuruf Ronja Kemmer [CDU/CSU]: „Die stammen noch aus unserer Regierungszeit!“

ein Investment sondergleichen in die Zukunft dieses Landes!

Zuruf Thomas Jarzombek [CDU/CSU]: „Das ist eine Fake-Zahl! Das stimmt überhaupt nicht! Die Anfrage hat gezeigt: Die kürzen die Mittel!“

Damit kriegen wir bessere KI-Forschung, wir kriegen KI-Fachkräfte, und wir kriegen KI-Rechenzentren; denn mehr Rechenleistung bedeutet auch bessere KI.

Liebe Kolleginnen und Kollegen, wir schreiben nicht nur Sonntagsreden. Wir handeln: mit einer zukunftsorientierten KI-Politik, die technologische Trends entsprechend antizipiert, statt ihnen immer nur hinterherzulaufen. Damit machen wir Deutschland zukunftsfest.

Herzlichen Dank.

Beifall bei SPD, Grüne, FDP
Vizepräsidentin Katrin Göring-Eckardt

Thomas Jarzombek hat jetzt das Wort für die CDU/CSU-Fraktion.

Beifall bei der CDU/CSU
TJ
#

Frau Präsidentin! Liebe Kolleginnen und Kollegen! Es ist schon eine irre Debatte, die wir jetzt hier erleben. Ich will zum Ersten sagen: Wir haben in diesem Jahr dreimal über KI gesprochen. Die Anträge kamen alle aus der Opposition, einmal von den Linken, zweimal von uns. So viel zu Ihrem Interesse.

Und dann bin ich, ehrlich gesagt, auf der Suche nach der Person in der Regierung, die wirklich Bock auf das Thema hat. Wie wollen wir hier eigentlich nach vorn kommen, wenn hier nur Dystopen am Mikrofon reden?

Beifall bei CDU/CSU Zuruf Tabea Rößner [Grüne]: „Das ist doch Quatsch!“

– Frau Kollegin Rößner, Sie sind nicht nur Kollegin der Grünen, Sie sind auch die Vorsitzende des Digitalausschusses.

Zuruf Tabea Rößner [Grüne]: „Ja, genau!“

Sie haben hier fünf Minuten lang nur Risiken aufgelistet.

Zuruf Tabea Rößner [Grüne]: „Das stimmt nicht!“

Ich habe von Ihnen heute gelernt, dass der Stromverbrauch durch ChatGPT-Anfragen so groß ist wie der Stromverbrauch von Oldenburg. Da frage ich mich: Wen wollen Sie denn jetzt abschalten: Oldenburg oder ChatGPT? Ich weiß es nicht.

Heiterkeit/Lachen bei CDU/CSU

Ich sage Ihnen mal unsere Antwort. Unsere Antwort wäre: Fahren Sie die drei Atomkraftwerke wieder hoch! Dann hätte man genügend grünen Strom, mit dem man auch die Rechenzentren betreiben kann.

Beifall bei CDU/CSU Heiterkeit/Lachen bei Grüne

– Da lacht bei der FDP übrigens keiner.

Zuruf Judith Skudelny [FDP]: „Ich höre Ihnen gar nicht zu! Deswegen lache ich nicht!“

An der Stelle darf ich Ihnen auch mal sagen, dass es die Strategie von Microsoft ist, jetzt kleine Atomkraftwerke zu nutzen, um diese ganzen Rechenzentren klimaneutral zu betreiben. Auch wenn hier der eine oder andere von der Koalition grinst: Das ist eine Technologie, die am Ende wirklich helfen wird.

Der zweite Punkt betrifft – das darf ich mal sagen – die Redner aus der FDP. Kollege Funke-Kaiser, wenn Sie auch nach zwei Jahren immer noch den Großteil Ihrer Redezeit aufwenden, aufzuarbeiten, was nach Ihrer Meinung die Union 2018 gemacht hat,

Zuruf Maximilian Funke-Kaiser [FDP]: „Das war notwendig!“

dann fehlt Ihnen der Fokus darauf, selbst etwas zu tun.

Beifall bei CDU/CSU

Und das ist das, was wir machen müssen.

Ich kann mich gut an die Diskussion zur Datenschutz-Grundverordnung erinnern. Da hieß es immer: Wenn wir mit der Regulierung die Besten sind, dann werden wir auch die globalen Champions haben. – Jetzt frage ich mich nach soundso vielen Jahren Datenschutz-Grundverordnung: Wo sind denn die globalen Champions aus Europa in Sachen Cloud oder Dateninfrastrukturen? Ich sehe sie nicht. Wir dürfen den Fehler nicht wiederholen. Wir dürfen nicht der Weltmeister im Regulieren werden und dabei vergessen, das Thema „künstliche Intelligenz“ auch von der Marktseite aus zu betrachten.

Beifall bei CDU/CSU Zuruf Armand Zorn [SPD]: „Ja! Stimmt!“

Dazu haben wir hier in der letzten Sitzungswoche ein ganzes Paket an Vorschlägen eingebracht, bei denen wir, ehrlich gesagt, auch eine Antwort schuldig sind. Da geht es zum Beispiel um die Frage, die KI-Mittel des Bundes hoch- und nicht herunterzufahren. Sie werden um über 20 Prozent gekürzt, und die Zahl 1,6 Milliarden Euro für Investitionen in KI ist schlicht erfunden, wie wir mit verschiedenen Kleinen Anfragen ja inzwischen herausgefunden haben.

Beifall bei CDU/CSU Zuruf Maximilian Funke-Kaiser [FDP]: „Weil Sie nicht rechnen können!“

Es geht darum, dass wir eine Rechenzentrumsinfrastruktur brauchen, gerade für Start-ups, für Open-Source-Entwickler, für den Mittelstand; „LEAM“ ist hier das Stichwort. Dazu haben wir heute wieder Aussagen von Ihnen gehört. Es findet sich nichts im Haushalt; es gibt kein Konzept dazu. Das tut dringend not.

Beifall bei CDU/CSU

Wo sind denn die öffentlichen Aufträge? Warum sind denn amerikanische Techunternehmen so groß? Weil sie von der DARPA und anschließend vom amerikanischen Ministerium für Verteidigung gigantische Aufträge kriegen. Und da frage ich jetzt mal in Richtung Bundesregierung – zwei Staatssekretäre haben hier gesprochen –: Wo sind denn die Aufträge für die deutschen Start-ups im Bereich „künstliche Intelligenz“? Baden-Württemberg, Landesregierung, die haben das gemacht und für Aleph Alpha einen großen Auftrag platziert. Wo sind denn die Aufträge in der Bundesregierung? Sie haben das Thema bisher vollständig verschlafen.

Natürlich gibt es immer noch die große Frage: Wie kriegen wir das Thema „KI-Professuren“ am Ende in die Wissenschaft hinein? Deshalb haben wir natürlich in der KI-Strategie nicht jede einzelne Technologie beschrieben, sondern da waren wir – das müsste sie freuen – technologieoffen und haben gesagt: Wir müssen hier mehr machen. – Und das ist auch unser Credo. Wir dürfen hier nicht weiter auf der Zuschauerbank sitzen; wir müssen was tun, meine Damen und Herren. Ran an den Speck!

Beifall bei CDU/CSU
Vizepräsidentin Katrin Göring-Eckardt

Für die SPD-Fraktion spricht der Kollege Dr. Holger Becker.

Beifall bei der SPD sowie des Abg. Maximilian Funke-Kaiser [FDP]

Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Herr Kollege Jarzombek, ich kann Ihnen versichern: Wir sind am Speck schon längst dran.

Beifall bei SPD, Grüne

Ich hatte Anfang der Woche die Ehre, an der Konferenz des EPTA, des europäischen Netzwerks parlamentarischer Einrichtungen der Technikfolgenabschätzung, teilzunehmen, die in diesem Jahr unter dem Motto „Generative KI – Möglichkeiten, Risiken und politische Herausforderungen“ stattfand. In zahlreichen Debatten wurde dabei immer wieder betont, dass die Entscheidungen, die wir heute treffen, nicht nur die nächsten Jahre, sondern womöglich das ganze nächste Jahrhundert prägen werden. Daher können wir uns auch nicht leisten, KI nicht zu regulieren.

Zuruf Ronja Kemmer [CDU/CSU]: „Sagen wir auch nicht!“

Und wir haben auch nicht unbegrenzt Zeit, die richtigen Rahmenbedingungen mit der KI-Verordnung europaweit und damit auch international als globales Vorbild zu etablieren. Dabei ist die Devise, sich agil an die dynamischen technologischen Entwicklungen anzupassen und stets Wissenschaft, Wirtschaft und Gesellschaft gemeinsam zu denken.

Beifall bei SPD, Grüne, FDP

Momentan steht Deutschland im weltweiten Vergleich im Bereich der KI-Forschung auf Platz drei, und wir tun natürlich alles dafür – und das sieht man durchaus auch im Bundeshaushalt –, dass das so bleibt.

Beifall bei SPD, FDP

Aufgrund der Bedeutung dieses Themas möchte ich mich aber einer Forderung von zahlreichen führenden Forscherinnen und Forschern im Bereich der KI anschließen, nämlich ein globales Forschungszentrum für KI in Analogie zum CERN einzurichten. Wir wissen derzeit nämlich noch viel zu wenig über KI, und unsere Forschung und auch die Debatte konzentrieren sich zu sehr auf die Aktivitäten der kommerziellen Big Player in diesem Feld, wodurch viele spannende Ansätze noch überhaupt nicht beleuchtet werden.

Kommen wir aber nun zu den hier vorliegenden Anträgen. Lassen Sie mich mit etwas versöhnlicheren Worten starten. Denn, liebe Unionsfraktion, ich habe mich beim Lesen durchaus gefreut, dass Sie mit uns aus der Koalition in so vielen Punkten übereinstimmen. Sie haben – das ist durchaus richtig – den wichtigen Hinweis gegeben, dass die KI-Regulierung innerhalb der EU einheitlich ausgelegt werden sollte. Ich versichere Ihnen: Dies haben wir im Blick, und wir werden uns auch nach den Trilogverhandlungen, wenn es um die Umsetzung geht, mit voller Kraft für eine europaweit einheitliche Umsetzung einsetzen,

Zuruf Tabea Rößner [Grüne]: „Genau!“

auch weil wir aus der gemeinsamen DSGVO gelernt haben.

Für mich persönlich ein sehr wichtiger Punkt, den Sie ebenfalls ansprechen, ist die sensible Einordnung der KI-Anwendungen im Bildungsbereich. KI-Programme stellen eine enorm große Chance für unser Bildungssystem dar und können neben der Entlastung von Lehrenden auch eine individuelle und passgenaue Lernunterstützung für Schülerinnen und Schüler bedeuten und damit dem Problem entgegenwirken, dass der sozioökonomische Hintergrund des Elternhauses über den Bildungserfolg von Lernenden entscheidet.

Doch gerade im Kontext minderjähriger Nutzerinnen und Nutzer bleibt der Umgang mit dem Thema Datenschutz zentral. Denn durch die Nutzung von KI-Programmen wie ChatGPT können Datenprofile von Schülerinnen und Schülern erstellt werden – mit dem Risiko, dass auf diese Profile zugegriffen und die personalisierten Daten weiterverwertet werden. Solche Gefahren gilt es durch die KI-Verordnung zu bannen.

Wie Sie also sehen: Sie können sich darauf verlassen, dass unsere Fortschrittskoalition das Thema KI sehr ernst nimmt und dementsprechend auch die Trilogverhandlungen prioritär behandelt.

Ein weiteres gutes Beispiel für Ihre Übereinstimmung mit dem Agieren der Ampelregierung ist Ihre Forderung, für Start-ups und KMUs verbesserte Möglichkeiten zur Teilnahme an KI-Standardisierungsprozessen zu schaffen. Wir könnten hier nicht mehr einer Meinung sein. Denn – dies durfte ich gerade erst vorgestern unter anderem mit meinen Kollegen Maik Außendorf und Markus Reichel auf einem Podium des DIN zu digitaler Qualitätsinfrastruktur diskutieren – eine starke deutsche und europäische Positionierung in internationalen Standardisierungsgremien ist das A und O, um sicherzustellen, dass unsere Wirtschaft gerade mit Blick auf die Weiterentwicklung und Ausgestaltung von Marktbedingungen für KI weiter wächst und vorangehen kann.

Beifall bei SPD, Grüne

Auch wenn ich der festen Überzeugung bin, dass KI eine der disruptivsten und innovationsförderndsten Entwicklungen innerhalb unserer Zeit darstellt und wir daher gut und gerne jede Sitzungswoche hierzu eine Debatte in der Kernzeit abhalten könnten,

Zuruf Nadine Schön [CDU/CSU]: „Ja, dann beantragt sie doch mal!“

habe ich mich dann doch über die erneute Aufsetzung Ihres Antrags etwas gewundert. Denn, wie bereits erwähnt, Sie fordern Maßnahmen und vertreten Positionen, die sich eben nicht wirklich von denen der Ampelregierung unterscheiden, behaupten aber im selben Atemzug, dass Deutschland eben unter genau dieser Ampelregierung beim Thema KI im Abseits stehe und Gefahr laufe, den Anschluss zu verlieren.

Zuruf Thomas Jarzombek [CDU/CSU]: „Genau!“

Liebe Kolleginnen und Kollegen von der Union, das passt für mich leider nicht zusammen.

Beifall bei SPD, FDP

Ihr Vorwurf, dass das BMJ, das BMWK und das BMDV um eine gemeinsame Position ringen und dadurch die deutsche Verhandlungsposition gefährden, verwundert mich ebenfalls. Denn – das wissen Sie vielleicht noch aus Ihrer eigenen Regierungserfahrung – es ist vollkommen in Ordnung und sogar wünschenswert, dass die verschiedenen Ministerien ihre Expertise in eine Positionsfindung einbringen, um eben alle Aspekte im Blick zu halten. Dass so eine Einigung dann nicht einfach vom Himmel fällt, sondern sorgfältig ausdiskutiert wird, ist gängige Praxis.

Zuruf Nadine Schön [CDU/CSU]: „Aber nicht, wenn die Verhandlung schon fast vorbei ist!“

Lassen Sie mich Ihnen da versichern, dass Deutschland mit einer starken Position in den laufenden Trilogverhandlungen vertreten ist.

All die in der Debatte genannten Aspekte der KI haben eine Gemeinsamkeit, nämlich die Notwendigkeit der Kompetenz aller Bürgerinnen und Bürger im Hinblick auf Chancen, Risiken und praktische Implikationen von KI. Der Umgang und das Identifizieren von Desinformationen, Fake News und das kritische Hinterfragen von Quellen werden in Zukunft eine essenzielle Methodenkompetenz eines jeden Mitglieds unserer Gesellschaft darstellen. Nur so können wir sicherstellen, dass das dystopische Potenzial an Demokratiezersetzung, das KI durchaus auch bietet, nicht zum Tragen kommt.

Auch dieser Aufgabe werden wir uns als Regierungskoalition mit aller Kraft stellen. Denn eigentlich sehen wir in KI eine transformative Zukunftstechnologie, deren Chancen für unsere Gesellschaft bei der Schaffung entsprechender politischer Rahmenbedingungen die Risiken bei Weitem überwiegen.

Vielen Dank.

Beifall bei SPD, Grüne, FDP
Vizepräsidentin Katrin Göring-Eckardt

Für die CDU/CSU-Fraktion hat Dr. Reinhard Brandl jetzt das Wort.

Beifall bei der CDU/CSU
RB
#

Frau Präsidentin! Verehrte Kolleginnen und Kollegen! In meinem Büro habe ich alle paar Wochen einen neuen Praktikanten. Meistens sind es Studenten, die für mich Grußworte aufschreiben, Briefe entwerfen und Fachthemen recherchieren. Vor einem Jahr war deren wichtigstes Arbeitswerkzeug noch Google. Heute setzen die sich hin und geben meinen Arbeitsauftrag erst mal eins zu eins in ChatGPT ein.

Zuruf Ates Gürpinar [Linke]: „So hört sich auch die Rede an!“ Heiterkeit/Lachen bei SPD, Grüne

Ich habe mir zwischendurch überlegt, ob ich das loben oder tadeln soll; denn eigentlich sind sie ja bei mir, um selber schreiben zu lernen. Ich habe mich aber trotzdem fürs Loben entschieden, weil diejenigen, die diese Tools beherrschen und damit schneller und bessere Ergebnisse erzielen, diejenigen sind, die sich in Zukunft am Arbeitsmarkt durchsetzen werden. Und ich sage Ihnen voraus: In einigen Jahren stehen diese Tools bei uns als Voraussetzung in jeder Stellenanzeige, genauso wie heute Word oder Excel.

So wie uns geht es vielen Branchen in Deutschland. Dieser explosionsartige Fortschritt im Bereich der künstlichen Intelligenz verändert die Arbeitswelt in ganz vielen Bereichen, und er wird angetrieben von Entwicklungen aus den USA. 73 Prozent aller großen KI-Sprachmodelle stammen aus den USA, so zum Beispiel ChatGPT, 15 Prozent aus China, 12 Prozent aus dem Rest der Welt inklusive Europa. Jetzt kann man sich in dieser Situation natürlich die Frage stellen: Wie kann ich diese 12 Prozent aus dem Rest der Welt inklusive Europa, das Wenige, was bei uns passiert, möglichst umfassend und perfekt regulieren? Aber die eigentliche Frage müsste doch sein: Wie kann ich erreichen, dass mehr bei uns passiert?

Beifall bei CDU/CSU

Dabei kann eine Regulierung helfen,

Zuruf Tabea Rößner [Grüne]: „Mit Sicherheit!“

aber nicht die Regulierung, die im Moment in Brüssel verhandelt wird.

Gehen Sie mal in ein deutsches KI-Unternehmen! Die schlagen die Hände über dem Kopf zusammen. Sie wissen nicht, ob sie von der Regulierung betroffen sein werden. Sie kennen den Aufwand nicht, der erforderlich ist, um diese ganzen Auflagen und Konformitätsprüfungen zu erfüllen. Und sie wissen vor allem nicht, welche Risiken sie eingehen, wenn sie zum Beispiel eine dieser Auflagen nicht erfüllen.

Vizepräsidentin Katrin Göring-Eckardt

Herr Funke-Kaiser würde Ihnen gerne Zwischenfrage stellen.

Dr. Reinhard Brandl (fortgesetzt)

Gerne, Herr Kollege.

Vizepräsidentin Katrin Göring-Eckardt

Bitte schön.

MF
Maximilian Funke-Kaiser FDP · Zwischenfrage/-bemerkung
#

Vielen Dank. – Herr Kollege Brandl, Sie sprechen richtigerweise davon, dass wir nicht die 12 Prozent an Basismodellen aus Europa regulieren sollen, sondern dafür sorgen sollten, dass wir zu einem größeren Marktanteil kommen. Ich frage Sie: Haben Sie mit Ihrer Kommissionspräsidentin Ursula von der Leyen gesprochen, die verantwortlich ist für diesen AI-Entwurf? Das würde mich interessieren.

RB
#

Wir stehen natürlich in einem sehr engen Kontakt mit unseren Kollegen im Europäischen Parlament, und die denken genauso wie wir.

Zuruf Tabea Rößner [Grüne]: „Die haben doch die KI-Verordnung mit beschlossen!“

Aber sie müssen natürlich auch Kompromisse eingehen.

Zuruf Armand Zorn [SPD]: „Unmöglich!“

Die Situation sieht so aus: Wir sind jetzt in den Trilogverhandlungen, und jetzt kommt es darauf an, wie sich die deutsche Bundesregierung positioniert.

Beifall bei CDU/CSU Zuruf Tabea Rößner [Grüne]: „Die eigenen Leute haben doch zugestimmt!“ Zuruf Tobias B. Bacherle [Grüne]: „Die Ratsposition ist auch schon eine Weile durch!“

Was wir heute erreichen wollten, ist, die Position der Bundesregierung zu den Verhandlungen im Trilog zu erfahren. Und was haben wir erfahren? Nichts.

Beifall bei CDU/CSU Zuruf Maximilian Funke-Kaiser [FDP]: „Das ist falsch! Aber egal!“

Unser Problem ist doch Folgendes: Digitalminister Wissing hätte – zumindest laut seinen Zeitungsinterviews – ganz vernünftige Ansichten, hat aber nichts zu melden. Etwas zu melden in dieser Frage haben Buschmann und Habeck; die sagen aber nichts. Herr Habeck ist heute freundlicherweise im Parlament. Ich würde mir wünschen, dass Sie zu diesem Thema mal eine Regierungserklärung abgeben und darstellen, wie wir in Zukunft in Deutschland mit dieser anstehenden Industriellen Revolution umgehen.

Zuruf Stefan Müller [CDU/CSU]: „Das ist eine gute Idee!“

Das vermissen wir im Moment von der Bundesregierung.

Beifall bei CDU/CSU

Frau Brantner hat freundlicherweise Aleph Alpha erwähnt. Das ist das Unternehmen, das wir in die Anhörung eingeladen haben. Ich kann Ihnen kurz berichten, was Aleph Alpha in seiner Stellungnahme zu der anstehenden Regulierung sagt:

„Die entstandene Unsicherheit sorgt bei vielen Akteuren für eine Innovationszurückhaltung. … Dieser Zustand macht Gründungen, Investments und Innovationen im Allgemeinen weniger attraktiv und so äußern sich auch entsprechende Marktteilnehmer mit geplanter Reduzierung und Zurückhaltung der Aktivitäten.“

Wir verlieren im Moment Monat für Monat an Boden im Bereich der künstlichen Intelligenz. Wir haben kein großes Sprachmodell, das in Europa entwickelt wurde und einen substanziellen Anteil am Weltmarkt hat. Das sind die Dinge, die wir angehen müssen. Es geht nicht um die Frage, wie wir alles perfekt regulieren, sondern darum, dass wir in Europa überhaupt eine Rolle spielen. Dies anzugehen, dazu rufe ich Sie auf.

Herzlichen Dank.

Beifall bei CDU/CSU
Vizepräsidentin Katrin Göring-Eckardt

Für Bündnis 90/Die Grünen hat das Wort Tobias Bacherle.

Beifall beim BÜNDNIS 90/DIE GRÜNEN und bei der SPD sowie bei Abgeordneten der FDP
TB
#

Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Ich glaube, wir sind uns alle sehr einig, dass die digitale Innovation, Machine Learning und alles, was wir gerade als KI bezeichnen, extrem große Chancen hat. Es hat auch die große Chance, eine gesellschaftliche und wirtschaftliche Disruption auszulösen. Das ist etwas, was man positiv angehen muss. Diese Veränderung ist doch nicht schlimm, wenn wir als politischer Betrieb sagen, dass wir sie mitgestalten wollen.

Wir sind damit nicht alleine. Auf dem Internet Governance Forum, das bis gestern in Kyoto stattgefunden hat, haben eigentlich alle die Frage gestellt: Wie gehen wir damit um? – Die Vertreter/-innen der kleinen Länder haben gesagt: Wir gucken jetzt nach Europa und in die USA. Von Letzteren erwarten wir wenig. Von Europa erhoffen wir uns viel, weil die es doch lösen müssen; die müssen es doch für uns richten.

Beifall bei Grüne, FDP

Die anderen haben auch auf Europa und den AI Act geguckt und gesagt: Alle multilateralen Organisationen, die sich gerade auf den Weg machen, werden nicht so schnell sein wie die Europäische Union, weil die schon viel weiter ist. – Und das ist es, was mich am heutigen Tag in dieser Debatte am meisten irritiert hat, liebe Union: Im politischen System der Europäischen Union gibt es unterschiedliche Institutionen, die ihre jeweilige Position dazu haben. Der Rat hat diese schon letztes Jahr abgegeben. Sie können in der von Herrn Theurer angesprochenen Protokollerklärung nachlesen, was neben der Ratsposition die deutsche Position ist.

Zuruf Tabea Rößner [Grüne]: „Genau!“

Aber keine Sorge, liebe Union, es gibt jemanden, der, glaube ich, noch weniger mitbekommen hat, wie das funktioniert: die rechts von Ihnen. Da muss ich noch mal sagen: Wenn Mitte Juni das Europäische Parlament die Position festzurrt und Sie dann im Juli eine Artikel-23-Stellungnahme einbringen wollen, die Sie halb vom Europäischen Parlament abgeschrieben haben, dann ist das leider viel zu spät.

Beifall bei SPD, Grüne, FDP

Ein letzter Punkt noch. Sie haben das, was wirklich noch offen ist, teilweise vergessen, und zwar die biometrischen Scans. Ja, wir wollten die Echtzeit-Scans eigentlich komplett ausschließen – und nicht nur die Echtzeit-Scans. Die Echtzeit-Scans sind in der Position des Europäischen Parlaments auch wirklich draußen. Aber „retrograd“ muss jetzt klar definiert werden: mit Richterbeschluss, nur bei schweren Straftaten, mit Gesetzesgrundlage und vor allem mit getrennten Systemen.

Vielen Dank.

Beifall bei SPD, Grüne, FDP
Vizepräsidentin Katrin Göring-Eckardt

Ich schließe die Aussprache.

Interfraktionell wird Überweisung der Vorlagen auf den Drucksachen 20/7583 und 20/7578 an die Ausschüsse vorgeschlagen, die Sie in der Tagesordnung finden. – Damit sind Sie offenbar einverstanden. Dann wird das so gemacht.