Zum Inhalt springen
plenarprotokolle.de

Fundstellen

Wir sehen einen florierenden Markt für Crime-as-a-Service-Attacken, wir sehen staatliches und halbstaatliches Agieren und solches Agieren von Organisierter Kriminalität und inzwischen einen immer stärkeren Einsatz von KI-Anwendungen. All dies schreit geradezu nach einer zupackenden Bundesregierung, die die digitale Resilienz unserer Gesellschaft deutlich stärkt, saubere und bestimmte Rechtsgrundlagen und Zuständigkeiten schafft, Unternehmen unterstützt und fördert und das BSI konsequent stärkt. Aber all das, liebe Kolleginnen und Kollegen: Fehlanzeige!

Karin Prien Bundesministerin BMBFSFJ

KI birgt große Chancen, aber eben auch große Risiken, vor allem für Kinder und Jugendliche, insbesondere dann, wenn KI- Anwendungen sozusagen wie Menschen von Kindern angesprochen werden. Wenn vermeintliche Bindungen zu KI-Anwendungen entstehen, dann ist höchste Vorsicht geboten und Gefahr im Verzug. Und deshalb ist es so wichtig, dass der EU KIDS Act und auch alles, was wir tun, nicht nur Social Media im engeren Sinne, sondern eben auch KI-Anwendungen mit in den Blick nimmt.

Neben der technologischen Expertise unserer Industrie sind die über Jahrzehnte gewachsenen Produktions- und Prozessdaten ein wahrer Datenschatz und eine einzigartige Grundlage, die man für KI-Anwendungen und deren Entwicklung und Training nutzen kann, um international wettbewerbsfähig zu werden und zu bleiben. Genau deswegen war die KI-gestützte Transformation der Industrieproduktion auch Thema bei der 19. Asien-Pazifik-Konferenz der deutschen Wirtschaft. Die Bundesregierung war gut vertreten.

Mit dem AI Act hat die Europäische Union bereits Rahmenbedingungen für den Einsatz künstlicher Intelligenz geschaffen. Hier wurden klare Leitplanken gesetzt und der KI verbindliche Regularien vorgesetzt; denn bestimmte KI-Anwendungen im Bereich „Migration und Grenzkontrolle“ gelten als Hochrisikosysteme und unterliegen deshalb auch besonderen Anforderungen in Bezug auf Transparenz, Sicherheit und vor allem menschlicher Kontrolle. Diese menschliche Kontrolle setzt zwangsläufig zusätzliche Personalstellen bei der Bundespolizei voraus, Personal – das ist richtig –, das bereits jetzt fehlt bei Einsätzen an Bahnhöfen, Flughäfen oder auf zentralen Verkehrswegen, weshalb die Bundespolizei zunehmend auf Kolleginnen und Kollegen aus dem Bereitschaftsdienst angewiesen ist.

Der Gesetzgeber und dieses Parlament muss der staatlichen Schutzverantwortung gegenüber den Bürgerinnen und Bürgern gerecht werden. Wir müssen gemeinsam – da hat der Kollege Lauterbach vollkommen recht – alles daransetzen, zu verhindern, dass uns diese Technologie entgleitet. Es stimmt: Wir sind, was die Regulierung der KI angeht, sehr viel weiter als andere. Der AI Act ist ein gutes Regelwerk. Er definiert, wo und unter welchen Bedingungen neue KI-Anwendungen zum Einsatz kommen. Er zeigt auch rote Linien auf und verbietet Anwendungen dort, wo der Einsatz gesellschaftspolitisch gefährlich ist. Er nimmt die Unternehmen in die Pflicht und definiert sogar sehr drastische Strafen bei Verstößen. Das ist alles gut und richtig. Aber die beste EU-Gesetzgebung nützt nichts, wenn sie nicht entschlossen in nationales Recht umgesetzt wird und wenn es nicht zugleich Aufsichtsbehörden gibt, die imstande sind, zumindest einigermaßen auf Augenhöhe mit den milliardenschweren KI-Firmen zu agieren, sie zu kontrollieren und notfalls auch zu sanktionieren. Klare Haftungsregeln – da hat der Kollege Jarzombek völlig recht – braucht es. Davon sind wir aber meilenweit entfernt, meine Damen und Herren.

Erstens. Wir stärken die Förderungen von innovativen KI-Anwendungen mit 35 Millionen Euro. Ja, das ist nicht genug; aber es sind immerhin 10 Millionen Euro mehr als im vergangenen Jahr. Damit sorgen wir dafür, dass KI-Forschung endlich ankommt und am Ende auch kleine und mittelständische Unternehmen davon profitieren. Das schafft Wertschöpfung bei uns hier vor Ort.

Diese regionale Fragmentierung können wir uns im dynamisch wachsenden deutschen KI-Markt nicht leisten. Ausgehend von einem Marktvolumen von etwa 9 Milliarden Euro allein im Jahr 2025 wird ein Anstieg auf rund 37 Milliarden Euro bis 2031 prognostiziert, was einer jährlichen Wachstumsrate von 26 Prozent entspricht. Meine Damen und Herren, unser Standort braucht Wachstum und Wettbewerbsfähigkeit. Gerade im Bereich KI haben wir Umsetzungsbedarf und brauchen eine Umsetzungsdynamik. Wir müssen Unternehmen in die Lage versetzen, innovative KI-Anwendungen schnell und erfolgreich auf den Markt zu bringen. Dafür brauchen wir eine zügige und praktikable Umsetzung der neuen Regelungen.

Sind damit alle Energieprobleme am Standort gelöst? Sicher nicht. Kein Zweifel: Die Energiebedarfe werden auch in den kommenden Jahren massiv steigen. Wir wollen weite Teile der Gesellschaft elektrifizieren. Auch der Bedarf für KI-Anwendungen, wo wir auch weltweit dabei sein wollen, wird steigen.

Dr. Karsten Wildberger Bundesminister BMDS

Und weitere Erfolge sind sichtbar: 1,5 Millionen Downloads des digitalen Fahrzeugscheins in sechs Monaten, beim World Government Summit in Dubai hat Deutschland den internationalen Preis für die beste KI-Anwendung in der öffentlichen Verwaltung erhalten. Das ist ein Perspektivwechsel, weg von einzelnen Formularen, hin zu einem funktionierenden digitalen Ökosystem.

Es dient auch nicht dem Gemeinwohl, KI zu deregulieren und die Rechenpower dafür bis 2030 zu vervierfachen, nur weil man in der Marktkapitalisierung hinterherhinke. Das ist ohne Vision agiert, gerade ohne Vision für eine soziale Gesellschaft, zumal es profitable KI-Anwendungen bisher so gut wie gar nicht gibt. Aber dennoch fließt privates und auch öffentliches Geld in Strömen in diese Spekulationsblase, was dann wiederum an anderer Stelle fehlt.

„Think Tech Forward“ – technologisch vorausdenken –: Unter diesem Motto haben bei der diesjährigen Hannover Messe mehr als 4 000 internationale Unternehmen neue innovative Technologien und Lösungen präsentiert und auch aus wirtschafts- und wachstumsorientierter Sicht Potenziale der Nutzung von zum Beispiel KI-Anwendungen aufgezeigt. Am Montag durfte ich mir persönlich ein Bild von der größten und bedeutendsten Industriemesse der Welt machen. Echt beeindruckend!

Dr. Karsten Wildberger Bundesminister BMDS

Drittens: Technologie und Souveränität. Wir stärken den Aufbau eigener Kapazitäten, fördern Investitionen und arbeiten an einer souveränen digitalen Infrastruktur von der Cloud bis zur KI-Anwendung.

Frau Kollegin, Sie bringen hier ja jetzt Beispiele und werfen die Frage auf – bei der ich Ihnen durchaus folgen kann –, ob diese KI-Anwendungen am Ende wirklich eine sinnvolle Bereicherung für die Gesellschaft sind. Es gibt aber eine Vielzahl von KI-Anwendungen, bei denen man sieht, dass sie jetzt schon einen enormen Beitrag für die Gesellschaft erbringen. Das ist zum Beispiel im Bereich der Medizin der Fall, wo es durch neue Verfahren in der Diagnostik und Behandlung – insbesondere bei Krebs, aber auch zum Beispiel bei der Früherkennung von Krankheiten bei Föten im Mutterleib usw. usf. – große medizinische Fortschritte gibt. Diese KI-Anwendungen blenden Sie aus. Warum blenden Sie die aus? Sehen Sie hier keine Chancen für die Gesellschaft?

Es gibt natürlich auch KI-Anwendungen, die sinnvoll sind.

Bundesrat 1063 · 27.03.2026
Stefan Gruhner Thüringen

Das Problem wird auch vertieft betrachtet. Insofern ist es richtig, dass man hier nicht länger abwartet, sondern dass wir tatsächlich zu Taten kommen. Denn am Ende – das hat Ministerpräsident Lies gerade schon deutlich gemacht – geht es ja nicht darum, digitale Teilhabe einzuschränken. Das Gegenteil ist der Fall. Es geht darum, sie zu ermöglichen, aber eben sicher, gesund und selbstbestimmt. Vor diesem Hintergrund will ich noch mal sagen: Wir brauchen erstens wirksame Schutzmechanismen gegen Missbrauch und Manipulation. Wir brauchen zweitens klare Regeln für Plattformen, insbesondere für algorithmische Systeme, aber auch für KI-Anwendungen.

Dr. Karsten Wildberger Bundesminister BMDS

Die BNetzA erhält nicht nur einen koordinierenden, sondern auch einen innovationspolitischen Auftrag, einschließlich eines KI-Reallabors für die rechtssichere Erprobung von innovativen KI-Anwendungen. Außerdem betreibt die BNetzA bereits jetzt einen KI-Service-Desk und gibt Unternehmen Hilfestellung bei der Implementierung der KI-Verordnung. Und zusätzlich wird bei der BNetzA eine zentrale Beschwerdestelle eingerichtet, und Bürgerinnen und Bürger können Verstöße einfach melden.

Je höher das Risiko für die Gesundheit, für Sicherheit, für die Grundrechte ist, desto strenger sind die Vorgaben, die erfüllt werden müssen Der AI Act schafft damit einen Ausgleich zwischen Nutzen und Risiken von KI. Es geht um KI-Anwendungen, die hier in den Ländern der Europäischen Union eingesetzt werden, auch wenn sie von US-Konzernen entwickelt werden. Deshalb nervt diese Konzerne auch so, was wir hier an Regelwerken haben.

Wir benennen sie zur Marktüberwachungsbehörde. Sie richtet eine zentrale Beschwerdestelle und eine unabhängige Marktüberwachungskammer ein. Sie baut ein Kompetenzzentrum auf zur Beratung von Unternehmen für KI-Anwendungen. Sie baut das KI-Reallabor auf, in dem KI-Innovationen getestet werden können, mit besonderen Zugängen eben auch für KMUs und Start-ups, um diese zu fördern, und für Forschungseinrichtungen.

Wir schaffen jetzt die Grundlage dafür, dass künstliche Intelligenz „Made in Europe“ mit hochwertigen Daten arbeiten kann. Und ich mache es noch einmal deutlich: Wir wollen KI nicht herunterregulieren. Wir brauchen Regeln, gerade bei Sicherheit, Verantwortung und Transparenz. Aber wir dürfen nicht jede neue Idee mit Formularen und Verboten erschlagen. Deutschland und Europa sollen ein Ort sein, in dem man KI-Anwendungen ausprobieren, skalieren und in die Fläche bringen kann.

Eine Digitalabgabe für Onlinewerbung, wie sie die Fraktion der Grünen vorschlägt, kann ein Schritt in die richtige Richtung sein und Nachteile für den vom Algorithmus bedrohten Journalismus überbrücken. Als Linke schlagen wir eine breiter angelegte Digitalsteuer auch für Plattformen, Onlinemarktplätze und KI-Anwendungen vor. Wir denken, eine solche Digitalsteuer würde die Schließung der Gerechtigkeitslücke angemessen in Angriff nehmen. Es ist auf jeden Fall Zeit, dass sich was bewegt. Gut, dass wir hier einen Anfang gemacht haben, um entsprechend voranzukommen!

Dörte Schall Rheinland-Pfalz

Wir sind der Ansicht, dass es von entscheidender Bedeutung ist, dass wir sicherstellen, dass KI-Anwendungen transparent bleiben und im Einklang mit europäischen Werten stehen. Die Verordnung setzt einen internationalen Standard um und gibt eine klare Orientierung. Es ist wichtig, hier hervorzuheben, dass sie nicht nur für Unternehmen gilt, sondern auch uns als Bürgerinnen und Bürgern Orientierung gibt. Es erfolgt eine Veröffentlichung des „Praxiskodex für Künstliche Intelligenz für allgemeine Zwecke“, und es ist davon auszugehen, dass so der Industrie die Einhaltung von KI-Regelungen für allgemeine Zwecke erleichtert werden kann.

Uwe Feiler CDU/CSU

Zum Gesamtbild des Umweltschutzkapitels. Wir investieren in Ressortforschung, KI-Anwendungen für den Umweltschutz, Umweltinnovationsprojekte im industriellen Maßstab sowie in Klimaanpassung in Kommunen und sozialen Einrichtungen. Das ist Wirkung statt Überschrift.

Das Innovationsportal, das gestern gestartet ist, listet bundesweit schon 50 Reallabore auf; das ist wirklich klasse. Darunter finden sich auch welche mit KI-Anwendungen; das ist auch wirklich gut. Im nächsten Schritt in Sachen Innovationsförderung, meine Damen und Herren, müssen wir nämlich das KI-Reallabor, das der AI Act fordert, bei uns einrichten. Vor 14 Tagen ist bundesweit das erste Pilotprojekt dafür zwischen dem hessischen Digitalministerium, der BNetzA und der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit gestartet. Diese Zusammenarbeit zwischen BNetzA und BfDI ist sehr zu begrüßen. Für uns als SPD ist nämlich klar: Die BNetzA hat die Aufsicht für KI und damit auch für das KI-Reallabor. Die enge Verzahnung mit der BfDI ist uns wichtig; denn wir wollen verantwortungsvolle KI-Anwendungen fördern, und für uns gilt: Selbstverständlich müssen auch im digitalen Raum die Grundrechte geschützt werden, und das ist unter anderem auch der Datenschutz, meine Damen und Herren.