Protokoll
Gesetz zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz)
Beschluss: Kein Antrag gemäß Artikel 77 Absatz 2 GG
Gesetz zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) (Drucksache 375/26, zu Drucksache 375/26) Mir liegt eine Wortmeldung von Frau Staatsministerin Professor Dr. Sinemus aus Hessen vor.
Sehr geehrter Herr Präsident! Verehrte Kolleginnen und Kollegen! Liebe Mitglieder des Bundesrates! Die Bundesregierung hat sich in ihrem Koalitionsvertrag dazu verpflichtet – ich zitiere Seite 70, Zeile 2270 –, „dass die nationale Umsetzung des AI-Acts innovationsfreundlich und bürokratiearm erfolgt und die Marktaufsicht nicht zersplittert wird“. Ebendieses Ziel ist auch in der Föderalen Modernisierungsagenda bekräftigt. Diesem Anspruch wird die Bundesregierung mit ihrem Vorschlag aus Sicht von uns Ländern bisher nicht gerecht. Denn dieser sieht vor, die Marktaufsicht auf 16 Länder zu zersplittern.
Meine Damen und Herren, eine Zersplitterung auf 16 Länder mit sektoralen Marktaufsichtsbehörden oder mit Aufwuchs an Personal bei den Landesdatenschutzbeauftragten möchten wir nicht. Der Bundesrat hat sich im Gesetzgebungsverfahren von Beginn an mit Nachdruck für eine Zentralisierung der Marktüberwachung beim Bund eingesetzt. Unsere Haltung teilen auch große Branchenverbände wie beispielsweise der Bitkom, der davor warnt, einen Flickenteppich regional unterschiedlicher Zuständigkeiten zu schaffen mit dem Risiko einer Fragmentierung. Unnötiger Aufwand, Ineffizienz, Dysbalancen bei der Produktzulassung sind in jedem Fall kein innovationsfreundliches Umfeld.
Diese regionale Fragmentierung können wir uns im dynamisch wachsenden deutschen KI-Markt nicht leisten. Ausgehend von einem Marktvolumen von etwa 9 Milliarden Euro allein im Jahr 2025 wird ein Anstieg auf rund 37 Milliarden Euro bis 2031 prognostiziert, was einer jährlichen Wachstumsrate von 26 Prozent entspricht. Meine Damen und Herren, unser Standort braucht Wachstum und Wettbewerbsfähigkeit. Gerade im Bereich KI haben wir Umsetzungsbedarf und brauchen eine Umsetzungsdynamik. Wir müssen Unternehmen in die Lage versetzen, innovative KI-Anwendungen schnell und erfolgreich auf den Markt zu bringen. Dafür brauchen wir eine zügige und praktikable Umsetzung der neuen Regelungen.
Denn eine Aufsicht muss komplexe Fragen zur Funktionsweise der KI, zu den verwendeten Daten und zur Risikobewertung beurteilen können. Dafür braucht es spezialisiertes Wissen. Diese Kompetenzen sollten wir nicht 16-fach aufbauen, sondern bündeln und für einheitliche Entscheidungen, mehr Effizienz und mehr Rechtssicherheit sorgen. In den letzten Wochen haben wir im Bundesratsverfahren erfolgreich darauf hingewirkt, die Bundesregierung erneut an den Verhandlungstisch zu bringen.
Ich darf mich beim BMDS, hier vertreten durch den beamteten Staatssekretär Markus Richter, dafür bedanken, dass wir hier, wie ich finde, gemeinsam einen sehr konstruktiven Weg gefunden haben und in den Bund-Länder-Diskussionen zu der Entscheidung gekommen sind, eine gemeinsame Marktaufsicht auf den Weg zu bringen. Diese Offenheit der Bundesregierung, auf das Anliegen der Länder einzugehen, ist nur deswegen möglich, weil wir ein Bundesdigitalministerium haben, das mit den Ländern an einem Strang ziehen will – auch in dieser Frage. Es freut mich, dass die Gespräche so erfolgreich verlaufen sind und dass wir uns im Vorfeld des heutigen Tages auf einen Weg einigen konnten.
Die Bündelung der Marktaufsicht wird künftig bei der BNetzA erfolgen, wahrscheinlich im Rahmen einer Verwaltungsvereinbarung. Nach der Sommerpause werden wir dann diskutieren, wie wir das Ganze umsetzen, und zwar so, dass die Grundlage für eine starke und praxisnahe KI-Governance gegeben ist. Denn nur durch Innovation werden wir Investitionen fördern, und nur durch Investitionen werden wir Deutschland als wettbewerbsfähigen Standort für die Entwicklung und Anwendung künstlicher Intelligenz stärken. Das müssen wir bürokratiearm tun, gemeinsam mit Bund und Ländern. – Vielen Dank!
Herzlichen Dank, Frau Kollegin! Weitere Wortmeldungen liegen mir nicht vor. Zur Abstimmung liegen Ihnen die Ausschussempfehlungen vor. Der Ausschuss für Digitales und Staatsmodernisierung empfiehlt, den Vermittlungsausschuss mit dem Ziel der grundlegenden Überarbeitung des Gesetzes anzurufen. Wer ist dafür? – Minderheit. Damit hat der Bundesrat den Vermittlungsausschuss nicht angerufen. Herr Staatssekretär Dr. Markus Richter (Bundesministerium für Digitales und Staatsmodernisierung) gibt eine Erklärung zu Protokoll1. Damit schließe ich den Tagesordnungspunkt. Wir kommen zu Tagesordnungspunkt 2:
Protokollerklärung der Bundesregierung 1. Die Bundesregierung erkennt die Herausforderungen und zusätzlichen Belastungen an, die damit einhergehen, dass die Länder in bestimmten Bereichen für die Marktüberwachung nach dem KI-Marktüberwachungsund Innovationsförderungsgesetz (KI-MIG) zuständig sind. 2. Die Bundesregierung bestätigt daher im Einklang mit dem Beschluss der Besprechung des Bundeskanzlers mit den Regierungschefinnen und Regierungschefs der Länder vom 25.
Juni 2026, dass zur erleichterten Durchführung und in Ausgestaltung des KI-MIG unverzüglich nach Verabschiedung des KI-MIG im Bundesrat (spätestens unmittelbar nach der Sommerpause) Beratungen über eine verfassungskonforme Bündelung der KI-Marktüberwachung bei der Bundesnetzagentur mit interessierten Ländern aufgenommen werden, um diese Länder zu unterstützen und auch um eine weitgehend bundeseinheitliche Auslegung und Anwendung der Verordnung (EU) 2024/1689 (KI-Verordnung) weiter zu stärken.
Die Beratungen beinhalten die Zusage der Bundesregierung, die grundsätzlich zulässige Übertragung spezifischer Marktüberwachungsaufgaben der Länder nach § 2 Absatz 2 und § 2 Absatz 6 KI-MIG durch Organleihe an die Bundesnetzagentur zu ermöglichen, sofern die konkrete Ausgestaltung der Aufgabenübertragung im rechtlich zulässigen Rahmen erfolgt und bei der Bundesnetzagentur die für die Aufgabenwahrnehmung erforderlichen personellen und sachlichen Ressourcen aufgebaut werden können. Gegenstand der zu verhandelnden Vereinbarungen sollen insbesondere Regelungen über die zu übertragenden konkreten Aufgaben, Zuständigkeiten, Abstimmungsprozesse, Verantwortlichkeiten sowie die Kostentragung sein. 3.
Die Bundesregierung erkennt ferner an, dass bei künstlicher Intelligenz als Schlüsseltechnologie ein besonderer Bedarf an einheitlicher Auslegung und Ausübung der Marktüberwachung vorliegt. Die Marktüberwachung von KI-Systemen stellt besondere Anforderungen an eine einheitliche, rechtssichere und vollzugstaugliche Anwendung der KI-Verordnung. Die Bundesnetzagentur wird daher für diesen Bereich Leitlinien für eine bundeseinheitliche Auslegung und Anwendung der Anforderungen an die KI-Marktüberwachung erlassen und diese vorher im Bund-Länder-Ausschuss für Künstliche Intelligenz, der gemäß § 5 Satz 4 KI-MIG eingerichtet wird, mit den Ländern beraten.
Ziel ist es, die zuständigen Marktüberwachungsbehörden der Länder je nach Art und Umfang der Übertragung von Aufgaben der KI-Marktüberwachung per Organleihe an die Bundesnetzagentur bei der Aufgabenwahrnehmung im Bereich der KI-Verordnung wirksam zu unterstützen, divergierende Vollzugspraxen zu vermeiden und eine wirksame, flächendeckende sowie bundesweit kohärente Durchsetzung der materiellen Anforderungen der Verordnung (EU) 2024/1689 sicherzustellen. 4.
Darüber hinaus sichert die Bundesregierung mit dieser Protokollerklärung zu, die zuständigen Landesbehörden zusätzlich zur Möglichkeit einer Organleihe in größtmöglichem Umfang durch das Koordinierungs- und Kompetenzzentrum, das gemäß § 5 KI-MIG bei der Bundesnetzagentur eingerichtet wird (sogenanntes Zentrum beziehungsweise KoKIVO), zu unterstützen, insbesondere in der Anfangsphase der Aufgabenwahrnehmung der Marktüberwachungsbehörden. Hierzu unterstützt das KoKIVO die zuständigen Marktüberwachungsbehörden auf Anfrage bei komplexen Entscheidungen im Anwendungsbereich der KI-Verordnung mit seinem Sachverstand.
Das KoKIVO soll zudem auf die einheitliche Anwendung der KI-Verordnung in Deutschland hinwirken; auf die Erforderlichkeit einer solchen einheitlichen Anwendung weist der Bundesrat zu Recht hin. Dass die unterstützende und koordinierende Funktion des KoKIVO von besonderer Bedeutung ist, zeigt sich auch darin, dass der Deutsche Bundestag im Interesse einer strukturierten Koordinierung und Zusammenarbeit zwischen den Marktüberwachungsbehörden in § 5 Satz 4 KI-MIG die Einrichtung eines Bund-Länder-Ausschusses Künstliche Intelligenz ergänzt hat. 5.
Im Interesse einer funktionsfähigen Behörden- und Aufsichtsstruktur für die nationale Durchführung der KI-Verordnung betont die Bundesregierung schließlich auch die Bedeutung der vom Deutschen Bundestag ergänzten Regelung zur Evaluierung in § 19 KI-MIG. Danach führt die Bundesregierung spätestens 18 Monate nach Inkrafttreten des Gesetzes eine erste Evaluierung der Aufsichtsund Behördenstruktur durch. Spätestens nach drei Jahren wird die Wirksamkeit der Aufsichts- und Behördenstruktur einschließlich der Kooperationsvorschriften im Hinblick auf eine innovationsfreundliche, bürokratiearme und wirksame Durchführung der KI-Verordnung evaluiert.