Protokoll
Gesetz zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz)
Beschluss: Stellungnahme gemäß Artikel 76 Absatz 2 GG
Entwurf eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) (Drucksache 97/26) Hierzu liegen zwei Wortmeldungen vor. Zunächst Frau Staatsministerin Professor Dr. Sinemus aus Hessen. – Bitte, Frau Kollegin!
Sehr geehrter Herr Präsident! Verehrte Kolleginnen und Kollegen Mitglieder des Bundesrates! Künstliche Intelligenz ist nicht mehr nur ein Forschungsfeld oder ein Zukunftsversprechen. Sie prägt bereits heute Entscheidungen in Unternehmen, in Verwaltungen, im Alltag der Menschen in unserem Land. Und sie ist vor allen Dingen Treiber für Innovation, Wertschöpfung und Wettbewerbsfähigkeit. Allein für die nächsten fünf Jahre wird prognostiziert, dass ein Wirtschaftswachstum von 3 bis 5 Prozent pro Jahr zu erwarten ist durch den Einsatz von künstlicher Intelligenz als Technologie.
Gerade deshalb kommt es jetzt darauf an, die richtigen Rahmenbedingungen zu setzen – Rahmenbedingungen, die Vertrauen schaffen, ohne die Dynamik zu bremsen, die Missbrauch verhindern, ohne Innovation zu ersticken. Die KI-Verordnung darf nicht als Hemmnis wirken, sondern muss als Ermöglichungsrahmen verstanden werden. Deswegen begrüße ich ausdrücklich die Entscheidung der Bundesregierung, die Zuständigkeit bei der Bundesnetzagentur zu bündeln. Ich bin mir sicher, dass das auch vom Bundeswirtschaftsministerium unterstützt wird, denn dort ist die Bundesnetzagentur ja angesiedelt.
Ich bin auch sicher, dass eine starke, zentral aufgestellte Aufsicht der Schlüssel ist, um Rechtsklarheit zu schaffen, Doppelstrukturen zu vermeiden und einheitliche Maßstäbe und Standards zu gewährleisten. Gerade bei einer Querschnittstechnologie wie der künstlichen Intelligenz ist es entscheidend, Kompetenzen nicht zu zersplittern, sondern gezielt zu zentralisieren. Denn erst dadurch schaffen wir die Voraussetzungen eines abgestimmten Handelns, das vor allen Dingen Geschwindigkeit und Verlässlichkeit im Vollzug möglich macht und in die Zukunft gerichtet sein wird – auch und gerade zusammen mit den Ländern.
Ebenso wichtig ist, dass wir nicht nur regulieren, sondern auch innovationsfreundlich befähigen. Nur so ist der Aufbau leistungsfähiger Strukturen zur Unterstützung möglich, mit dem Ziel, dass wir mehr Wettbewerbsfähigkeit erhalten. Die geplante Einrichtung eines Koordinierungs- und Kompetenzzentrums ist der richtige Schritt. Meine Damen und Herren, die Ausgestaltung der Marktaufsicht ist eine der zentralen Weichenstellungen dieses Gesetzes. Aus meiner Sicht spricht vieles dafür, die Kompetenzen konsequent zu bündeln. Dies gewährleistet ein einheitliches Vorgehen, eine reduzierte Komplexität, und es stärkt die Handlungsfähigkeit im föderalen Miteinander.
Zugleich bietet die vorgesehene Evaluierung nach drei Jahren die Chance, die gewählten Strukturen zu überprüfen und gegebenenfalls anzupassen und weiterzuentwickeln. Das ist klug und notwendig. Mit diesem Gesetz legen wir den Grundstein für den Umgang mit einer der Schlüsseltechnologien unserer Zukunft. Umso wichtiger ist es, zügig und entschlossen zu handeln. Unsere Unternehmen brauchen Planungssicherheit, unsere Verwaltungen brauchen verlässliche Strukturen, und die Menschen in unserem Land müssen darauf vertrauen können, dass KI unter klaren Regeln eingesetzt wird. –Herzlichen Dank!
Vielen Dank, Frau Kollegin! – Ich erteile nun das Wort Herrn Parlamentarischem Staatssekretär Jarzombek aus dem Bundesministerium für Digitales und Staatsmodernisierung. – Sie haben das Wort.
Herr Präsident! Liebe Kolleginnen und Kollegen! Sehr geehrte Damen und Herren! Künstliche Intelligenz – wir haben verschiedentlich über dieses Thema gesprochen – kann vielleicht das Versprechen einlösen oder auch die Befürchtung wahr werden lassen, dass digitale Technologien menschliche Arbeit ersetzen. Das wird schon seit Jahrzehnten so propagiert. Ob es wirklich so kommen wird? Wir wissen es nicht. Wir sehen aber klare Anzeichen dafür. Das bedeutet, dass sich die Mitarbeiterinnen und Mitarbeiter, die Unternehmerinnen und Unternehmer in unserem Land mit dem Thema KI auseinandersetzen müssen. Jeder muss das. Das gilt gerade für die Unternehmen.
Wir erwarten dem Ergebnis verschiedener Studien zufolge bis zu 300 Milliarden Euro an Wertschöpfung, die teilweise zusätzlich entsteht, aber teilweise auch aus der klassischen Industrie, aus der Hardware in den KI-Bereich abfließt. Wir wollen, dass diese Wertschöpfung bei uns im Lande bleibt, dass die Menschen hier in Deutschland davon profitieren können und sie nicht an Anbieter in Drittstaaten abfließt. Insofern ist es einfach wichtig, dass man KI nutzt und damit experimentiert. Um das mal an einem praktischen Beispiel zu beschreiben, kann ich Ihnen berichten, was mein Agent, den ich gestern auf einem neuen Server installiert habe, mir heute Morgen präsentierte.
Als ich ihn fragte, was denn mit meinem Nachrichten-Newsletter los sei, war er ein bisschen aufgeregt, und dann sagte er: „Sorry, da kam mir ein furchtbarer Fehler durch. Ich habe vorhin völligen Unsinn geschrieben und statt echten News einfach hallucinated Zukunftsmüll erfunden. Das tut mir leid!“ So viel Selbstreflexion würde man sich auch von manchen Kollegen im Bundestag mal wünschen. Jedenfalls zeigt dieses Beispiel: Das Ganze ist im Werden, und man muss lernen. Ich glaube, heute Morgen haben dabei zwei Parteien etwas gelernt: mein KI-Agent und ich. Wir werden das sicherlich besser machen in den nächsten Tagen.
Was ich in meiner eigenen privaten Sandbox isoliert ausprobiere, macht nichts kaputt, in keinem Unternehmen und auch nicht in der öffentlichen Hand. Aber das Bürgeramt der Stadt Düsseldorf wird sicherlich nicht solch ein Tool einsetzen wollen, um die Anfragen der Bürgerinnen und Bürger zu beantworten. Wir müssen aber alle lernen und üben. Deshalb glauben wir, dass es wichtig ist, nicht nur über Regulierung zu reden, sondern KI auch wirklich einzusetzen. Wir machen das bei uns im Ministerium mit deutlich erprobteren Systemen: zum einen, um die Genehmigungszeit für Brückenbauten, Autobahnen und Eisenbahnstrecken jetzt schon zu halbieren.
Wir testen das gerade in Hamburg und in Nordrhein-Westfalen. Zum Zweiten haben wir vor drei Wochen den Agentic AI Hub gestartet. 400 Start-ups, 200 Kommunen haben ihr Interesse bekundet. Wir bringen KI-Start-ups mit Kommunen zusammen, zum Beispiel, um Posteingänge zu sortieren, Auskunft über einfache Dinge zu erteilen oder Pflegeanträge zu vereinfachen. Unsere Aufgabe, einen sicheren Rechtsrahmen herzustellen, bleibt aber. Wir werden ja auch gleich noch darüber reden, wie wir das in Europa vereinfachen. In unserer nationalen Gesetzgebung – Sie haben es sicherlich verfolgt – ist das durch die erste Lesung im Bundestag gegangen. Wir hatten dazu auch am vergangenen Montag eine Anhörung.
Und wir sind jetzt dabei, das Verfahren zu vereinfachen. Was wir uns insgesamt als Ziel gesetzt haben, ist eine Eins-zu-eins-Umsetzung des europäischen Rahmens ohne Sonderlocken, möglichst schlank – das haben wir auch erreicht –, und die Erzeugung eines One-Stop-Shops bei der Bundesnetzagentur, die das mit dem BSI und der BfDI koordiniert, um hier wirklich einen integrierten Prozess zu schaffen. Ich lese aber aus den Ausschussempfehlungen heraus, dass in den Ländern der Wunsch besteht, manche Dinge noch stärker zu konzentrieren. Aus unserer Sicht muss man das Ganze aber nicht nur aus Sicht der Behörden betrachten, sondern auch aus Sicht der Anwenderinnen und Anwender und der Unternehmen.
Diejenigen, die heute schon eine zuständige Marktüberwachungsbehörde haben, die sich teilweise auf der Länder- und teilweise auf der Bundesebene befindet, sollen diese Marktüberwachungsbehörde auch weiterhin als Ansprechpartner haben. Die Bundesnetzagentur unterstützt an dieser Stelle, bietet ihr Know-how an. Es gibt auch andere Modelle, die in der Anhörung vorgeschlagen wurden. Um sozusagen das Feld der Diskussion ein bisschen anzuleuchten: „Comply or explain“ ist eine der Ideen, über die gerade diskutiert wird. Hier kann die BNetzA horizontale Standards setzen, und Länderbehörden können dann trotzdem andere Wege gehen, müssen dies dann aber explizit erklären.
Das ist etwas, was gerade diskutiert wird. Für uns ist nur wichtig, dass für die Anwenderinnen und Anwender am Ende wirklich ein Ansprechpartner da ist und nicht mehrere. Ich darf mich, auch im Namen von Bundesminister Karsten Wildberger, für den Input bedanken und für den Wunsch und den Willen des Bundesrates, hier wirklich zu konzentrierten und einfachen Lösungen zu kommen. Das haben wir gemein. Und Ihre Anregungen, wenn sie denn beschlossen werden, nehmen wir sehr gerne auf. – Herzlichen Dank!
Vielen Dank, Herr Staatssekretär! Es liegt eine Erklärung zu Protokoll1 von Herrn Staatsminister Fernis (Rheinland-Pfalz) vor. Wir kommen zur Abstimmung. Zur Abstimmung liegen Ihnen die Ausschussempfehlungen vor. Ich rufe auf: Ziffer 1! – Mehrheit. Damit entfallen Ziffer 3, Ziffer 4 und Ziffer 26. Ziffer 2! – Mehrheit. Ziffer 8! – Minderheit. Ziffer 9! – Mehrheit. Ziffer 10! – Mehrheit. Ziffer 27 wird vorgezogen. Bitte Ihr Handzeichen! – Mehrheit. Ich fahre fort mit: Ziffer 11! – Mehrheit. Ziffer 16! – Mehrheit. Ziffer 18! – Mehrheit. Ziffer 20! –Mehrheit. Damit entfallen Ziffer 21 und Ziffer 23. Ziffer 25! – Mehrheit.
Nun bitte Ihr Handzeichen für alle noch nicht erledigten Ziffern der Ausschussempfehlungen! – Mehrheit. Damit hat der Bundesrat entsprechend Stellung genommen. Wir kommen zu TOP 26:
Die Anwendung und Durchführung der Verordnung über künstliche Intelligenz wirft zahlreiche rechtliche und praktische Fragen auf, sodass es zweckmäßig erscheint, die Aufteilung der Zuständigkeiten für die Überwachung der rechtlichen Vorgaben aus Gründen der Vereinfachung auf wenige Behörden zu konzentrieren. Dabei sollte der Gesetzgeber allerdings berücksichtigen, dass die Regelungen des Grundgesetzes über die Ausführung von Bundesgesetzen grundsätzlich eine klare Aufgabenverteilung zwischen Bund und Ländern vorsehen (Trennungsprinzip). Es bestehen also verschiedene Verwaltungsbereiche, denen durch das Grundgesetz jeweils bestimmte Aufgaben zugewiesen sind.
Diese Aufgabenverteilung ist selbstverständlich auch dann zu beachten, wenn es um die Durchführung der Verordnung über künstliche Intelligenz in der Bundesrepublik Deutschland geht.