Protokoll
Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen!
Beschluss: Annahme der Entschließung nach Maßgabe der beschlossenen Änderungen
Entschließung des Bundesrates: KI-Regulierung der EU auf den Prüfstand stellen! – Antrag des Freistaates Bayern – (Drucksache 569/25) Hierzu liegt die Wortmeldung von Staatsministerin Schall, Rheinland-Pfalz, vor.
Sehr geehrter Herr Präsident! Sehr geehrte Damen und Herren! Die dynamische Entwicklung der KI, die wir in den vergangenen Jahren beobachtet haben, ist mit umfassenden geopolitischen und wirtschaftlichen Veränderungen einhergegangen. Vor diesem Hintergrund spüren wir sowohl gesellschaftlich als auch politisch eine große Verunsicherung. Deshalb ist es in der Tat geboten, dass wir die KI mit Augenmaß betrachten, flexibel bleiben und Nachjustierungen vornehmen. Die Leitfrage muss sein: Wie schaffen wir einen Rahmen, der gleichzeitig Innovation fördert und Vertrauen schafft? Bereits mit dem Inkrafttreten der KI-Verordnung am 1. August 2024 haben wir hier einen bedeutenden Meilenstein gesetzt.
Unsere Regelung zur KI ist die umfassendste weltweit. In der Vergangenheit haben wir es an verschiedenen Stellen verpasst, die Ökosysteme nach unseren Werten zu gestalten. Wir haben strategische Abhängigkeiten zugelassen, und wir haben schädliche Wirkungen auf die Gesellschaft nicht vorausgesehen. Wir haben die Möglichkeiten einer vorausschauenden und souveränen Technikgestaltung nicht genutzt, obwohl wir so früh in der KI-Forschung dabei waren. Seit 40 Jahren gibt es das DFKI in Kaiserslautern, und trotzdem ist es nicht gelungen, die Anpassung nach unseren Wertvorstellungen voranzutreiben. Und bei der KI muss aufgepasst werden.
Mit der KI-Verordnung stellen wir sicher, dass die Anwendungen in Zukunft mit den europäischen Werten in Einklang stehen. Die Verordnung ist deswegen keine Bremse. Sie ist ein notwendiges Instrument, um Vertrauen zu schaffen, um Rechtssicherheit zu gewährleisten und um klare Handlungsgrenzen zu definieren. Sie sorgt gerade in der Gesundheitsversorgung dafür, dass Sicherheit und Verlässlichkeit gestützt werden. Sie ist eine Voraussetzung für Vertrauen und für Planungssicherheit. Der vorliegende Antrag des Landes Bayern verkennt diesen Wert der Verordnung.
Die intensiven Beratungen und die daraus resultierenden Empfehlungen der Ausschüsse für Arbeit, Integration und Sozialpolitik, des Ausschusses für Digitales und Staatsmodernisierung und des Ausschusses für Innere Angelegenheiten sind eindeutig: Die KI-Verordnung ist kein Hindernis. Sie ist ein notwendiger Rahmen zum Schutz unserer Werte. Wir wollen den Fortschritt gestalten und nicht ausbremsen. Statt eines Moratoriums brauchen wir eine zielgerichtete, eine praxistaugliche Umsetzung. Wir müssen die Entwicklungen auf EU-Ebene berücksichtigen. Die Vorschläge für den Digital-Omnibus treffen zumindest den Kern unserer Anliegen.
Zugleich brauchen wir aber die Form, den regulatorischen Rahmen, und dem entsprechen wir mit der Umsetzung und der Anpassung der KI-Verordnung. Ein Aufschub der Fristen ist nicht sachgerecht. Wir benötigen den regulatorischen Schutz dringend. Wir wollen nicht verzögern. Wir brauchen Planungssicherheit für Unternehmen und für Bürgerinnen und Bürger. Wenn wir auf diese Fragen gemeinsam gute Antworten finden, dann können wir die Wettbewerbsfähigkeit der deutschen und der europäischen Unternehmen sichern und gleichzeitig die Chancen nutzen, die die KI-Technologie bietet, auch für unsere Gesellschaft. Es geht um einen klaren, verlässlichen Rechtsrahmen. Es ist kein Standortnachteil.
Im Gegenteil: Es ist ein Wettbewerbsvorteil. Ich möchte aber betonen, dass Nachjustierungen im Rahmen des Digital-Omnibus notwendig sind und nicht nur zulässig. Erst wenn wir das Gesamtbild der EU-Regelungen betrachten, können wir erkennen, wie das Gesamtnetz an Regulierung nachgesteuert werden muss. Wir brauchen den Aufbau einer vertrauensvollen KI für alle Menschen der Gesellschaft. Dieses Ziel muss unser Kompass sein. Der Blick nach vorn ist klar: Entscheidend werden die zügige, abgestimmte, praxistaugliche Umsetzung der KI-Verordnung und eine verantwortungsvolle Weiterentwicklung auf EU-Ebene sein. Wir wollen einen Beschluss fassen, der diese Feststellung aufbaut.
Wir wollen einen verlässlichen, praktikablen Rahmen fassen. Wir wollen, dass die Europäerinnen und Europäer befähigt sind, eine führende Rolle in der Entwicklung und in der Anwendung von künstlicher Intelligenz einzunehmen. Und wir wollen unsere gemeinsamen Werte schützen. Lassen Sie uns dafür die Verantwortung wahrnehmen! – Vielen Dank!
Vielen Dank, Frau Staatsministerin Schall! – Als Nächstes hat um das Wort gebeten: Herr Parlamentarischer Staatssekretär Jarzombek aus dem Bundesministerium für Digitales und Staatsmodernisierung. – Herr Staatssekretär, bitte!
Sehr geehrte Damen und Herren! Liebe Kolleginnen und Kollegen! Wenn wir auf die letzten 15 Jahre zurückblicken, dann sehen wir, dass das Bruttoinlandsprodukt in den USA um 100 Prozent gestiegen ist, in Deutschland um ein Drittel. Der wesentliche Grund ist nicht die Stahlindustrie. Die hat sich in Amerika auch nicht anders entwickelt als bei uns. Der wesentliche Grund sind vielmehr die Trillion-Dollar-Companies, die im Internet entstanden sind. Sie sind ist der wesentliche Treiber für Wertschöpfung in der globalen Wirtschaft. Es geht dabei mittlerweile nicht nur um BIP-Punkte, sondern inzwischen auch um politische Macht und Souveränität.
Wir in Europa und in Deutschland haben uns in diesen 15 Jahren, in denen das Internet dermaßen gewachsen ist, sehr oft mit der Frage beschäftigt: Was sind denn mögliche negative Aspekte, und wie können wir diese regulieren? Dabei haben wir den größten negativen Aspekt aus den Augen verloren, nämlich dass wir durch zu viel Regulierung die Chancen der Technologie verpassen. Das ist der Grund, warum wir uns als Bundesregierung beim AI Act sehr stark engagiert haben, um das Schutzniveau zu halten, aber die Anwendung deutlich einfacher zu machen und die Chancen besser zu nutzen.
Ich bin auch ein Stück weit stolz, dass wir es nach vielen Jahren geschafft haben, wieder eine geeinte Stellungnahme der Bundesregierung nach Brüssel abzugeben. Daran hat Karsten Wildberger sehr intensiv mit Bärbel Bas gearbeitet. Beiden möchte ich an dieser Stelle danken. Das war ein sehr konstruktives Miteinander in der Bundesregierung. Unser Aufschlag zum Digital-Omnibus hat auch Ergebnisse gebracht. Ich will drei positive Dinge nennen, die die Kommission vorgeschlagen hat. Das Erste ist: Wir werden es für KMU, für kleine und mittelständische Unternehmen, und für Start-ups leichter machen.
Zum Zweiten werden wir Fristen beim Thema Hochrisiko-KI ein Stück weit verschieben, denn die Unternehmen brauchen einfach eine gewisse Zeit, um sich den Regeln anzupassen. Dass sie diese Zeit haben, wäre nach dem bisherigen Stand nicht der Fall gewesen. Das Dritte ist: Der „Zwang zur Qualifizierung“ für KI wird jetzt zu einer „Ermöglichung von Qualifizierung“, weil keiner ganz genau wusste, was sich hinter diesem Begriff eigentlich verbirgt und wie man es umsetzt. Wir haben aber auch weiter Probleme.
Ein Problem besteht zum Beispiel in der Frage: Wenn Sie als mittelständisches Unternehmen, als Industriebetrieb Maschinendaten haben und mit diesen Maschinendaten eine KI trainieren und sie dann einsetzen, sind Sie dann Anwender dieses – wahrscheinlich amerikanischen – KI-Modells, oder sind Sie selbst derjenige, der es herausgibt? Das macht einen sehr großen Unterschied, was Dokumentations- und Folgeabschätzungsaufwendungen betrifft. Wir müssen unbedingt vermeiden, dass gerade in der Industrie und im Mittelstand Unternehmen sagen: Das ist ein ungewisses Risiko. Wir warten erst einmal ab, was andere machen. – Hier abzuwarten, jahrelang abzuwarten, können wir uns nicht leisten.
Deshalb kämpfen wir dafür, dass an dieser Stelle noch einmal eine Klarstellung kommt. Das Zweite ist die Marktüberwachung, also: Wie geht das KI-Recht mit all den anderen Überwachungsmechanismen einher? Hier brauchen wir einen One-Stop-Shop. Das bringt mich zu der nationalen Umsetzung. Ich darf mich bedanken für den Input aus dem Kreis der Länder, des Bundesrates. Wir arbeiten mit Hochdruck an der nationalen Umsetzung. Die Maxime für uns lautet aber: Wir brauchen Einfachheit und Klarheit. Gesetze sind nur dann vernünftig, wenn sie auch verstanden und umgesetzt werden können. Es finden sich hier in dem gesamten Kosmos einfach noch sehr viele unklare Begrifflichkeiten.
Deshalb wollen wir sie auf beiden Ebenen vereinfachen. Zudem müssen wir KI auch selber einsetzen: bei der Prüfung von KI. Denn wenn wir darüber reden, dass die Unternehmen mehr KI einsetzen sollen, dann können wir nicht anfangen, händisch mit Hunderten von Leuten jeden Vorgang aufwendig und lange zu prüfen. Vielmehr erwarten die Unternehmen, die KI einsetzen wollen, von uns, dass die Prüfverfahren schnell und berechenbar sind. Deshalb muss KI in den Prüfprozess hinein. Das ist es, was wir tun wollen. Wir wollen KI nicht als Chatbot neben dem Sachbearbeiter einsetzen, sondern in der Genehmigungsplattform als Teil des Prozesses. Ich darf mich bei den Ländern bedanken, die das unterstützen.
Mit der Genehmigungsplattform für Infrastrukturvorhaben gehen wir diesen Weg auch schon in unserem Ministerium. Zuletzt will ich deutlich sagen: Es darf nicht zu einer Fragmentierung kommen. Der Datenschutz ist ein superwichtiges Gut, aber 18 Datenschutzbehörden machen es manchmal schwer. Wenn wir jetzt KI in den Kommunen einführen, dann hören wir sogar von Hunderten von unterschiedlichen kommunalen Datenschutzbeauftragten, die alle gute Ideen haben, aber teilweise eben auch unterschiedliche. Das müssen wir klarbekommen, damit wir tatsächlich in die Anwendung einsteigen können. Das Schutzniveau erhalten, aber Klarheit in der Anwendung finden – das ist unser Ziel.
Herzlichen Dank für Ihre Unterstützung dabei!
Vielen Dank, Herr Staatssekretär! Weitere Wortmeldungen liegen nicht vor. Deshalb kommen wir zur Abstimmung über die Ihnen vorliegenden Maßgabeempfehlungen der Ausschüsse. Ich rufe auf: Ziffer 1! – Mehrheit. Damit entfällt Ziffer 2. Ziffer 3! – Mehrheit. Über Ziffer 4 stimmen wir nach Buchstaben getrennt ab: Ziffer 4 Buchstabe a! – Mehrheit. Ziffer 4 Buchstabe d! – Mehrheit. Nun die übrigen Buchstaben der Ziffer 4! – Mehrheit. Ziffer 5, ebenfalls nach Buchstaben getrennt: Ziffer 5 Buchstabe a! – Mehrheit. Ziffer 5 Buchstabe b! – Mehrheit. Wir kommen nun zur Schlussabstimmung: Wer die Entschließung, wie soeben festgelegt, fassen möchte, den bitte ich um das Handzeichen. – Mehrheit.
Damit hat der Bundesrat die Entschließung gefasst. Wir kommen zum Tagesordnungspunkt 39: