Fundstellen
Es ist keinem normalen Mittelständler mehr zu vermitteln, mit wie vielen Regelungen gerade Sie von den Grünen die wenigen verbleibenden Macher in Deutschland noch gängeln wollen und wie viele Ihrer Günstlingsinstitute noch aus dem Steuertopf bezahlt werden sollen. Wir haben den AI Act und den Cyber Resilience Act, wir bekommen die NIS-2-Richtlinie und weitere sektorspezifische Sicherheitsvorschriften. Und anstatt die Unternehmer hier im Lande konkurrenzfähige Produkte entwickeln zu lassen, spendieren Sie den nächsten zuständigen Institutionen im kommenden Jahr 504 neue Personalstellen. Das ist der Nettozuwachs aus BSI, BMI, BMDS und BfDI inklusive 189 neuer NIS-2-Stellen beim ITZ Bund. Und trotz dieses unglaublichen Behördenaufwuchses fordern Sie schon wieder die nächste Kompetenzstelle im Bund. Welches konkrete Sicherheitsproblem lösen wir damit, das durch die bestehenden Vorschriften aus der EU und den nationalen Umsetzungsgesetzen noch nicht abgedeckt ist? Liebe Kollegen, mehr Regulierung bedeutet nicht automatisch mehr Sicherheit und mehr Behörden bedeuten auch nicht automatisch mehr technische Kompetenz.
Die KI-Verordnung macht dort gute Anfänge, aber sie geht nicht weit genug. Statistische Verfahren dürfen nirgendwo Entscheidungen über Menschen treffen, erst recht nicht, wenn es um Entscheidungen über Leben und Tod geht, wie sie an den deutschen und den europäischen Grenzen getroffen werden. Wir brauchen nicht mehr KI. Wir brauchen verlässliche Systeme und eine gute digitale Infrastruktur, die unabhängig von einigen großen Firmen funktioniert.
Neben diesen rechtlichen Fragen dürfen wir auch die wirtschaftlichen Folgen nicht aus dem Blick verlieren. Unsere Unternehmen tragen bereits umfangreiche Pflichten im Bereich der IT-Sicherheit. Selbst der Bundesrat warnt vor parallelen Meldepflichten und unverhältnismäßigen Belastungen: KI-Verordnungen, Cyber Resilience Act, NIS-2-Umsetzung und die explodierenden Kosten für Cyberversicherungen. Deshalb müssen wir auch bei diesem Gesetz genau prüfen, welche zusätzlichen Anforderungen tatsächlich erforderlich sind.
Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz – KI-Verordnung). Des Weiteren ist die Bundesregierung sich bewusst, dass bei der Auslegung des § 31b Absatz 1 Satz 2 Nummer 2 BPolG-E insbesondere der Artikel 5 Absatz 1 Buchstabe h Ziffer ii der KI-Verordnung zu berücksichtigen ist.
Die biometrische Detektion in Echtzeit wird im Rahmen einer bereits nach zwei Jahren stattfindenden Evaluierung gezielt und sukzessive an den verkehrsreichen Bahnhöfen eingerichtet. Die Bundesregierung sichert zu, dass sie nach Abschluss der Evaluierung gemäß § 106 Absatz 3 BPolG-E innerhalb von sechs Monaten eine Überarbeitung des § 31b BPolG-E unter Berücksichtigung der Ergebnisse der Evaluierung sowie der KI-Verordnung und der hierzu ergangenen Rechtsprechung dem Deutschen Bundestag vorschlagen wird.
Mit dem AI Act hat die Europäische Union bereits Rahmenbedingungen für den Einsatz künstlicher Intelligenz geschaffen. Hier wurden klare Leitplanken gesetzt und der KI verbindliche Regularien vorgesetzt; denn bestimmte KI-Anwendungen im Bereich „Migration und Grenzkontrolle“ gelten als Hochrisikosysteme und unterliegen deshalb auch besonderen Anforderungen in Bezug auf Transparenz, Sicherheit und vor allem menschlicher Kontrolle. Diese menschliche Kontrolle setzt zwangsläufig zusätzliche Personalstellen bei der Bundespolizei voraus, Personal – das ist richtig –, das bereits jetzt fehlt bei Einsätzen an Bahnhöfen, Flughäfen oder auf zentralen Verkehrswegen, weshalb die Bundespolizei zunehmend auf Kolleginnen und Kollegen aus dem Bereitschaftsdienst angewiesen ist.
den AI Act zu bauen, und zwar mit einer Detailliertheit an Regulierungsinstrumenten auf über 100 Seiten, die nicht dazu beigetragen hat, dass eine starke KI in Europa einfach zu bauen war. Sie hat es den Gründerinnen und Gründern schwer gemacht. Deshalb ist unser Fokus als Bundesregierung vor allem, es den Gründerinnen und Gründern leicht zu machen, damit wir es schaffen, die Innovation aus den Hochschulen in globale Marktführerschaft zu übersetzen.
Bei den leistungsfähigen KI-Frontier-Modellen brauchen wir echte technische Sicherheitstests. Wir brauchen Red Teaming Tests über Cyberfähigkeiten von Modellen und einiges mehr. Das wird teilweise auch schon gemacht. Das Entscheidende bleibt aber: Wir brauchen keine Regulierung wie den AI Act, der einen mittelständischen Maschinenbauer am Ende genauso behandelt wie ein Frontier Lab, das an der Grenze zur nächsten KI-Generation arbeitet. Das brauchen wir nicht!
Erstens. Ja, wir müssen die europäische KI-Verordnung wirksam durchsetzen. Wir brauchen unabhängige Prüfkapazitäten, aussagekräftige Sicherheitstests und am Ende eine Aufsicht mit Personal, das Sachverstand und den tatsächlichen Zugang zu diesen Systemen hat.
Erstens. Wir brauchen eine starke Aufsicht. Aber glücklicherweise entsteht die ja gerade. Seit Ende Juli haben wir das nationale Durchführungsgesetz für den europäischen AI Act. Die Bundesnetzagentur ist mittlerweile KI-Marktüberwachungsbehörde. Und seit September haben wir bei mir im schönen Berlin auch das AISI Germany, also das KI-Sicherheitsinstitut, wo Kolleginnen und Kollegen daran arbeiten, KI-Systeme, besonders die leistungsfähigen, zu kontrollieren.
Der Gesetzgeber und dieses Parlament muss der staatlichen Schutzverantwortung gegenüber den Bürgerinnen und Bürgern gerecht werden. Wir müssen gemeinsam – da hat der Kollege Lauterbach vollkommen recht – alles daransetzen, zu verhindern, dass uns diese Technologie entgleitet. Es stimmt: Wir sind, was die Regulierung der KI angeht, sehr viel weiter als andere. Der AI Act ist ein gutes Regelwerk. Er definiert, wo und unter welchen Bedingungen neue KI-Anwendungen zum Einsatz kommen. Er zeigt auch rote Linien auf und verbietet Anwendungen dort, wo der Einsatz gesellschaftspolitisch gefährlich ist. Er nimmt die Unternehmen in die Pflicht und definiert sogar sehr drastische Strafen bei Verstößen. Das ist alles gut und richtig. Aber die beste EU-Gesetzgebung nützt nichts, wenn sie nicht entschlossen in nationales Recht umgesetzt wird und wenn es nicht zugleich Aufsichtsbehörden gibt, die imstande sind, zumindest einigermaßen auf Augenhöhe mit den milliardenschweren KI-Firmen zu agieren, sie zu kontrollieren und notfalls auch zu sanktionieren. Klare Haftungsregeln – da hat der Kollege Jarzombek völlig recht – braucht es. Davon sind wir aber meilenweit entfernt, meine Damen und Herren.
Die digitale heilige Dreifaltigkeit aus Papst, Bill Gates und Ihnen, Herr Wildberger, hat sich kürzlich für mehr KI-Aufsicht ausgesprochen. Das passt jedoch überhaupt nicht mit Ihrem vorliegenden Entwurf zusammen. Ganz konkret: Bei jenem Titel, der die Aufsicht gemäß KI-Verordnung enthält, wollen Sie kürzen. Gleichzeitig gibt es aber 10 Millionen Euro mehr beim Titel „Innovative Anwendungen von künstlicher Intelligenz“. So zieht sich das durch den gesamten Haushalt.
Juni 2026, dass zur erleichterten Durchführung und in Ausgestaltung des KI-MIG unverzüglich nach Verabschiedung des KI-MIG im Bundesrat (spätestens unmittelbar nach der Sommerpause) Beratungen über eine verfassungskonforme Bündelung der KI-Marktüberwachung bei der Bundesnetzagentur mit interessierten Ländern aufgenommen werden, um diese Länder zu unterstützen und auch um eine weitgehend bundeseinheitliche Auslegung und Anwendung der Verordnung (EU) 2024/1689 (KI-Verordnung) weiter zu stärken.
Die Bundesregierung erkennt ferner an, dass bei künstlicher Intelligenz als Schlüsseltechnologie ein besonderer Bedarf an einheitlicher Auslegung und Ausübung der Marktüberwachung vorliegt. Die Marktüberwachung von KI-Systemen stellt besondere Anforderungen an eine einheitliche, rechtssichere und vollzugstaugliche Anwendung der KI-Verordnung. Die Bundesnetzagentur wird daher für diesen Bereich Leitlinien für eine bundeseinheitliche Auslegung und Anwendung der Anforderungen an die KI-Marktüberwachung erlassen und diese vorher im Bund-Länder-Ausschuss für Künstliche Intelligenz, der gemäß § 5 Satz 4 KI-MIG eingerichtet wird, mit den Ländern beraten.
Ziel ist es, die zuständigen Marktüberwachungsbehörden der Länder je nach Art und Umfang der Übertragung von Aufgaben der KI-Marktüberwachung per Organleihe an die Bundesnetzagentur bei der Aufgabenwahrnehmung im Bereich der KI-Verordnung wirksam zu unterstützen, divergierende Vollzugspraxen zu vermeiden und eine wirksame, flächendeckende sowie bundesweit kohärente Durchsetzung der materiellen Anforderungen der Verordnung (EU) 2024/1689 sicherzustellen. 4.
Darüber hinaus sichert die Bundesregierung mit dieser Protokollerklärung zu, die zuständigen Landesbehörden zusätzlich zur Möglichkeit einer Organleihe in größtmöglichem Umfang durch das Koordinierungs- und Kompetenzzentrum, das gemäß § 5 KI-MIG bei der Bundesnetzagentur eingerichtet wird (sogenanntes Zentrum beziehungsweise KoKIVO), zu unterstützen, insbesondere in der Anfangsphase der Aufgabenwahrnehmung der Marktüberwachungsbehörden. Hierzu unterstützt das KoKIVO die zuständigen Marktüberwachungsbehörden auf Anfrage bei komplexen Entscheidungen im Anwendungsbereich der KI-Verordnung mit seinem Sachverstand.
Das KoKIVO soll zudem auf die einheitliche Anwendung der KI-Verordnung in Deutschland hinwirken; auf die Erforderlichkeit einer solchen einheitlichen Anwendung weist der Bundesrat zu Recht hin. Dass die unterstützende und koordinierende Funktion des KoKIVO von besonderer Bedeutung ist, zeigt sich auch darin, dass der Deutsche Bundestag im Interesse einer strukturierten Koordinierung und Zusammenarbeit zwischen den Marktüberwachungsbehörden in § 5 Satz 4 KI-MIG die Einrichtung eines Bund-Länder-Ausschusses Künstliche Intelligenz ergänzt hat. 5.
Im Interesse einer funktionsfähigen Behörden- und Aufsichtsstruktur für die nationale Durchführung der KI-Verordnung betont die Bundesregierung schließlich auch die Bedeutung der vom Deutschen Bundestag ergänzten Regelung zur Evaluierung in § 19 KI-MIG. Danach führt die Bundesregierung spätestens 18 Monate nach Inkrafttreten des Gesetzes eine erste Evaluierung der Aufsichtsund Behördenstruktur durch. Spätestens nach drei Jahren wird die Wirksamkeit der Aufsichts- und Behördenstruktur einschließlich der Kooperationsvorschriften im Hinblick auf eine innovationsfreundliche, bürokratiearme und wirksame Durchführung der KI-Verordnung evaluiert.
Jede Woche haben wir hier im Bundestag neue Verordnungen von der EU, die unsere Unternehmen und Start-ups in Bürokratie ersticken, gestern erst die KI-Verordnung. Die Regierung setzt diese EU-Bürokratie willfährig um. Daher ist der zweite Schritt der AfD wohl der wichtigste Befreiungsschlag für die deutsche Wirtschaft: Wir brauchen einen radikalen Kahlschlag der EU-Bürokratie von 80 Prozent oder mehr, wenn nicht sogar ein Reset der EU, um endlich die deutsche Innovationskraft freizusetzen und die deutsche Wirtschaft von ihren Fesseln zu lösen.
Meine Damen und Herren, wir haben gestern das KI-MIG beschlossen und damit die nationale Umsetzung dieser KI-Verordnung auf den Weg gebracht. Dabei handelt es sich um eine echte Eins-zu-eins-Umsetzung, wie wir es versprochen haben, mit klaren Strukturen und dem Grundprinzip, dass die Behörden, die heute schon für Unternehmen verantwortlich sind, auch in Zukunft verantwortlich sein werden. Doppelstrukturen werden dabei vermieden, mit starker Koordination der Bundesnetzagentur.
Das sind die Dinge, die wir unternommen haben, um hier Bürokratie abzubauen. Ich will sagen: Die Regulierung ist kein Problem, sondern sie ist wichtig. Es ist wichtig, dass wir einen einheitlichen Rechtsrahmen haben. Mit dem EU AI Act und dem KI-MIG haben wir diesen jetzt. Allein in den USA gibt es auf Ebene der Bundesstaaten 145 unterschiedliche beschlossene Gesetze. Das zeigt, was für eine Leistung wir hier erbringen.
Wir setzen als Koalition deshalb in der Hightech Agenda nicht auf neue schwerfällige Behörden und zentralistische Apparate, sondern stärken vorhandene Exzellenz mit dezentralen agilen Ökosystemen. Und während Sie auf nationalen Protektionismus setzen, setzen wir auf internationale Kooperation und Alleinstellungsmerkmale – der Staatssekretär hat es gesagt –, wie Transparenz, Vertrauenswürdigkeit und Rechtssicherheit durch den europäischen AI Act.
Deshalb braucht es den AI Act als verlässlichen Rahmen: innovationsfreundlich, bürokratiearm, aber klar bei Grundrechten, Transparenz und Sicherheit.
Wenn wir jetzt auch noch KI-Systeme in unsere Verwaltung bringen wollen, dann ist auch das ein gigantisches Risiko. KI-Systeme sind oft nur all unsere internalisierten Vorurteile in ein Programm gegossen, gaukeln dabei Neutralität vor und schaden dann massiv den Schwächsten. Wenn die Bundesregierung jetzt anfängt, Personal zu kürzen und durch KI-Systeme zu ersetzen, dann bringt das ein weiteres Problem mit sich: Es macht den Staat angreifbar – durch die Unternehmen, bei denen eingekauft wird, und alle faschistischen Akteure im Innern. Denn KI-Systeme wehren sich nicht, wenn man ihren Zweck ändert. Menschen können Nein sagen, wenn Menschenfeindlichkeit ihre neue Aufgabe wird. KI-Systeme tun einfach. Deswegen ist es so wichtig, dass wir genau jetzt unsere Demokratie stärken. Das tun wir, indem wir, erstens, KI-Systeme noch stärker regulieren, als es die KI-Verordnung vorsieht,
Viele Expertinnen und Experten haben derzeit große Sorgen wegen des neuen KI-Modells „Claude Mythos“ – es gibt aber noch einige andere –, das in der Lage ist, sehr, sehr viele Schwachstellen innerhalb kürzester Zeit zu identifizieren. Wir erleben den Einsatz von KI ja auch bei uns im Alltag, seien es die Hausaufgaben, die mit AI erledigt werden, oder Symptome, die gecheckt werden, oder ein Therapieersatz durch einen Chatbot. Und wir sehen: Der Einsatz, aber auch die Risiken beschleunigen sich. Und was macht die Bundesregierung? Die verschiebt die nationale Umsetzung des AI Act – sie kam bereits zu spät – und setzt sich in Brüssel ernsthaft dafür ein, die Schutzstandards zu verschieben. Dabei wäre es doch eigentlich Ihre Aufgabe, diese Schutzstandards in Brüssel entschieden zu verteidigen.
Gerade deshalb kommt es jetzt darauf an, die richtigen Rahmenbedingungen zu setzen – Rahmenbedingungen, die Vertrauen schaffen, ohne die Dynamik zu bremsen, die Missbrauch verhindern, ohne Innovation zu ersticken. Die KI-Verordnung darf nicht als Hemmnis wirken, sondern muss als Ermöglichungsrahmen verstanden werden. Deswegen begrüße ich ausdrücklich die Entscheidung der Bundesregierung, die Zuständigkeit bei der Bundesnetzagentur zu bündeln. Ich bin mir sicher, dass das auch vom Bundeswirtschaftsministerium unterstützt wird, denn dort ist die Bundesnetzagentur ja angesiedelt.
Doch Souveränität bedeutet nicht Bevormundung. Mündige Bürger, kluge Unternehmer brauchen keine Verbote, sondern klare Regeln. Die Hessische Landesregierung unterstützt das Ziel der EU-Kommission ausdrücklich: Harmonisierung, weniger Bürokratie, mehr Rechtssicherheit. Doch der aktuelle Entwurf hat auch Schwächen. Wo Verantwortlichkeiten zwischen KI-Verordnung und Datenschutz unklar bleiben, droht Rechtsunsicherheit. Das müssen wir ändern. Öffentliche Stellen brauchen eine europäische Rechtsgrundlage, um KI-Training mit personenbezogenen Daten zu ermöglichen. Sonst riskieren wir ein Flickwerk aus 27 nationalstaatlichen Lösungen und verlieren damit den Anschluss.
Herr Präsident! Liebe Kolleginnen und Kollegen! Zunächst einmal möchte ich mich für die Impulse aus Hessen bedanken, namentlich bei Staatsministerin Sinemus und Staatsminister Pentz. Herzlichen Dank dafür, dass Hessen mit der starken Initiative „hessian.AI“ voranschreitet! Viele andere Bundesländer tun das ebenfalls. Ich habe vorhin darüber gesprochen, dass wir die KI-Regulierung einfach gestalten müssen. Das betrifft nicht nur die Bundesebene, wo wir das mit unserer sehr schlanken Umsetzung der KI-Verordnung gerade im Bundestagsverfahren tun. Vielmehr müssen wir auch die Verfahren in Brüssel vereinfachen.
Ich will deutlich sagen: Die KI-Verordnung der Europäischen Union leidet daran, dass sie sehr komplex ist, dass sie für die Menschen nicht unbedingt verständlich ist, was eigentlich ein zentrales Grundprinzip sein sollte. Und sie leidet auch an einer Vielzahl von Begrifflichkeiten, die nicht hinreichend definiert sind und für Unklarheit sorgen. Die Bundesregierung hat nach vielen Jahren des sogenannten German Vote im Digitalbereich tatsächlich endlich wieder eine richtige Stellungnahme nach Brüssel gesendet – dafür darf ich mich auch bei unserem Koalitionspartner, bei Frau Ministerin Bas bedanken –, in der wir sehr ausführlich dargestellt haben, wie unsere Sichtweise zum Thema AI-Act ist.
Nicht besonders gut ist, dass wir hinsichtlich eines weiteren Ambitionsniveaus, welches notwendig ist, am Ende auf Ratsebene nicht zu einem Konsens kommen konnten. Das betrifft eine ganze Reihe von Themen, insbesondere das Wechselspiel zwischen dieser KI-Verordnung und den ganzen branchenspezifischen Regelungen. Lex specialis ist der Weg, den wir eingefordert haben, also eine Klarstellung des Verhältnisses zwischen den einzelnen Marktüberwachungen und dem, was durch die KI-Verordnung vorgegeben wird. Hinzu kommt die Forderung nach Überarbeitung einer ganzen Reihe von Begrifflichkeiten, die nach unserem Dafürhalten nicht ausreichend präzise sind.