Protokoll
26 Beratung des Antrags der Fraktion der CDU/CSU – Europäische KI-Verordnung – Raum lassen für Innovation und Wettbewerbsfähigkeit
Wir gehen weiter in der Tagesordnung, und ich rufe auf den Tagesordnungspunkt 26 sowie den Zusatzpunkt 5:
Für die Aussprache ist eine Dauer von 39 Minuten vereinbart.
Ich bitte jetzt, die entsprechenden Plätze einzunehmen, und bitte diejenigen, die der Debatte nicht folgen wollen, den Plenarsaal zu verlassen.
Ich eröffne die Aussprache und erteile das Wort der Kollegin Ronja Kemmer, CDU/CSU-Fraktion.
Frau Präsidentin! Liebe Kolleginnen und Kollegen! „Der Rechtsakt über Künstliche Intelligenz … ist wahrscheinlich das wichtigste digitale Dossier, das derzeit in Brüssel diskutiert wird.“ Diesem Zitat des „Tagesspiegels“ vom 31. August schließen wir uns als Union vollständig an.
Ja, die Entscheidungen, die momentan im Rahmen der Verhandlungen zur KI‑Verordnung auf europäischer Ebene getroffen werden, haben weite Auswirkungen für Deutschland und Europa. Auswirkungen darauf, ob es uns gelingen wird, die Chancen von KI für die Gesellschaft zu nutzen. Auswirkungen darauf, ob wir es aber auch schaffen, dass Deutschland mit Blick auf den Wirtschafts- und Forschungsstandort wettbewerbsfähig bleibt, um damit die Grundlage für unseren Wohlstand, für unsere sozialen Errungenschaften zu erhalten.
Schade, dass die Ampelregierung das anders sieht; denn anscheinend messen Sie dieser wichtigen Schlüsseltechnologie keine so wirklich wichtige Bedeutung zu. Anders können wir, selbst beim besten Willen, Ihre Performance im Rahmen der Verhandlungen nicht erklären. Und das halten wir für einen schweren politischen Fehler.
Fehlende Stimmabgaben in der EU-Ratsarbeitsgruppe, versäumte Fristen, Rangeleien zwischen den Ressorts und vage Positionierungen mit dem Offenhalten von zentralen Verhandlungspunkten sind die bisherige Bilanz. Zuständig für die Verhandlungen in Brüssel sei das BMDV oder – nein – das BMWK oder doch das BMJ? Selbst ein Jahr nach der Wahl herrscht nach wie vor Zuständigkeitschaos, und das lassen wir Ihnen so nicht durchgehen.
Während andere Staaten fleißig ihre Positionen strategisch in die Ratsverhandlungen einbringen, schauen wir vom Spielfeldrand aus zu. Aber es muss doch als größte Volkswirtschaft in Europa unser Anspruch sein, dass wir dieses Regelwerk mitgestalten, anstatt es einfach nur zur Kenntnis zu nehmen. In den vergangenen Monaten – ich habe es schon gesagt – war das schlichtweg Arbeitsverweigerung.
Wir legen Ihnen heute einen Antrag vor, der vor allem auf die offenen Punkte im Rahmen der Verhandlungen abzielt. Wir sind als Union überzeugt davon, dass KI natürlich immer zum Nutzen von Mensch und Gesellschaft eingesetzt wird und dass sich jede Regulierung immer auch an unseren europäischen Werten und Normen ausrichtet. Wir sehen aber vor allem auch große Chancen, die sich uns bieten: im Bereich der Mobilität, des autonomen Fahrens, mit Blick auf eine bessere Medizinversorgung, in der Frage eines innovativen Klimaschutzes und mit ganz neuen Teilhabemöglichkeiten in den Bereichen Bildung und Inklusion. Deswegen sage ich: Wir als Union, wir wollen – wir sagen sogar: wir müssen – diese Chancen auch endlich nutzen.
Es kann nur dann funktionieren, wenn wir diese Regulierung auch richtig angehen. Den Ansatz der Bundesregierung, jetzt immer mehr Anwendungen in den sogenannten Hochrisikobereich zu schreiben, halten wir für falsch; denn es wird zu einer neuen Welle von Bürokratie führen. Vor allem ist es ein brutaler Wettbewerbsnachteil für unsere Start-ups, für unsere kleinen und mittleren Unternehmen. Das, was jetzt auf dem Tisch liegt und was Sie sich vorstellen, mag ja von den großen amerikanischen Tech-Giganten zu leisten sein, aber für unsere Unternehmen ist es ein Nachteil. Das wird vor allem dazu führen, dass sie sich nicht im Bereich von KI etablieren oder gar künftig vorne mitspielen können.
Auch inhaltlich ist die Verordnung einfach zu weit gefasst. Die Definition der Abgrenzung von KI ist – das wissen wir spätestens seit der Enquete-Kommission – eine schwierige Sache, aber sie muss deswegen auch trennscharf gemacht werden. Es darf nicht sein, dass nachher ganz alltägliche Anwendungen wie eine Excel-Kalkulation unter diese Verordnung fallen.
Deswegen geht es um Vorschriften, die in der Praxis einen Mehrwert bieten. Es geht um Vorschriften, die von unseren Unternehmen umgesetzt werden können, ansonsten können wir sie gleich zurück zur Schreibmaschine und zum Rechenschieber bringen. Der vorliegende Entwurf entspricht nicht dem, was unser Anspruch sein kann.
Wir haben noch eine Chance im internationalen Wettbewerb, aber nur dann, wenn wir tatsächlich Standards setzen, die von unseren europäischen Akteuren umgesetzt werden können. Wir gewinnen am Ende des Tages nichts, wenn Innovationen nur noch außerhalb von Europa, maßgeblich in China oder den USA, stattfinden. Wir möchten ein souveränes Europa, ein Europa, das die Wahl hat, auf Dienstleistungen und Produkte aus Europa, auch im Bereich KI, zurückgreifen zu können. Dafür müssen wir die Grundlage legen und nicht die sprichwörtliche Axt am Baum ansetzen.
Kommen Sie bitte zum Schluss.
Wir fordern die Regierung deswegen auf: Klären Sie Ihr Zuständigkeitswirrwarr. Setzen Sie sich vor allem aber für eine Verordnung ein, die Innovationen stärkt, statt sie im Keim zu ersticken, und die uns mehr statt weniger digitale Souveränität in Europa gewährleistet.
Für die SPD-Fraktion hat das Wort der Kollege Parsa Marvi.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Frau Kemmer, Sie sollten Frau von der Leyen als Präsidentin der Europäischen Kommission, die all diese tollen Dinge mitkonzipiert, wieder einmal in Ihre Fraktion einladen. Da gibt es zu den Themen Übergewinne, KI‑Verordnung und zu anderen Themen sicher viel miteinander zu diskutieren.
Aber zum Thema. Mit der europäischen Verordnung für künstliche Intelligenz debattieren wir heute ein Thema, das für die breitere Öffentlichkeit vom Begriff her ähnlich sperrig sein dürfte wie das Wort „Transformation“. Doch hat diese Technologie heute und umso mehr in der Zukunft eine große Bedeutung. Deswegen ist diese Debatte eine gute Gelegenheit, um aufzuzeigen, wie wichtig KI für unser Leben ist. Sie wird gebraucht in der Medizin als Bilderkennungssoftware zum Beispiel zur Diagnose von Krebs. Sie spielt eine zunehmende Bedeutung für Logistikketten, für industrielle Wertschöpfung. Sie wird uns über das autonome Fahren neue Möglichkeiten der Mobilität eröffnen. Sie hilft Menschen mit Seheinschränkungen bei einem barrierefreien Studium. Sie wird eine wertvolle Unterstützung für die Beschleunigung der Energiewende sein.
Die Zukunftstechnologie KI spielt also eine zentrale Rolle für unser Leben, für unsere Lebensqualität, für die Arbeit und für die Sicherung des Wohlstandes der Zukunft. Deswegen tobt ein ganz intensiver Wettbewerb um KI mit anderen Regionen: mit China, mit den USA. Hier müssen wir uns klar positionieren. Wir finden, dass die Verordnung der Europäischen Union diese klare Positionierung, dieses klare Regelwerk schafft, indem sie bei 85 Prozent der Anwendungen Luft zum Atmen lässt, aber bei den von Ihnen vorhin beschriebenen 15 Prozent Hochrisikoanwendungen sehr genau hinschaut, sehr wachsam ist.
Durch die Anhörung im Digitalausschuss, die wir hatten, fühlen wir uns bestärkt, zum Beispiel durch Aussagen des Geschäftsführers des TÜV-Verbandes, Dr. Joachim Bühler, der das Ganze auf den Punkt gebracht hat: Wer von Ihnen will eigentlich mit lax regulierten, von KI-Software betriebenen Aufzügen fahren? Wer will einen nachlässig regulierten KI-Einsatz in der Medizin erleben? Wer will einen Verkehrsunfall durch Softwarefehler riskieren, weil beim autonomen Fahren nicht so genau hingeschaut wurde? Frau Kemmer, Sie sprachen von brutalen Wettbewerbsnachteilen. Ich sage Ihnen: Es wäre brutal und fahrlässig, diesen Thesen zu folgen.
Deswegen setzt die europäische KI‑Verordnung für meine Fraktion grundsätzlich die richtige Balance zwischen Innovation und Regulierung. Wir haben damit als EU die Chance, den Goldstandard zu setzen, auf den andere schauen, an dem sich andere orientieren. Wir wären die erste Region auf der Welt, die ein solches Regelwerk schaffte. Das wird Vertrauen stärken, das wird die Akzeptanz in KI stärken und zu einer größeren Nutzung in Europa führen.
Wir verbinden mit den Verhandlungen zur KI‑Verordnung zum Beispiel die Hoffnung, dass man sich einigt auf den Ausschluss der biometrischen Fernidentifizierung in Echtzeit im öffentlichen Raum im Rahmen staatlicher und privater Anwendungen. Wir unterstützen die Bundesregierung ausdrücklich bei diesem Vorhaben. Wir können uns als freie und offene Gesellschaft keine wahllose Videoüberwachung leisten. Das ist sicherlich richtig und wichtig.
Wir wollen bei diesen anstehenden Verhandlungen die Grundrechte im Rahmen der KI-Verordnung stärken. Wir wollen eine Kennzeichnungs- und Transparenzpflicht für KI. Wir brauchen starke Informations-, aber auch Beschwerderechte für Verbraucherinnen und Verbraucher.
Ich bleibe dabei: Das Regelwerk ist gut. Es wird dringend gebraucht. Lassen Sie es uns im Rahmen der europäischen Verhandlungen verbessern.
Vielen Dank.
Frau Präsidentin! Werte Kollegen! Die EU macht wieder einmal das, was sie am besten kann: Sie reguliert sich zu Tode. Diesmal geht es um das Thema künstliche Intelligenz.
Natürlich brauchen wir bei neuen Technologien einen Rechtsrahmen; aber das, was wir hier erleben, erinnert mich ganz stark an die DSGVO. Man will die großen Konzerne treffen und verliert dabei die kleinen und mittleren Unternehmen aus den Augen, die den Murks dann ausbaden dürfen. KI wird von der Europäischen Union zuallererst als bedenklich, gefährlich, risikobehaftet angesehen. Es ist genau diese Herangehensweise, die dazu führt, dass die Menschen Angst vor künstlicher Intelligenz haben. Während andere Länder und Unternehmen vor allem die Vorteile sehen, die Chancen, die sich bieten, konzentriert sich die EU auf das Negative und will, wenn möglich, alles bis ins kleinste Detail regeln.
Bei der Expertenanhörung, die wir am Montag dazu hatten, wurde recht deutlich, dass dieses Vorgehen den KI-Standort Europa gefährden kann, oder wie es ein Experte sehr drastisch formulierte: Die geplante Verordnung hat das Potenzial, KI in Europa gänzlich unmöglich zu machen.
Europas Technologiesektor könnte abgehängt werden. Wir werden zur digitalen Kolonie Chinas oder der USA.
Das können wir uns gerade aktuell, in einer Zeit wie dieser, in einer Zeit, in der Europa vielmehr unabhängiger, souveräner werden muss, nicht erlauben, meine Damen und Herren. Ginge es nach der EU, wäre im Prinzip jeder Taschenrechner eine künstliche Intelligenz. Alles wäre gefährlich. Überspitzt gesagt: Jedes Mal, wenn ein Roboter ein Update erfährt, müsste am besten noch einmal der TÜV drüberschauen. So verliert der Standort Deutschland schlichtweg seine Wettbewerbsfähigkeit.
Die Bundesregierung muss unserer Meinung nach also darauf hinwirken, dass neben den Risiken vor allem die Chancen von KI‑Lösungen betont werden. Eine defensive Regulierung von KI‑Lösungen bringt nicht nur für Start-ups und KMUs ein immenses Quantum an Bürokratie, sie führt auch dazu, dass Innovationen im Bereich KI sich in anderen Regionen der Welt vollziehen.
Man könnte zum Beispiel die KI‑Verordnung um eine Chancen- und Wertigkeitsklasse von KI‑Lösungen erweitern, wie wir das in unserem vorgelegten Antrag fordern. Die prohibitiv wirkenden administrativen und finanziellen Hürden zur KI-Risikoklassifizierung müssen gesenkt werden, damit auch Start-ups und KMUs eine solche Einschätzung ihrer KI‑Lösungen vornehmen können und diese in den Verkehr bringen können.
Wir brauchen auch einen Austausch von Daten. Die geplante Verordnung muss daher um einen eigenen Titel zu „Daten, Datenzugänglichkeit, Datennutzung und Datenverfügbarkeit“ erweitert werden.
Vorsicht ist bei der Europäisierung des Polizeirechts geboten. Der Einsatz von KI zu Strafverfolgungs- und Gefahrenabwehrzwecken gehört nicht in die Regelungskompetenz der EU.
Eine Verschärfung des Einsatzes von KI durch die mitgliedstaatlichen Sicherheitsbehörden darf es daher durch diese Verordnung nicht geben, meine Damen und Herren.
Ein weiteres Problem. Nach dem vorliegenden Entwurf wird beim Thema Haftung auch das Thema General Purpose Idea erfasst, und damit werden Open-Source-Entwickler haftbar gemacht. Hier muss dringend gegengesteuert werden, werte Regierung.
In der Anhörung wurde von einem Sachverständigen etwas gesagt, was wir hier im Bundestag leider viel zu wenig hören. Auf den Hinweis der EU, dass es notwendig sei, KI auf EU‑Ebene zu regulieren, weil es sonst bald 27 nationale KI‑Verordnungen geben würde, antwortete der Experte: Gut so, dann gibt es endlich Wettbewerb. – Und genau das ist richtig, meine Damen und Herren. Lassen wir doch endlich wieder richtigen Wettbewerb zu und den freien Markt. Dann setzen sich auch die besten Lösungen durch.
Wir wissen doch alle, wie es mit den Verordnungen der EU so ist: Es gibt europäische Länder, die werden sich nicht darum kümmern oder sie so auslegen, dass sie das Beste für ihr Land herausholen. Deutschland als Musterschüler wird dagegen die Vorgaben bis zum letzten Gendersternchen erfüllen und damit den eigenen Standort schwächen, und das darf nicht passieren, meine Damen und Herren.
Kommen Sie bitte zum Schluss.
Mir persönlich wäre also keine Regulierung auf EU-Ebene am liebsten. Muss es unbedingt eine sein, dann bitte mit unseren Verbesserungsvorschlägen.
Vielen Dank.
Für Bündnis 90/Die Grünen hat das Wort Dr. Anna Christmann.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Es ist gut, dass wir heute über „Künstliche Intelligenz made in Europe“ sprechen; denn wir reden hier darüber, dass in Europa Standards für eine Zukunftstechnologie definiert werden. Für uns ist klar: Das ist der eine Teil; insgesamt kann das aber nur gelingen, wenn wir natürlich auch stark in der Entwicklung und Anwendung von künstlicher Intelligenz sind. Das sind zwei Dinge, die gehören zusammen, und dafür setzen wir uns als Bundesregierung ein.
Deswegen hat diese Verordnung für uns eine sehr hohe Priorität. Und deswegen kann ich die hier formulierte Aufforderung, uns da einzubringen, gar nicht nachvollziehen. Diese Bundesregierung hat bereits dreimal eine Stellungnahme – geeint zwischen allen Ressorts – eingebracht gegenüber der EU-Kommission, der Ratspräsidentschaft.
Wir bringen uns sehr aktiv ein in diese Verordnung, weil wir um ihre große Bedeutung wissen und weil sie der Schlüssel ist für einen starken Standort für künstliche Intelligenz in Europa.
Die Punkte sind ja völlig richtig. Wir müssen pragmatisch sein. Deswegen ist es richtig, dass sich gerade die Definition weiterentwickelt. Mit dem aktuellsten Vorschlag werden nicht mehr sämtliche statistischen Systeme erfasst; es geht um maschinelles Lernen und um Expertensysteme, aber nicht mehr um jedes Programm, das in irgendeiner Form eine Rechnung durchführt. Das ist richtig. Diesen pragmatischen Ansatz unterstützen wir ebenso wie den Umstand, dass nicht mehr drinsteht, dass jeder Datensatz fehlerfrei sein muss, in dieser Absolutheit. Der neue Vorschlag geht in die Richtung: soweit eben möglich. Also Pragmatismus in der Umsetzung ist definitiv wichtig und auch unser Anliegen.
Auch Innovationen – das ist der andere Teil – werden mit der Verordnung unterstützt. Die Idee von Reallaboren, in denen man Dinge ausprobieren kann, auch Regulierungen ausprobieren kann, ist explizit Teil des Entwurfs. Das ist etwas, was von Deutschland sehr starke Unterstützung findet. Das heißt, Start-up-Freundlichkeit hat für uns hohe Priorität; das ist auch etwas, was wir einbringen.
Dann möchte ich zum Punkt „Hochrisiko“ kommen, der gerade noch groß in der Debatte ist. Für welche Teile trifft er zu, für welche nicht? Erst einmal möchte ich betonen: Es ist richtig, dass zwei Dinge ausgeschlossen sind, nämlich Social Scoring und die Live-Fernüberwachung. Das sind Dinge, die nicht akzeptabel und nicht mit den EU-Werten vereinbar sind.
Natürlich geht es bei Hochrisikoanwendungen darum, einen Standard zu haben. Da müssen wir draufschauen. Was passiert da? Wir brauchen Transparenzregeln und Qualitätsanforderungen. Hochrisikoanwendungen werden eben nicht verboten, sondern es gibt Standards. Natürlich ist es richtig, dass diese Standards für verschiedene Anwendungen im Gesundheitsbereich gelten müssen. Natürlich ist es richtig, dass sie zum Beispiel für den Zugang zu Wohnungen gelten müssen, wenn so was mit KI gemacht wird. Das ist ein Vorschlag, den wir einbringen: dass wir da die Dinge zum Teil erweitern. Da muss man draufschauen. KI muss natürlich fair, nachvollziehbar, transparent sein. Das ist der Sinn der Standards bei Hochrisikoanwendungen.
Das Ganze muss einhergehen mit der nötigen Unterstützung. Das ist klar. In der Digitalstrategie haben wir ein Programm für Unternehmen aufgelegt: Kickstart. Wir verbessern die Datenverfügbarkeit, die zentral ist für die Anwendungen von KI. Das heißt, wir haben beides auf dem Schirm: eine kluge Regulierung, aber auch die nötige Unterstützung für Innovationen im Bereich KI. Und daraus wird eine gute künstliche Intelligenz made in Europe werden.
Für die Fraktion Die Linke hat das Wort Dr. Petra Sitte.
Frau Präsidentin! Meine Damen und Herren! Künstliche Intelligenz ist keine Zukunftstechnologie mehr. Längst begegnet sie uns täglich, und die meisten rechnen noch nicht einmal damit. Vor allem wissen sie nicht, dass der Einsatz und die Nutzung der KI im Moment nahezu im rechtsfreien Raum stattfinden. Das ist problematisch, weil nicht selten Grundrechte berührt sind. Es ist höchste Zeit, entsprechende Regelungen zu treffen. Auf EU‑Ebene – die Kollegen haben es gesagt – passiert das gerade. Diese Verordnung soll dann auch für Deutschland gelten.
Das Problem ist nur: Diese Verordnung hinterlässt mehr Lücken, als sie wirklich Dinge regelt. Mal wieder haben Lobbygruppen den Vorrang gehabt,
und wir finden, dass das dem gesamten Vorhaben schadet. Was ist gemeint? Da ist erstens die Definition – Frau Christmann hat es gerade erwähnt –: Was wird unter KI oder – besser – unter maschinellem Lernen verstanden? Je enger die Auslegung ist, desto mehr bleibt für andere Systeme ungeklärt, insbesondere für Systeme, die einfach nur nach festen Regeln entscheiden.
Schon heute gibt es maschinelle Systeme in öffentlichen Einrichtungen, zum Beispiel bei Sozialversicherungen, in der Bundesagentur für Arbeit oder bei den Rentenversicherungen. Wir meinen, gerade solche Systeme, die der Staat einsetzt, sollten als sogenannte Hochrisikosysteme gelten. Dann – völlig klar – müssen besonders hohe Anforderungen an Transparenz und Nachvollziehbarkeit erfüllt werden. Und für uns gehört auch dazu, dass diese Systeme in einem öffentlichen Register aufgelistet werden. Somit kann dann jeder jederzeit sehen, wo eigentlich welches System zum Einsatz kommt. Wir finden, das ist eine wichtige vertrauensbildende Maßnahme.
Zweitens will die Bundesregierung die KI‑Nutzung in Sicherheitsbehörden gesondert regeln. Das wiederum sorgt weniger für Transparenz, und es ist auch nicht wirklich vertrauensbildend. Mithin haben wir es hier mit einem besonders grundrechtssensiblen Bereich zu tun. Beispielsweise könnte sich doch wieder eine Hintertür für die Gesichtserkennung öffnen. Ich finde schon, dass das, was im Koalitionsvertrag steht – Sie haben es selber angesprochen –, auch weiterhin Gültigkeit haben sollte. Biometrische Erkennungen im öffentlichen Raum, so heißt es da sinngemäß, sind europarechtlich auszuschließen. Genau dabei soll es bleiben.
Schließlich und drittens. Nehmen Sie die Anbieter mit in die Verantwortung. Es kann doch nicht ernsthaft sein, dass Innovationsförderung eine Freifahrt dafür sein kann, dass Unternehmen, gleich welcher Größe, von solchen Entscheidungen, von solchen Pflichten ausgenommen werden. Auch auf diese Unternehmen muss vertraut werden können. Vertrauen – ganz klar – entsteht durch Transparenz und natürlich –
Bitte kommen Sie zum Schluss.
– mache ich – durch Verlässlichkeit.
Für die FDP-Fraktion hat das Wort der Kollege Maximilian Funke-Kaiser.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Es ist essenziell, dass wir in der aktuellen Zeit akute Maßnahmen ergreifen, um die Bürgerinnen und Bürger und die Unternehmen zu entlasten und unterstützen. Das machen wir heute mit dem Abwehrschirm. Genauso wesentlich ist es, dass wir die Zukunftsfähigkeit dieses Landes im Blick behalten. Und auch das machen wir. Das zeigen wir mit der Gigabitstrategie, das zeigen wir mit der Digitalstrategie. Das zeigen wir auch mit der notwendigen Debatte über die Förderung von künstlicher Intelligenz in Europa, in Deutschland, und das nicht erst seit dieser Woche, sondern bereits seit vielen Monaten.
Für die FDP-Fraktion waren, sind und bleiben für die Auslegung einer EU‑Rechtsverordnung für künstliche Intelligenz zwei Prämissen ganz essenziell. Die erste Prämisse ist, dass wir einen Rechtsrahmen brauchen, der Innovationskraft ermöglicht und Wettbewerbsfähigkeit fördert – ganz klar. Die zweite Prämisse ist, dass wir die Systeme, die unsere Bürgerrechte beschneiden, verbieten. Öffentliche Gesichtserkennung, Chat-Kontrollen, Social Scoring – all das hat in einem demokratischen Rechtsstaat nichts zu suchen, liebe Kolleginnen und Kollegen!
Da machen wir auch Druck.
Wir dürfen nicht Gefahr laufen, dass wir uns mit der KI‑Verordnung einen neuen Klotz ans Bein binden. Natürlich müssen wir uns darüber im Klaren sein, dass wir in dieser Schlüsseltechnologie auch besser sein könnten. Deswegen wird es jetzt auch eine KI‑Verordnung geben, einmalig im globalen Kontext. Da müssen wir jetzt Druck machen – ganz klar. Wir machen Druck, weil wir es besser können und weil wir besser werden müssen. Das werden wir mit der KI‑Verordnung. Und wir machen Druck, dass wir keine Überregulierung bekommen. Wir machen Druck, dass wir keinen Verhinderungswahn erleben. Wir machen Druck, dass wir klare Regeln in dieser KI‑Verordnung bekommen, damit sich diese Schlüsseltechnologie in Europa entfalten kann, liebe Kolleginnen und Kollegen!
Es geht hier um den positiven Nutzen für unser Land, für den Fortschritt und für die Zukunftsfähigkeit. Es geht um Gesundheitsversorgung – ganz klar. Es geht um Nachhaltigkeit. Es geht auch um Grundlagenforschung. Und was wirklich wesentlich ist: Es geht nicht um uns Politiker, nicht um irgendwelche Bürokraten, sondern darum, die Schaffenskraft der Unternehmerinnen und Unternehmer, der Gründerinnen und Gründer hier in Deutschland zu beflügeln. Das werden wir machen. Und darauf legen wir auch ganz speziell Wert, liebe Kolleginnen und Kollegen.
Abschließend. Wir stehen in einem sehr engen Austausch mit den europäischen Parlamentariern. Der Rechtsrahmen wird aktiv von uns mitgestaltet, und zwar so, dass für unser Land und die Europäische Union der bestmögliche Nutzen für Forschung, Innovation und Wettbewerb dabei herauskommt, gemäß unseren Werten und den Bürgerrechten. Denn gerade Letzteres steht – gerade bei der Union; das haben wir heute erst wieder beim Thema Vorratsdatenspeicherung gesehen, Stichwort „Chat-Kontrolle“ – gerne zur Disposition.
Herzlichen Dank.
Für die CDU/CSU-Fraktion hat das Wort die Kollegin Catarina dos Santos-Wintz.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Künstliche Intelligenz ist die treibende Kraft in der Entwicklung der Digitalisierung, und daher müssen wir uns klar darüber sein, welch hohe Bedeutung die Regulierung in diesem Bereich hat. Dazu kommt: Die Europäische Union betritt mit einem so umfassenden Vorschlag regulatorisches Neuland – weltweit. Die Regulierung wird nicht nur für europäische Hersteller und Entwickler gelten, sondern für alle, die ihre Produkte auf den europäischen Markt bringen wollen.
Aus Sicht meiner Fraktion besteht aktuell aber Anlass zur Sorge, dass die Bundesregierung ihrem Auftrag, sich aktiv für Deutschland in die Verhandlungen einzubringen, nicht gerecht wird.
Das ist auch der Grund für unseren umfangreichen Antrag. Dass das Digitalministerium hier heute Abend nicht vertreten ist, bestärkt unsere Einschätzung in diesem Punkt ein klein wenig.
Doch ich will mich an dieser Stelle auf wesentliche inhaltliche Punkte konzentrieren. Wir brauchen meines Erachtens – erstens – eine starke Definition des Begriffs „künstliche Intelligenz“, zweitens eine europäische Souveränität im Bereich Entwicklung und Nutzung von KI, und wir brauchen – drittens – jetzt die richtigen Entscheidungen für einen zukunftsfähigen Wohlstand, den uns diese Technologie bringen wird.
Die Definition des Begriffs „künstliche Intelligenz“ ist aus unserer Sicht in der europäischen Verordnung zu allgemein gefasst. Damit würde ein zu großer Teil aller derzeitigen softwarebasierten Technologien erfasst, und es kann fatal sein, wenn in Zukunft einfachste Anwendungen reguliert werden und große sowie kleine Unternehmen mit erheblichen bürokratischen Hürden und Rechtsunsicherheiten konfrontiert sind.
Wir müssen hier sachlich und nicht ideologisch an das Thema herangehen. Alles, was notwendig ist, muss geschützt werden. Aber um es einmal bildlich zu sagen: Es gibt keinen Airbag für jede Situation der Zukunft.
Ähnlich sollten wir auch bei der Definition von Hochrisikoanwendungen herangehen. Aus meiner Sicht sollten drei Faktoren eine Rolle spielen: kritische Infrastruktur, Kontext und Gebrauch der Anwendung. Klar ist auch: Wir werden die Gesetzgebung regelmäßig an die Gegenwart anpassen müssen. Aber in einem Punkt sollten wir uns alle einig sein: Europa sollte im Feld „künstliche Intelligenz“ die Spitzenposition im Bereich Forschung und Entwicklung belegen. Das sollte unser Anspruch sein.
Die Entwicklung schreitet rasant voran, und wir sind durchaus gut aufgestellt. Es werden beispielsweise in Aachen Sprachsteuerungsmodelle entwickelt, oder Mittelständler finden mithilfe von KI heraus, wann bei einem Windrad Einzelteile getauscht werden müssen, ohne dass jemand auf ein Windrad klettern muss. Souveränität ist hier das entscheidende Stichwort; denn die Entwicklungen – beispielsweise im Bereich des autonomen Fahrens – werden fortschreiten. Aber wir müssen uns entscheiden: Nutzen wir diese Produkte in Zukunft nur, oder entwickeln wir sie mit?
Es ist also auch im Interesse der Bundesregierung, sich aktiv in diesen Verhandlungen in Brüssel zu engagieren. Das konnten wir bislang allerdings kaum wahrnehmen. Erst am 14. September 2022 positionierte sich die Bundesregierung zu einem Kompromissvorschlag des tschechischen Ratsvorsitzes und fokussierte sich dabei fast ausschließlich auf den Sicherheits- und Migrationsbereich, und das, obwohl auf Seite 2 ihrer Digitalstrategie steht, dass die digitale Souveränität Deutschlands das Leitmotiv der Digital- und Innovationspolitik der Bundesregierung sei und auf das übergeordnete Ziel der strategischen Souveränität Europas einzahle. Aber das reicht uns nicht!
Schon jetzt ist die Abhängigkeit unserer Unternehmen von ausländischen Unternehmen in der Digitalisierung besorgniserregend. 80 Prozent der deutschen Unternehmen fühlen sich technologisch abhängig von nichteuropäischen Partnern. Auch die Verwaltung ist stark abhängig von ausländischen Unternehmen. Es ist dringend geboten, dass wir unsere technologische Handlungsfähigkeit bewahren und einseitige Abhängigkeiten zügig abbauen.
Wir brauchen eine starke europäische Digitalwirtschaft. Diese ist nicht nur in Deutschland mittelständisch geprägt; denn 99 Prozent der IT-Unternehmen in Europa sind kleine und mittelständische Unternehmen. Das bedeutet: Eine Digitalpolitik, die Abhängigkeiten abbauen und eine selbstbestimmte Digitalisierung made in Europe ermöglichen will, ist in erster Linie auch Mittelstandspolitik.
Es liegt daher in unserem ureigenen Interesse, das Thema auch aus industriepolitischer Sicht zu betrachten. Wir brauchen in Europa eigene KI-basierte Geschäftsmodelle. Insbesondere KMUs und Start-ups dürfen nicht durch Überregulierung in Form von teuren Zertifizierungen und wahnsinnigen Dokumentationspflichten gegenüber großen Playern am Markt ausgespielt werden. Lassen Sie mich auch noch einmal in aller Klarheit sagen: Überregulierung macht den europäischen Standort im internationalen Vergleich nicht attraktiver.
Für mich gilt: Wir brauchen eine Regulierung von künstlicher Intelligenz, die Vertrauen in die Technologie schafft, pragmatisch Nutzung und Entwicklung in Europa unterstützt, unsere IT-Wirtschaft sich frei entfalten lässt und im internationalen Raum konkurrenzfähiger macht.
Herzlichen Dank.
Punktlandung. – Für die SPD-Fraktion hat der Kollege Armand Zorn das Wort.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Sehr geehrte Damen und Herren! Die Zukunftstechnologie „künstliche Intelligenz“ hat das Potenzial, unsere Wirtschaft, unsere Arbeitswelt und auch unseren Alltag grundlegend zu verändern. So abstrakt diese Technologie auch sein mag, so konkret sind ihre Auswirkungen schon heute. Beispielsweise werden in der Produktion Prozesse KI-gesteuert energieeffizienter aufgestellt, oder KI-basierte Assistenztechnologien erleichtern Menschen mit Schwerbehinderung eine Teilhabe am Arbeitsplatz.
Die Bedeutung von KI wird in Zukunft noch zentraler werden. Eine McKinsey-Studie schätzt, dass das globale Wirtschaftswachstum durch KI bis 2030 um bis zu 13 Billionen US-Dollar ansteigen wird. Damit wird KI für die zukünftige Wettbewerbsfähigkeit Deutschlands und Europas entscheidend sein.
Aus dem Antrag der Unionsfraktion ist die Sorge zu lesen, dass der AI‑Act dazu führen wird, dass die EU im Vergleich zu China und zu den USA nicht mehr so wettbewerbsfähig ist. Liebe Union, ich kann Sie da beruhigen. Ihre Sorgen sind überhaupt nicht berechtigt. Diese Regulierung schafft Planungs- und Rechtssicherheit für die Wirtschaft, gleichzeitig aber auch den notwendigen Schutz für die Menschen.
Denn zwischen staatlich überwachten Innovationen aus China und marktgetriebenen kapitalistischen Innovationen aus den USA bietet diese Regulierung eine Chance für den europäischen Standort.
Digitalisierung made in Germany oder made in Europe kann sich gegenüber der US-amerikanischen und der chinesischen Konkurrenz nur dadurch abheben, indem sie explizit gesellschaftspolitische Faktoren wie Umweltstandards, ethische Standards und soziale Fragen berücksichtigt. Die EU wählt also hier einen wertebasierten, einen verantwortungsbewussten, einen menschenzentrierten Weg, und genau das kann ein internationaler Goldstandard werden. Überall auf der Welt machen sich Regierungen und Parlamente auf den Weg, Regulierungsansätze zu entwickeln. Es wird ganz genau geschaut, was wir hier auf europäischer Ebene machen. Wir sind hier Vorbild. Der Brüssel-Effekt zeigt bereits jetzt seine Wirkung.
Gesellschaftliche Akzeptanz einer Technologie wirkt sich positiv auf deren Nutzung und folglich auch auf die Wettbewerbsfähigkeit des Standortes aus. Der AI‑Act wird diese Akzeptanz schaffen, indem er explizit auch auf die Risiken im Hinblick auf die Nutzung eingeht. Entscheidungen, die durch KI‑Systeme vorbereitet und getroffen werden, können tiefgreifende Auswirkungen auf das Leben von Bürgerinnen und Bürgern haben. Deswegen ist es wichtig: Das darf nicht ohne Aufsicht und nicht ohne Regeln geschehen. Wir brauchen hier endlich eine Regulierung.
Künstliche Intelligenz hält vermehrt Einzug in das alltägliche Leben. Zum Beispiel unterstützen KI‑basierte Systeme die Auswahl von passenden Bewerberinnen und Bewerbern. Auch wenn es darum geht, Leistungsbewertungen von Beschäftigten auszuwerten, werden zunehmend KI‑basierte Systeme genutzt. Auch bei der Vergabe von Krediten und dem Abschluss von Versicherungen sind KI‑gestützte Systeme bereits im Einsatz. Das heißt also: Hier besteht ein hohes Diskriminierungsrisiko. KI‑Systeme basieren auf Trainingsdaten, die auch diskriminierende Muster enthalten können. Daher brauchen wir Regeln, um diese Ungleichbehandlung, die tatsächlich stattfindet, zu reduzieren und somit auch das Vertrauen in künstliche Intelligenz zu erhöhen.
Ein erster Schritt kann eine Informationspflicht sein, damit Verbraucherinnen und Verbraucher tatsächlich darüber informiert werden, wenn sie mit KI interagieren. Das ist eine Forderung, die wir auf den Weg gebracht haben. Wir sind sehr froh, dass auch die Bundesregierung diese Haltung unterstützt. Wir brauchen in einem zweiten Schritt aber auch Offenlegungspflichten, weil wir dafür sorgen müssen, dass Betroffene die Möglichkeit haben, die Entscheidungen nachzuvollziehen und auch Klagen dagegen zu richten.
Liebe Kolleginnen und Kollegen, der AI‑Act erreicht hier die richtige Balance zwischen Stärkung der Innovationskraft und Minimierung der Risiken. Wir werden diesen Ansatz weiterhin unterstützen und sind der Bundesregierung sehr dankbar für das Positionspapier, was dazu auf den Weg gebracht wurde. Wir können gemeinsam daran arbeiten, dass die Regulierung noch besser wird.
Vielen lieben Dank.
Und für Bündnis 90/Die Grünen hat Sabine Grützmacher das Wort.
Sehr geehrte Frau Präsidentin! Sehr geehrte Kolleginnen und Kollegen! Sehr geehrte Damen und Herren! Wir haben gerade gehört: Wir müssen Vertrauen schaffen. – Ich kann Ihnen sagen, wie man Vertrauen schafft: Wenn man dafür sorgt, dass nicht permanent etwas kaputtgeht. Ich erinnere an die Zeugnis-Blockchain. Wenn das die vertrauensbildenden Maßnahmen sind, die Sie sich vorstellen, dann sehe ich da tatsächlich schwarz.
Ich glaube, im Kern sind wir uns einig: KI soll den Nutzen für die Gesellschaft in den Mittelpunkt stellen. Aber Gesellschaft ist mehr als Wirtschaft. Gesellschaft, das sind Menschen in all ihrer Vielfalt, und dazu gehören auch vulnerable Gruppen. In der Anhörung zum AI‑Act machte der Sachverständige Herr Geuter deutlich: Zu oft wird über Vorstellungen und Fantasien der Zukunft geredet, die nicht auf wirklichen Eigenschaften oder Strukturen basieren.
Aber KI liefert nicht auf magische Weise automatisch Mehrwert. Das zeigt Ihr Beispiel zum angeblich erfolgreichen KI‑Einsatz in der Pandemie. Es gibt eine Metastudie des MIT. Es fand unter über 100 Anwendungen keine einzige erfolgreiche KI‑Anwendung. Aber ich verstehe trotzdem den Punkt; denn ja, gute KI kann Innovation hervorbringen. Wir müssen aber anfangen, zwischen Algorithmen, künstlicher Intelligenz, Machine Learning, Deep Learning und zukünftigen Ansätzen wie Quantum Machine Learning zu unterscheiden und auch diese Entwicklung zu ermöglichen.
Wir müssen uns da auch ehrlich machen; denn Zukunftstechnologien machen nicht per se alles besser, weil Buzzwords auf dem Etikett stehen. Sie machen es besser, wenn echte KI‑Anwendungen enthalten sind und passende Technologien für passende Szenarien ausgewählt werden.
KI‑Anwendungen sind mehr als die Summe ihrer Teile, und wir müssen kombinierte Einsätze bewerten, nicht nur Branchen und Segmente. Und: Sie müssen sicher sein; denn wenn Regierungen nicht in der Lage sind, Zukunftstechnologien sicher zu machen, dann verlieren wir alle das Vertrauen der Bürgerinnen und Bürger. Wohin das führt, hat die Sachverständige Catelijne Muller von der Organisation ALLAI in der Anhörung berichtet. So ist die Regierung Rutte der VVD aufgrund eines KI‑Systems, das über 20 000 Bürgerinnen und Bürger des Betrugs bezichtigt hat, zurückgetreten. Dieser Ausgang war vermutlich nicht Teil der Risikobetrachtung.
Die KI‑Verordnung liefert hier einen für die EU zukunftsweisenden Vorschlag, an dem natürlich noch weiter gearbeitet werden kann. Aber die deutsche Stellungnahme ergänzt sinnvolle Punkte wie die Frage nach Möglichkeiten der Sammel- und Verbandsklage und die Absage an biometrische Live-Fernüberwachung auch im nichtöffentlichen Raum. Auch die Forderungen des Koalitionsvertrags nach Wahrung von Bürgerrechten oder Diskriminierungsfreiheit werden eingearbeitet.
Ähnlich wie die DSGVO – sie ist eigentlich ein Erfolgsmodell – bietet sich die Möglichkeit eines europäischen Markenkerns; denn Technikfolgenabschätzung und sichere KI als europäisches Konzept, das ist gelebte Wirtschaftsförderung, weil Wirtschaft rechtsverbindlich und sicher planen kann.
Wenn dann bei der Zusammensetzung des zu schaffenden AI‑Boards vielleicht auch noch die digitale Zivilgesellschaft mit am Tisch sitzen dürfte, dann wären wir sogar noch einen Schritt weiter. Ich bin guter Dinge, dass wir das gemeinsam beraten bekommen.
Vielen herzlichen Dank.
Für die FDP-Fraktion hat das Wort Maximilian Mordhorst.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Es ist gut, dass wir heute darüber debattieren. Denn auch an der Debatte im Plenum sieht man: Wir befinden uns auf europäischer Ebene offensichtlich an einem Scheideweg, in welche Richtung wir mit dieser Technologie gehen wollen. Wollen wir alles totregulieren und schon von Anfang an nur die Gefahren sehen oder wollen wir alles laufen lassen und es eigentlich verhindern, weil „europäisch“ vorne dransteht? Die Wahrheit liegt wie so oft in der Mitte. KI ist nicht gut oder böse. Es ist eine Technologie, und das bedeutet: Es ist das, was wir hier und in Europa daraus machen.
Für uns ist deswegen völlig klar: Wir wollen Standards setzen. Wir wollen dafür sorgen, dass Bürgerrechte eine große Rolle spielen. Das geht aber nur, wenn wir hier in Europa eine innovative Struktur bekommen, wo diese Technologie erfolgreich angewandt wird. Wenn wir das nicht machen, dann werden wir überhaupt keine Standards auf der Welt setzen. Deswegen ist es entscheidend, dass wir hier erst einmal KI bekommen, um sie dann auch regulieren zu können.
Was mir besonders wichtig ist – das ist der zweite Punkt, den ich noch kurz ansprechen will –: Liebe Unionsfraktion, wir sind uns ja darin einig, dass wir bei dem Ganzen vor allem die Chancen sehen. In Ihrem gesamten Antrag finde ich aber nichts zum Thema Bürgerrechte. Wir haben schon sehr viel darüber gesprochen: Natürlich gibt es durch KI neue Möglichkeiten der Einschränkungen von Bürgerrechten. Wir haben über Face Scans gesprochen, über Social Scoring. Wir wissen: Schon das Gefühl, dass man dauerhaft beobachtet wird, dass man nicht weiß, was damit passiert und wer das Ganze beobachtet, erzeugt eine Unsicherheit, die das Verhalten ändert. Deswegen ist das ein Grundrechtseingriff. Der französische Philosoph Michel Foucault nannte das einmal „Panopticon“. Man hat das Gefühl, immer unter Beobachtung zu sein. Deswegen müssen wir sehr genau darauf achten, große Grundrechtseingriffe zu verhindern, und gleichzeitig dafür sorgen, dass KI in Europa gestärkt wird und wir zukunftsfest vorbereitet sind auf das, was kommt.
Vielen Dank.
Der letzte Redner in der Debatte ist Dr. Holger Becker für die SPD-Fraktion.
Sehr geehrte Frau Präsidentin! Werte Kolleginnen und Kollegen! Sehr geehrte Damen und Herren! Im Gegensatz zu einigen anderen Themen, die gern mal zu etwas überhitzten Diskussionen in diesem Plenarsaal führen, glaube ich, dass wir uns heute bei der Bedeutung des Themas künstliche Intelligenz vergleichsweise einig sein könnten.
KI-Systeme und algorithmische Entscheidungshilfen sind ja schon heute in vielen Bereichen unseres Alltags etabliert und werden in unserer Zukunft nicht mehr wegzudenken sein. Ausnahmsweise – und das ist wirklich wichtig – haben wir in diesem Bereich die Möglichkeit, den technologischen Entwicklungen mit Regulierungsverfahren nicht nur hinterherzurennen, sondern mit den Entwicklungen auf Augenhöhe einen regulatorischen Rahmen zu schaffen, der branchenübergreifend Sicherheiten gibt und somit den Transfer von Forschung in die Anwendung im gesamten europäischen Umfeld und auch weltweit vorantreibt und die Chance bietet, weltweite Standards zu setzen.
Genau das ist das Kernziel der von der EU-Kommission vorgelegten Verordnung über künstliche Intelligenz.
Dass hier dringender Handlungsbedarf besteht, haben die insgesamt 1 215 Beiträge der vorangegangen Onlinekonsultation gezeigt. Denn es ist egal, ob das ein Start-up, ein KMU oder ein Big Player ist: Solange Unsicherheiten durch fragmentierte regulatorische Lösungen innerhalb der EU bestehen, wird unsere Innovationskraft in diesem Bereich nur auf Sparflamme laufen. Genau deshalb sind wir mit der vorgelegten KI-VO auf dem absolut richtigen Weg. Wie auch schon in unserer Digitalstrategie erwähnt – ich zitiere –, „sorgen klare und verlässliche Rahmenbedingungen … für ein nutzer- und wettbewerbsfreundliches Umfeld“, welches wiederum elementar wichtig für die digitale Souveränität Europas ist. Denn nur durch ein gemeinsames Vorgehen können sich die Potenziale des digitalen Binnenmarkts bestmöglich und vor allen Dingen innovationsfreundlich entfalten.
Die festgelegten Rahmenbedingungen sind dabei ein wichtiger Baustein, um ein Level Playing Field zu gewährleisten. Eine weitere wichtige Komponente dafür ist die Vermittlung von KI-Kompetenz. Deswegen werden wir mit der Initiative „Civic Coding“ nicht nur die Daten- und KI-Kompetenz in der Zivilgesellschaft stärken, sondern auch den KI-Campus als Lernplattform für künstliche Intelligenz und den Ausbau der Zentren für vertrauenswürdige KI vorantreiben.
Wie schon bei der Datenschutz-Grundverordnung schaut die restliche Welt ganz genau darauf, welche Werte und auch welche Visionen unser europäisches Bündnis für die digitale Dekade hat. Die Chance, eine global wegweisende Rolle einzunehmen, indem wir eine innovationsfreundliche und ‑ermöglichende Verordnung vorlegen, die unsere Werte und unsere Grundrechte schützt, während gleichzeitig ein hohes Sicherheitsniveau gewährleistet wird, wurde meiner Meinung nach mit der vorliegenden Verordnung und der begrüßenswerten Anmerkung unserer Bundesregierung erkannt und auch vorangetrieben.
Der VP of Government Affairs eines großen Digitalunternehmens ging gestern so weit, die europäische Herangehensweise und den politischen Prozess zur KI-Verordnung als mustergültig zu bezeichnen. Ich bin mir sicher, dass wir mit dem derzeitigen Entstehungsprozess der KI-Verordnung auf einem erfolgversprechenden Weg sind. Lassen Sie uns weiter gemeinsam in einem konstruktiven Arbeitsprozess diesen wichtigen Schritt in unsere digitale Zukunft gehen.
Vielen Dank.
Damit schließe ich die Aussprache.
Interfraktionell wird die Überweisung der Vorlagen auf Drucksachen 20/3689 und 20/3698 an die in der Tagesordnung aufgeführten Ausschüsse vorgeschlagen. Gibt es weitere Überweisungsvorschläge? – Das ist nicht der Fall. Dann verfahren wir wie vorgeschlagen.