Fundstellen
Regulierung haben wir endlich: DMA, DSA, KI-Verordnung. Sie müssen jetzt endlich auch um- und vor allem konsequent durchgesetzt werden.
Die Einbeziehung der BfDI, die Rechtsverordnung, das wiederholte Hinweisen auf das Einhalten der KI-Verordnung – sind einerseits Verhandlungserfolge, aber andererseits keine ausreichend wirksamen Mittel. Die BfDI kann nur im Benehmen einbezogen werden und die Rechtsverordnung hat zwar den Regelungsgehalt, um schlimmste Auswirkungen einzuschränken. In den Verhandlungen und auch durch den ersten Entwurf wurde seitens anderer Fraktionen deutlich, noch drastischere Grundrechtseingriffe als in der nun eingebrachten Form unterstützen zu wollen. Mit Blick darauf ist nicht sichergestellt, dass die Rechtsverordnung, die durch die Bundesregierung ohne parlamentarische Mitwirkung erstellt wird, ihr angedachtes einschränkendes Potenzial auch realisieren wird.
Den neu eingeführten biometrischen Internetabgleich sehe ich ebenfalls kritisch. Nicht nur, weil er im Gegensatz zur KI-Verordnung der EU steht, sondern weil durch die erweiterten Befugnisse für die Bundespolizei, das BKA und BAMF Racial Profiling durch stereotypisierte Verdächtigungen von Personengruppen mit (vermeintlichem) Migrationshintergrund verstärkt werden könnte. Auch für Personen, die davon nicht betroffen sind, empfinde ich die geplanten Maßnahmen zu automatischen Bilderfassung und -abgleich als einen erheblichen Einschnitt in ihre Persönlichkeitsrechte. Die Teilnahme an Demonstrationen, Volksfesten und anderen öffentlichen Veranstaltungen wird dadurch gefährdet. Das BAMF ist in Zusammenarbeit mit dem BKA und der Bundespolizei meiner Auffassung nach verpflichtet, einen konkreten Plan vorzulegen, wie eine derartige Überwachung von Personen nur bei schwerwiegenden Fällen und ohne die Nutzung kommerzieller Anbieter von aktuell illegalen Datenbanken möglich ist. Im Hinblick darauf begrüße ich die Kontrollrechte, welche der Bundesbeauftragten für den Datenschutz und die Informationssicherheit zugestanden wurden, und vertraue darauf, dass diese Kontrollfunktion zum Schutze der Persönlichkeitsrechte aller sich in Deutschland aufhaltenden Personen entsprechend genutzt wird.
Auch bei den geplanten biometrischen Befugnissen für das Bundesamt für Migration und Flüchtlinge, das Bundeskriminalamt und die Bundespolizei zur Feststellung einer Identität mittels eines biometrischen Abgleichs öffentlicher Daten aus dem Internet habe ich Bedenken, dass diese Befugnisse unverhältnismäßig in das Grundrecht auf Privatsphäre eingreifen und die technische Umsetzbarkeit nicht mit der europäischen KI-Verordnung vereinbar ist.
Auch bei den geplanten biometrischen Befugnissen für das Bundesamt für Migration und Flüchtlinge, das Bundeskriminalamt und die Bundespolizei zur Feststellung einer Identität mittels eines biometrischen Abgleichs öffentlicher Daten aus dem Internet habe ich Bedenken, dass diese Befugnisse unverhältnismäßig in das Grundrecht auf Privatsphäre eingreifen und die technische Umsetzbarkeit nicht mit der europäischen KI-Verordnung vereinbar ist.
Der Data Act bettet sich ein in eine ganze Reihe an Regulierungen der EU rund um die Digitalisierung: AI Act, Digital Services Act, Data Governance Act – um mal die großen zu nennen. Die EU baut also ein umfassendes Rahmenwerk für Regeln im digitalen Raum, für die sinnvolle Nutzung von Daten, für Rechte von Nutzer/-innen und für Pflichten digitaler Unternehmen. Die EU ist damit ein Vorreiter weltweit, und das ist ein richtig gutes Beispiel dafür, was die EU Positives voranbringen kann.
Unsere Kolleginnen und Kollegen in Europa haben in den letzten Jahren viele wichtige Gesetze im Digitalbereich auf den Weg gebracht: die DSGVO, den Data Governance Act, den Digital Markets Act, den Digital Services Act, den AI Act, den Data Act. Alle diese Gesetze geben Stück für Stück Antworten auf die Frage, in welcher digitalen vernetzten Welt wir leben wollen.
Hier zeichnet sich langsam ein Bild ab: Die DSGVO schützt unsere personenbezogenen Daten und damit nicht Daten, sondern Menschen vor unbefugten Eingriffen in ihre Privatsphäre. Der Digital Services Act gibt uns Instrumente an die Hand, Hass und Hetze im Netz, auf großen Plattformen zu melden und zu bestrafen. Er schützt Menschen. Der AI Act gibt Regeln vor, wie algorithmische Systeme in Zukunft unser Leben bestimmen dürfen. Er schützt Menschen – wie auch der Data Act. Denn die Daten, die wir auf vernetzten Geräten generieren, erzählen viel über uns. Die Hoheit über diese Daten in den Händen der Nutzer und Nutzerinnen zu haben, schützt – sie ahnen es – Menschen.
denn der Begriff „KI“ wird nur fünfmal erwähnt, während das Wort „Klima“ ganze 38-mal auftaucht. Während die Welt auf Fortschritt setzt, bremst diese Regierung jede Entwicklung durch bürokratische Monster wie die KI-Verordnung aus.
Ich will weitermachen mit dem Digital Services Act und dem AI Act; das sind die letzten zwei großen Gesetze, die wir auf den Weg gebracht haben. Beim Digital Services Act geht es darum, dass es auch in einem digitalen Zeitalter darauf ankommt, dass auf Plattformen fair miteinander umgegangen wird. Wir sagen zum Beispiel, dass wir die Verwendung von Dark Patterns – den Verbraucherinnen und Verbrauchern werden bestimmte Muster angezeigt, damit sie schnell buchen oder höhere Preise zahlen – im europäischen Raum nicht haben wollen. Deswegen ist es richtig, dass wir das auf den Weg gebracht haben.
Und last, but not least: die KI-Verordnung, die ganz klare Vorgaben im Umgang mit KI macht, die ganz klar regelt, wann und wie KI eingesetzt werden darf.
Aber ich komme gerne zurück zum Antrag. Ich bin den Antragstellern dankbar, dass das Thema KI-Infrastruktur hier zentral platziert wird. Ich will aber noch einmal auf die Frage der Regulierung eingehen. Ich hoffe, die Zustimmung der Unionsfraktion zu bekommen, wenn ich sage, dass es gut ist, dass es uns gelungen ist, die KI-Verordnung auf den Weg zu bringen. Das war schwierig, das war holprig. Zwischenzeitlich hatten wir Sorgen, ob wir das zum Abschluss bringen werden. Aber das ist gut geworden. Gerade setzen wir uns damit auseinander: Wie können wir das hier in Deutschland umsetzen? Wie können wir auf der einen Seite den Schutz von Grundrechten gewährleisten, aber auf der anderen Seite zeitgleich Innovationen made in Germany, made in Europe ermöglichen? Ich freue mich, dass die Ampel erheblich dazu beigetragen hat, und ich freue mich, dass wir gemeinsam mit Ihnen auch dafür sorgen können, dass die nationale Umsetzung gut wird.
Zweitens. Das heißt eben auch, dass wir über die physische Infrastruktur hinaus die Large Language Models als Open-Source-Modell brauchen, sodass wir das hier bei europäischer Infrastruktur einsetzen und weiterentwickeln können. Es muss wertebasiert sein; es muss wertebasierte Qualitätsstandards geben, und der AI Act legt dafür die Grundlagen. Das heißt, es muss frei von Voreingenommenheit, divers und rechtssicher in der Anwendbarkeit sein und Urheberrecht berücksichtigen.
Wie Sie im Ausschuss nämlich ganz nebenbei anerkannt haben, gibt es ja auf der europäischen Ebene – das ist das so Wichtige – die verabschiedete Verordnung über die künstliche Intelligenz, den AI Act. Mit der nationalen Umsetzung hat die Bundesregierung ja bereits begonnen. Im Parlament haben wir uns schon Mitte Mai darüber unterhalten, und an dieser Stelle möchte ich noch mal betonen, dass es uns bei der nationalen Umsetzung des AI Acts darum geht, eine europaweit möglichst harmonisierte Auslegung zu bekommen.
während er gleichzeitig die Persönlichkeitsrechte und die europäischen Werte, Herr Jarzombek, auf die ja auch Sie hingewiesen haben, natürlich schützt. Es wäre völlig sinnfrei gewesen, parallel zu den finalen Verhandlungen zum AI Act eine eigene vorgriffige nationale KI-Gesetzgebung auf den Weg zu bringen.
Sehr geehrter Herr Präsident! Liebe Kolleginnen und Kollegen! Zu der Frage eines Drohnenflottenaufbaus haben die Kollegen Faber, Krämer und Arlt sehr vieles gesagt. Ich möchte auf einen Aspekt eingehen, den Sie in Ihrem Antrag auch ansprechen, nämlich den Einsatz von KI-Systemen, wo Sie auch von vollautonomen Waffensystemen sprechen, weil ich ein kleines bisschen irritiert bin, wie nonchalant Sie das fordern, insbesondere vor dem Hintergrund, dass Ihre Parteikollegin Ursula von der Leyen gerade den AI Act zum Abschluss gebracht hat – eine klare Regulierung für KI-Systeme im zivilen Bereich –, in dem es ganz klare risikobasierte Einstufungen von KI-basierter Technologie gibt.
Sehr geehrter Herr Präsident! Liebe Kolleginnen und Kollegen! Ich muss kurz auf die kleine Realsatire von eben eingehen. Ich glaube Ihnen ja, dass Sie vielleicht über Krah oder direkt oder sonst wie einen besseren Draht nach China haben, ich möchte Sie aber doch gerne darauf hinweisen: Wir haben im AI Act auf europäischer Ebene das Social Scoring ganz klar ausgeschlossen. Ich bin mir sicher, das haben Sie auch mitbekommen.
Dieses Umsetzungsgesetz, das Digitale-Dienste-Gesetz, kann durchaus auch als Blaupause für weitere Umsetzungen dienen. Der Data Act steht vor der Tür und auch der AI Act. Die Kolleginnen und Kollegen Berichterstatter/-innen haben hier wirklich wunderbare Arbeit geleistet; dafür allen erst mal vielen Dank!
Beim Thema DSA und beim Thema KI-Verordnung sehen wir jetzt schon, dass wir eine offene, atmende Regulierung haben, bei der es auch auf nationaler Ebene sehr viele Möglichkeiten gibt, darauf einzuwirken. Der Gesetzgeber versteht endlich, dass eine Regulierung auch davon abhängt, wie sie umgesetzt wird, und dass die Umsetzung nicht allein durch die Aufsichtsbehörden gewährleistet wird; nein, es braucht mehr Zusammenarbeit, es braucht Input aus der Wissenschaft, aus der Wirtschaft und aus der Zivilgesellschaft. Nicht zuletzt hängt die Umsetzung einer guten Verordnung am Ende davon ab, dass Verbraucherinnen und Verbraucher einfach und so gut wie möglich ihre Rechte einklagen können.
Wir haben den AI Act. Er reguliert den Einsatz von künstlicher Intelligenz. Das hilft Unternehmen, vor allen Dingen mittelständischen und kleinen Unternehmen, nach gegebenen Standards und Vorgaben rechtssicher zu produzieren und ihre Produkte dann auf den Markt zu bringen.
Uns bietet sich in der Forschung und Entwicklung auch eine große Chance im Bereich der KI, künstliche Intelligenz, die Technologie der Zukunft. Die kann uns nämlich nicht nur verraten, wofür Deutschland bekannt ist. Nein, die kann noch viel mehr: KI kann uns neue Technologien, Investitionen und einen enormen Produktivitätsschub geben und wird bereits jetzt in einigen großen Unternehmen genau dafür eingesetzt. Aber auch der Mittelstand hat hier enormes Potenzial. Mit der KI-Verordnung der Europäischen Union schaffen wir zudem Rechtssicherheit und eine ausgewogene Regulierung von KI, also die Grundlage für „KI made in Europe“.
dem „Internetgrundgesetz“, über die KI-Verordnung, die Datenregulierung bis hin zum digitalen Arbeiten und dem Ausbau unseres Internets.
Das gilt aber auch für zukünftig wichtige Normen wie den AI Act zur Wahrung einer vertrauenswürdigen, sicheren, menschenzentrierten und nachhaltigen Entwicklung von KI.
Außerdem steht die Internationale Digitalstrategie im eklatanten Widerspruch zum Regierungshandeln. So schützt nach dieser Strategie die Ampelkoalition die „Grund- und Menschenrechte, online wie offline“. Aber in der Praxis schweigen Kanzler und Außenministerin zum Schicksal von Julian Assange, dem Gründer der digitalen Whistleblower-Plattform Wikileaks. Dabei wäre seine Auslieferung an die USA ein Frontalangriff auf die Pressefreiheit. Und bei der KI-Verordnung stimmte die Ampelregierung für die biometrische Identifikation im öffentlichen Raum – ein verheerender Angriff auf die Grundrechte und obendrein eine gefährliche Blaupause für undemokratische Staaten.
Lassen Sie mich als Sozialdemokratin und Unternehmerin zum Abschluss noch einen Gedanken äußern. KI muss dazu führen, dass wir Arbeitsplätze erhalten, dass wir sie besser machen, und es ist immer ein Werkzeug, das am Ende dem Menschen dienen muss. Mit dem AI Act, den die Europäische Union als erster Rechtsraum auf den Weg bringt, zeigen wir: Wir können Dinge regeln, wir können aber auch Innovationskraft entfalten. Ich lade Sie herzlich ein, bei neuen Themen auch mal mitzumachen, anstatt in den 90er-Jahren zu verharren.
Ich möchte eine Sache kurz ansprechen, weil sie die Voraussetzung für das ist, was wir jetzt mit dem Haushalt machen: nach vorne gucken. Der AI Act auf europäischer Ebene ist auf der Zielgeraden. Auf dieser Zielgeraden wird er am Ende die Rahmenbedingungen und damit auch Investitionssicherheit für viele Unternehmen schaffen, die darauf warten, AI-basierte, KI-basierte Technologien hier in Europa anzuwenden oder „made in Europa“ auf den Weg zu bringen. Das wird dann natürlich auch mit staatlichen Fördermitteln unterfüttert, die sich an vielen verschiedenen Stellen in diesem Bundeshaushalt wiederfinden. Aber das muss man doch auch in der Summe betrachten und zusammen sehen.
– Nein, Herr Dr. Dahmen, wir wollen nicht warten. Wir wollen nur den Prozess beschreiben. Wir haben dazu mit dem AI Act der Europäischen Union auch einen Hinweis, dass es dazu eines entsprechenden Prozedere bedarf.
Was bringt uns ein AI Act, der nur wirtschaftliche Interessen im Blick hat, wenn wir am Ende Systeme schaffen, die unserer Demokratie schaden? Was bringt ein Dateninstitut, das seine Projekte nur aus einem einzigen Ministerium bezieht? Was bringt ein Zentrum für Digitale Souveränität, das einen digitalen souveränen Arbeitsplatz nur für ein einziges Ministerium entwickelt?
In Brüssel will die Union beim Data Act und der KI-Verordnung noch mehr Fokus auf die Deregulierung zugunsten von mehr Innovationen legen. Das klingt zwar irgendwie gut, bedeutet aber unverantwortliche Risiken für alle, mehr Gefahren für Grundrechte und mehr Diskriminierung durch KI-Systeme. Und das, meine Damen und Herren, ist mit der Linken nicht zu machen.
Ein Punkt ist mir da wichtig, und zwar ist es das Thema KI. Das will ich einzeln herausgreifen, weil ich da inzwischen ein Déjà-vu habe. Es gibt fast keine Sitzungswoche, in der uns die Union hier nicht einen Antrag vorlegt, in dem das Thema KI auftaucht. Die Forderung klingt immer gleich: Wir brauchen eine innovationsfreundliche KI-Verordnung auf europäischer Ebene.