Zum Inhalt springen
plenarprotokolle.de

Fundstellen

Sehr geehrter Herr Präsident! Werte Damen und Herren! Diese Woche habe ich gemeinsam mit Kolleginnen und Kollegen von den Grünen und den Linken eine Petition mit 200 000 Unterschriften entgegengenommen. Der Titel der Petition lautet: „Du bist kein Content“. Es geht um Smart Glasses von Meta und Ray-Ban. Ich möchte Ihnen aufzeigen, wie konkret hier die Risiken von KI schon heute sind: Kamerabrillen filmen unbemerkt, zum Beispiel im Freibad oder in der S-Bahn, und Meta nutzt diese Bild- und Audiodateien Unbeteiligter für ihr KI-Training. Da sage ich ganz klar: Keine Profite auf Kosten unserer Privatsphäre!

Doch Souveränität bedeutet nicht Bevormundung. Mündige Bürger, kluge Unternehmer brauchen keine Verbote, sondern klare Regeln. Die Hessische Landesregierung unterstützt das Ziel der EU-Kommission ausdrücklich: Harmonisierung, weniger Bürokratie, mehr Rechtssicherheit. Doch der aktuelle Entwurf hat auch Schwächen. Wo Verantwortlichkeiten zwischen KI-Verordnung und Datenschutz unklar bleiben, droht Rechtsunsicherheit. Das müssen wir ändern. Öffentliche Stellen brauchen eine europäische Rechtsgrundlage, um KI-Training mit personenbezogenen Daten zu ermöglichen. Sonst riskieren wir ein Flickwerk aus 27 nationalstaatlichen Lösungen und verlieren damit den Anschluss.

Ohne Einwilligung und ohne Vergütung werden schon jetzt Gemälde, Fotos und Texte aller Art für das KI-Training genutzt. Künstlerinnen und Künstlern, Autorinnen und Autoren, Journalistinnen und Journalisten, die vorher schon prekär gearbeitet haben, bleiben jetzt die Aufträge weg. Das kann es doch wirklich nicht sein. Jeder, dessen Arbeit in ein KI-System eingeflossen ist, muss auch dafür vergütet werden.

Erst kürzlich machte zum Beispiel die Meta-Brille Schlagzeilen, weil Aufnahmen von deren Kamera bei den Daten-Labelerinnen und Daten-Labelern in Kenia landen. Dort sehen sie nackte Menschen, Sex, intime Szenen, bei denen sich niemand bewusst war, dass gerade gefilmt wird. Was da passiert, ist nicht nur ein massiver Eingriff in die Privatsphäre der Betroffenen; es ist auch belastend für die Menschen, die diese Daten labeln. Und unter diesen Umständen will die Bundesregierung auch noch im Digitalen Omnibus das KI-Training mit persönlichen Daten ohne Einwilligung der Betroffenen zulassen. Das ist doch wirklich abstrus.

Ronja Kemmer CDU/CSU

Und auch die Modernisierungsagenten machen zum Thema Datennutzung viele Vorschläge, zum Beispiel die föderale Modernisierungsagenda oder dass künftig auch pseudonymisierte, anonymisierte Daten für KI-Training genutzt werden können. Ich finde, das ist ein wirklich innovationsfreundlicher Vorstoß der MPK, im Übrigen parteiübergreifend, liebe Kolleginnen und Kollegen von den Grünen; Herr Kretschmann hat das Ganze ja noch mitbeschlossen. Wir werden künftig hier in Berlin dann auch ganz genau darauf achten, ob Sie eigentlich dieser Maßgabe, dass wir beim Datenschutz einfach auch mal praxisfreundlicher werden müssen, entsprechend folgen können.

Doch statt unsere Rechte gegenüber den großen Digitalkonzernen zu stärken, machen Sie genau das Gegenteil. Mit dem digitalen Omnibus legen Sie die Axt an unsere Schutzrechte. Sie wollen die KI-Verordnung verschleppen, persönliche Daten für das KI-Training komplett freigeben und pseudonymisierte Daten aus dem Datenschutz rausnehmen. Dabei werden schon jetzt massenhaft Bewegungsprofile angelegt, die nur über eine Werbe-ID identifiziert werden. Aber was nutzt ein Pseudonym, wenn in den Daten ablesbar ist, wo ich wohne, wo ich arbeite und wo ich meine Freizeit verbringe? Dass Sie diese Praxis nicht unterbinden, sondern einfach legalisieren wollen, ist wirklich ein Skandal.

Es sollen persönliche Daten für das KI-Training freigegeben werden, und die gerade erst verabschiedete KI-Verordnung soll entkernt werden. Entbürokratisierung nennen Sie das; aber es ist Grundrechtsabschaffung. Denn das Recht auf Privatsphäre ist ein Grundrecht, und es ist eine Frechheit, dass Sie das Unternehmensprofiten opfern wollen.

Was beim Thema KI immer vergessen wird: Es reicht nicht, einen Haufen Daten zu haben und den in das KI-Training zu schmeißen. Der Haufen Daten muss vorher strukturiert und mit Labeln versehen werden. Das erledigen gerade prekär beschäftigte Data-Labeler/-innen, meist in Ländern des Globalen Südens wie Kenia, die für unter 2 Dollar die Stunde diese Daten annotieren. Da geht es nicht nur darum, gesamte Straßenzüge für das autonome Fahren zu erfassen, sondern auch um unsere persönlichen Daten, die dann auf deren Privatrechnern verarbeitet werden. Und sie müssen sich die schlimmsten Texte und Bilder aus dem Internet anschauen – und das über zehn Stunden am Tag und ohne jegliche psychologische Betreuung. Wenn wir von KI reden, dann müssen wir auch von diesen Menschen reden. Doch davon steht kein Wort in Ihrer Hightech Agenda. Aber ihre Arbeitsbedingungen und die Frage der globalen Lieferketten sind doch zentral; denn genau da geht es um soziale Verantwortung.

Zweitens. Ein zentraler Baustein sind die sogenannten AI-Gigafactories: fünf große europäische Rechenzentren, die das Training modernster KI-Modelle ermöglichen sollen. Und wir sagen klar: Deutschland muss mindestens eines dieser Rechenzentren beheimaten; denn wer keine eigene Infrastruktur für KI-Training hat, wird von anderen abhängig, von den USA, von China. Mit einer AI-Gigafactory in Deutschland sichern wir nicht nur unsere technologische Souveränität, sondern eröffnen unseren Forschern, unseren Start-ups und unseren Unternehmen den direkten Zugang zu dieser Schlüsselressource.