Fundstellen
Sehr geehrter Herr Präsident! Liebe Kolleginnen und Kollegen! Zu der Frage eines Drohnenflottenaufbaus haben die Kollegen Faber, Krämer und Arlt sehr vieles gesagt. Ich möchte auf einen Aspekt eingehen, den Sie in Ihrem Antrag auch ansprechen, nämlich den Einsatz von KI-Systemen, wo Sie auch von vollautonomen Waffensystemen sprechen, weil ich ein kleines bisschen irritiert bin, wie nonchalant Sie das fordern, insbesondere vor dem Hintergrund, dass Ihre Parteikollegin Ursula von der Leyen gerade den AI Act zum Abschluss gebracht hat – eine klare Regulierung für KI-Systeme im zivilen Bereich –, in dem es ganz klare risikobasierte Einstufungen von KI-basierter Technologie gibt.
In Brüssel will die Union beim Data Act und der KI-Verordnung noch mehr Fokus auf die Deregulierung zugunsten von mehr Innovationen legen. Das klingt zwar irgendwie gut, bedeutet aber unverantwortliche Risiken für alle, mehr Gefahren für Grundrechte und mehr Diskriminierung durch KI-Systeme. Und das, meine Damen und Herren, ist mit der Linken nicht zu machen.
Wir wollen aber – ich komme damit zum Schluss –, dass es für sogenannte Foundation Models, also KI-Basismodelle, nur eine Selbstregulierung gibt. Wir wollen einen Rechtsrahmen schaffen, in dem vertrauenswürdige KI-Systeme entwickelt werden, aber Risiken minimiert und Auswüchse gesetzlich geahndet werden können. Dafür setzen wir uns bei den Trilogverhandlungen ein.
Des Weiteren muss man auch mal über die Frage von Datenqualität, Datenverarbeitung, Datenkultur und Datennutzung reden. Es ist diese Bundesregierung, diese Ampelregierung, die vor ein paar Wochen die Weiterentwicklung der Datenstrategie vorgelegt hat, wodurch genau die richtigen Faktoren genannt werden, wodurch genau die richtigen Schwerpunkte gesetzt werden. Denn am Ende des Tages ist jede Innovation, jedes KI-System nur so gut wie die Daten, worauf es basiert. Wir als Ampelkoalition stehen dafür, dass wir Daten stärker nutzen, dass wir für mehr Datenqualität sorgen und dass wir am Ende auch dafür sorgen, dass diese Daten den Weg in die freie Wirtschaft finden. Dafür stehen wir.
Diese Datenstrategie soll auch mehr KI in der Verwaltung ermöglichen und dazu mehr Vertrauen fördern. Aber der Bund nutzte schon 2022 über 245-mal KI-Systeme. 60 Prozent davon enthielt die Antwort auf meine diesbezügliche Kleine Anfrage aber nicht, und mein Vertrauen hat das nicht gefördert.
Zugleich haben Algorithmen kein Gewissen und keine Empathie. Unsere Haltung bei KI-Systemen muss sein, Neutralität und Transparenz sicherzustellen. KI muss mit unseren Menschen-, Grund- und Freiheitsrechten im Einklang stehen.
Die KI-Revolution ist in vollem Gange. Ob in der Arbeitswelt, ob in der industriellen Produktion, ob im Bildungswesen, ob im Gesundheitssektor, wir stellen fest, dass KI auf eine rasante Art und Weise unsere Gesellschaft verändert. Es ist richtig, dass wir uns auch um fast 23 Uhr heute Abend über das Thema KI unterhalten, und ich bin dankbar für Ihren Antrag, liebe Fraktion Die Linke. Es gibt ein paar gute Punkte in Ihrem Antrag, beispielsweise die Themen Kennzeichnungspflicht oder Transparenzregister für KI-Systeme. Schön, dass Sie ihn heute hier vorlegen. Aber ich frage mich, wo Sie in den letzten Monaten eigentlich waren. Wir als SPD-Bundestagsfraktion haben bereits im Januar 2023 ein Positionspapier verabschiedet, in dem wir genau das fordern.
KI-Systeme werden zunehmend Entscheidungen für und über uns treffen, und dabei werden diese Systeme Fehler machen. Um Fairness sicherzustellen, wollen wir die Anbieter/-innen und Nutzer/-innen von KI-Systemen verpflichten, den Betroffenen dieser Entscheidungen sachgerechte und konkrete Informationen bereitzustellen. Sollten diese Informationen nicht zu einer Aufklärung beitragen oder eine Fehlentscheidung offenbaren, sollen Europäer/-innen das Recht haben, Beschwerde einzulegen oder Klage zu erheben. Besonders wichtig ist dabei der Schutz der Rechte von Arbeitnehmer/-innen, Verbraucher/-innen und marginalisierten Gruppen.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Digitale Technologien verändern unsere Arbeitswelt. Das wird auch noch mal vor dem Hintergrund der aktuellen Debatten deutlich, die wir in den letzten Wochen rund um das Thema „generative KI und Mehrzweck-KI“ geführt haben. Generative KI – künstliche Intelligenz – sind Systeme, die eigene Inhalte entwickeln können basierend auf Algorithmen und Machine Learning. Mehrzweck-KI, um das mal zu definieren zu versuchen, sind KI-Systeme, die entwickelt werden für einen bestimmten Zweck, aber am Ende dann Anwendung finden können für viele andere Zwecke. Ich finde, vor dem Hintergrund der Entwicklung, die wir gerade sehen, wenn es um künstliche Intelligenz geht, wird noch einmal deutlich: Wer die digitale Transformation gestalten möchte, wer immer wieder davon spricht, dass wir als Gesellschaft Digitalisierung gestalten wollen, muss dafür sorgen, dass es auch mehr betriebliche Mitbestimmung gibt.
Die aktuelle Debatte, die gerade im Europäischen Parlament geführt wird, verdeutlicht, dass wir als Europäische Union und auch als Bundesrepublik auf einem guten Weg sind. Die KI-Verordnung, zumindest der Entwurf, sieht vor, dass wir KI nach einem risikobasierten und anwendungszweckbasierten Ansatz unterscheiden. Das heißt KI-Systeme, die besonders gefährlich sind, bei denen eine hohe Interaktion zwischen Mensch und künstlicher Intelligenz gegeben ist, müssen anders behandelt werden als andere KI-Systeme. Das ist ein Ansatz, den wir als SPD-Bundestagsfraktion begrüßen und bei dem wir uns weiterhin auch in den Gesprächen konstruktiv einbringen werden. Allerdings zeigt sich jetzt schon, dass eine Lücke entsteht. Für jede KI, die entwickelt wird, die am Ende nicht mehr für den entsprechenden Zweck eingesetzt werden kann, entsteht eine Lücke. Daher müssen wir auch im AI Act dafür sorgen, dass Arbeitnehmerinnen und Arbeitnehmer stärker geschützt werden.
Liebe Kolleginnen und Kollegen, es ist nun mal so, dass insbesondere Mitarbeiterinnen und Mitarbeiter da an einer wichtigen Stelle sind. Denn sie müssen nicht nur mit KI-Systemen arbeiten; oft sind sie auch diejenigen, die an erster Stelle davon betroffen sind, wenn KI am Ende bestimmte Konsequenzen hat, die vorher nicht gesehen wurden. Deswegen: Wenn es darum geht, KI sicher zu gestalten, KI nachhaltig zu gestalten, künstliche Intelligenz zum Wohle von Mensch und Natur zu gestalten, brauchen wir mehr betriebliche Mitbestimmung und auch mehr Möglichkeiten im Unternehmen, da konkret anzupacken.
Erstens. Wir brauchen Kennzeichnungspflichten. Es muss transparent sein, gerade wenn es sich um KI-Systeme handelt. Das muss klar erkennbar sein.
Die korrelierten Daten – ich komme gleich noch zum Datenschutz – über Verbrauch und Einspeisung im Tagesverlauf in Verbindung mit Wetterdaten ermöglichen in Zukunft auch dramatisch verbesserte Vorhersagemodelle. Hier kommen dann selbstlernende KI-Systeme zum Einsatz, um zum Beispiel rechtzeitig die Bereitstellung der Residuallast zu optimieren. Das heißt, wir erschließen hier neue Datenquellen, offen für Start-ups und für Energieversorger.
KI-Systeme und algorithmische Entscheidungshilfen sind ja schon heute in vielen Bereichen unseres Alltags etabliert und werden in unserer Zukunft nicht mehr wegzudenken sein. Ausnahmsweise – und das ist wirklich wichtig – haben wir in diesem Bereich die Möglichkeit, den technologischen Entwicklungen mit Regulierungsverfahren nicht nur hinterherzurennen, sondern mit den Entwicklungen auf Augenhöhe einen regulatorischen Rahmen zu schaffen, der branchenübergreifend Sicherheiten gibt und somit den Transfer von Forschung in die Anwendung im gesamten europäischen Umfeld und auch weltweit vorantreibt und die Chance bietet, weltweite Standards zu setzen.
Das ist aber auch gesellschaftlich ein Problem. Durch die Digitalisierung ändert sich unser ganzes Leben. Da kann es uns doch nicht egal sein, dass die Frauen daran so wenig beteiligt sind. Auch das arbeitet der Gleichstellungsbericht gut auf, vor allem, was es heißt, wenn KI-Systeme aus Daten lernen, die einen Bias haben, was dazu führt, dass Ungerechtigkeiten aus der Vergangenheit auch auf die Zukunft übertragen werden. Der Gleichstellungsbericht bringt da sehr plastische, sehr gute Beispiele. Deshalb bedanke ich mich ganz herzlich bei Professor Dr. Yollu-Tok und ihrer Kommission für die wichtige Arbeit, dass sie dieses Thema so umfassend aufgearbeitet haben.