Fundstellen
KI ist die unregulierteste Hochrisikotechnologie dieser Welt. Über die Weiterentwicklung, aber auch über die Sicherheit der leistungsfähigsten KI-Systeme entscheiden derzeit die Big-Tech-Unternehmen, also besser gesagt die Tech-Bros. Und dass diese Verantwortung dort in den falschen Händen ist, das ist ja wohl offensichtlich.
Diese Infrastruktur voller Schwachstellen trifft jetzt auf KI-Systeme, die diese Lücken selbstständig finden und rund um die Uhr millionenfach angreifen können. Das heißt, die Angreifenden arbeiten mit Maschinengeschwindigkeit, und unsere Abwehr ist noch viel zu oft im Behördentempo. Das wird nicht mehr ausreichen.
Sehr geehrter Herr Präsident! Ein Gedankenexperiment: Das, was die Grünen fordern, wird Realität, und wegen der hohen Risiken von künstlicher Intelligenz beschließen wir heute, am Freitag, gemeinsam den Stopp von KI-Systemen. Dann passiert morgen, am Samstag, in Peking – gar nichts; die machen nämlich einfach weiter. Am Sonntag im Silicon Valley passiert dann – gar nichts; die machen einfach weiter. Still, meine Damen und Herren, wird es nur bei uns.
Ihr Antrag fordert, dass KI-Systeme unter die Regulation der Vereinten Nationen gestellt werden.
Ich will ganz ernsthaft von dieser Stelle fragen: Glauben Sie wirklich, dass Peking seine KI-Systeme unter die UN-Aufsicht stellt? Ich kann Ihnen die Frage beantworten. Im Antrag schreiben Sie ja selbst, vermutlich brauche es dafür einen langen Atem. Wenn man diesen Politikersprech in normales Deutsch übersetzen würde, dann hieße das: Wir werden niemals zu diesem Punkt kommen, und während Sie grünen Hoffnungen hinterherjagen, wird überall auf der Welt KI weiterentwickelt, nur in Deutschland ist Stillstand.
Die Bundesrepublik und die Bundesregierung sind mit einem starken BSI und einem starken AI-Safety-and-Security-Institute, das ja bereits in der Lage ist, auch die modernsten KI-Systeme zu überprüfen, schon auf einem guten Weg;
KI-Sicherheit, meine Damen und Herren, schafft man nicht, indem man bürokratisiert und reglementiert und dann darauf hofft, dass die gesamte Welt ein gleiches Interesse daran hat wie die grüne Bundestagsfraktion. KI-Sicherheit schafft man nach meiner festen Überzeugung dadurch, dass man KI-Systeme modern macht, dass man von vorne führt, dass man Standards prägt. Insofern können wir Ihrem Antrag nicht zustimmen.
Künstliche Intelligenz verändert unsere Welt mit einer Geschwindigkeit, die wir so noch nicht erlebt haben. Während in den USA und in China immer leistungsfähigere KI-Systeme entwickelt werden, beschäftigen wir uns in Deutschland vor allem mit der Frage, wie wir diese Technologie regulieren können. Und statt endlich Maßnahmen zur Schaffung einer konkurrenzfähigen KI-Initiative zu ergreifen, fordern die Grünen mit ihrem Antrag noch mehr staatliche Kontrolle, zusätzliche Sicherheitsanforderungen und natürlich den Ausbau weiterer Behördenstrukturen.
Und damit kommen wir zum Kern der Sache und zum Problem Ihres Antrags. Sicherheit entsteht nicht dadurch, dass wir einem KI-System bürokratische Rechtsrahmen aufsetzen. Sie muss bereits in seiner technischen Architektur verankert sein: durch begrenzte Zugriffsrechte, durch möglicherweise abgeschottete Systeme, die menschliche Freigabe – der klassische Human in the Loop –, wirksame Kontrollmechanismen und vor allem durch geschulte, digital mündige Anwender.
Ein weiterer Punkt des Antrags betrifft die Möglichkeit, autonome KI-Systeme im Notfall abschalten zu können. Das mag ja sinnvoll sein. Aber ein sogenannter Not-Aus-Schalter allein löst doch das Problem nicht. Wenn ein KI-Agent bereits vertrauliche Unternehmensdaten an ein fremdes System übertragen hat, dann bringt es wenig, ihn im Nachhinein abzuschalten. Die Daten sind längst weg. Deshalb müssen wir Sicherheitsrisiken begrenzen, bevor der Schaden entsteht. Wir brauchen Systeme, deren Berechtigungen technisch kontrollierbar sind und bei denen kritische Aktionen nicht unbemerkt ausgeführt werden können.
Eine Gefahr fehlt mir aber in Ihrem Antrag in Bezug auf die KI, nämlich die Gefahr für unsere Demokratie. KI-Systeme sind die neuen Gatekeeper der Nachrichtenvermittlung – mit großen Auswirkungen auf unsere demokratische Öffentlichkeit. Sie beantworten politische Fragen umfassend, aus welchen Quellen, etwa aus der „Welt“, dem „Spiegel“ oder der „FAZ“, bleibt intransparent. Auch Fake News gelangen ungekennzeichnet in derartige KI-Antworten. Studien zeigen schon jetzt: KI-Modelle nutzen nur eine enge Quellenbasis; die politische Ausrichtung der Modelle, ob liberal oder konservativ, hängt vom Thema ab. Bei ChatGPT dominieren als Quelle welt.de, während OpenAI mit Axel Springer kooperiert. Da müssen wir uns doch fragen: Wer bestimmt hier eigentlich, was wir lesen? Meine Damen und Herren, wer bestimmt, was Millionen Menschen als Antwort bekommen, muss offenlegen, wie er das tut; denn Macht über unseren Diskurs braucht demokratische Kontrolle.
Sehr geehrte Zuhörende! Herr Präsident! Die Grünen stellen heute einen Antrag, um auf die Risiken von KI-Systemen zu reagieren. Und es stimmt: Mit KI-Systemen wird es leichter, auch ohne großes technisches Verständnis Angriffe auf Unternehmen und Verwaltung zu starten. Es braucht daher dringend mehr Investitionen in die Cybersicherheit.
Wenn wir über die Gefahren von KI-Systemen reden, dann dürfen wir auch nicht vergessen, dass hinter jeder Erzählung auch handfeste wirtschaftliche Interessen stehen. Und da gehen Sie den Werbeerzählungen auf den Leim; denn KI-Firmen profitieren davon, ihre Systeme als gefährlich dastehen zu lassen. Was gefährlich ist, das ist mächtig, das kann alles. Und wenn etwas mächtig und gefährlich ist, dann muss ich als Unternehmen und auch als Staat natürlich dabei sein und dort investieren, erst recht, wenn das gefährliche Werkzeug droht in die Hand eines anderen zu fallen wie dem Konkurrenten China. Da muss man dann natürlich weiter in die KI-Systeme verbündeter Staaten investieren, sie einkaufen und beste Bedingungen für sie schaffen: ob es sich lohnt oder nicht, komme was wolle. Wir haben das gerade zur Genüge gehört.
Doch genau dieser Grundpfeiler der demokratischen Kultur ist von vielen Krisen unserer Zeit bedroht. Kostensteigerungen, der zu verbreitete funktionale Analphabetismus, eine Lesekrise ausgerechnet im digitalen Wandel und nicht zuletzt – es kam schon zur Sprache – die großen KI-Systeme sorgen für eine prekäre Situation im Buchhandelsmarkt. Viele Verlage, insbesondere die unabhängigen, kleinen, kämpfen bereits jetzt um ihre Existenz. Und mit ihnen kämpft eine Vielzahl von Autorinnen, Lektoren, Illustratorinnen oder Übersetzern um die ihre.
Sehr geehrter Herr Minister Wildberger, existenzielle Risiken durch KI-Systeme haben die Medienberichte der letzten Wochen geprägt. Immer mehr sicherheitsrelevante Vorfälle werden nahezu täglich bekannt. Erst gestern wurde öffentlich, dass mutmaßlich der erste KI-Angriff auf eine deutsche Stadt stattgefunden hat. Und die Menschen in Deutschland machen sich, ehrlicherweise auch ein Stück weit berechtigt, Sorgen. Offensichtlich kommen die Unternehmen, die diese Technologie entwickeln, ihrer eigenen Verantwortung hinsichtlich der Sicherheit bei Weitem nicht nach. Für mich ist klar: Wenn Schäden entstehen, dann müssen gerade diese Unternehmen zur Rechenschaft gezogen werden, und vor allem müssen sie auch für diese Schäden haften.
Herr Minister, bei einem Test von OpenAI haben KI-Agenten unter anderem in Australien einen Sicherheitsvorfall ausgelöst. Das KI-System konnte dabei auch auf das dortige Regierungsportal zugreifen. Auf die Frage, ob auch deutsche Behördensysteme betroffen waren und ob Sie von den Unternehmen dazu bereits konkrete Informationen bekommen haben, war Ihre Antwort: Wir sprechen mit ihnen. – Deswegen frage ich Sie: Liegen Ihnen inzwischen konkrete Informationen vor, ob auch deutsche Behörden betroffen waren?
Vielen Dank. – Ich habe eine Frage an Herrn Wildberger. Digitalisierung führt ja dazu, dass Prozesse automatisiert werden. Das ist sehr praktisch für Unternehmen, hat aber für Arbeitnehmende die Auswirkung, dass sich zum einen die Arbeit verdichtet, sie also mehr Dinge in der gleichen Zeit erledigen müssen, wodurch die Arbeit entsprechend anstrengender wird, und dass das zum anderen natürlich dafür genutzt wird, um weiter Druck auf sie auszuüben, Arbeitsplätze zu streichen und Löhne zu senken. Sie haben mit der KI-Steuer schon einen wichtigen finanziellen Punkt angesprochen. Das ist richtig als Ausgleich, aber es stärkt ja nicht die Position der Arbeitnehmenden. Daher frage ich Sie: Was schlagen Sie vor, damit sich die Situation der Arbeitnehmenden durch die Digitalisierung und Einführung von KI-Systemen nicht weiter verschlechtert, sondern verbessert? Und wie werden Sie dafür das Arbeitsrecht stärken?
Ja, vielen Dank. – Eine Berufsgruppe, die gerade besonders darunter leidet, sind erstaunlicherweise die Informatiker/-innen. Es ist gerade für Berufsanfänger/-innen, die ihr Studium beendet haben, erheblich erschwert, noch einen Job zu finden, weil Unternehmen der Meinung sind, ihre Arbeit könne jetzt mit KI-Systemen erledigt werden. Das ist natürlich eine extrem kurzfristige Strategie. Als Industrienation brauchen wir genau diese Leute, und auch Sie im Ministerium sind ja auf sie angewiesen. Was schlagen Sie deshalb vor, um gerade Berufsanfänger/-innen zu stärken?
Vielen Dank. – Herr Minister, nicht nur die Informatiker/-innen, sondern auch die Content-Moderatoren sind gerade besonders stark betroffen, die schon immer unter sehr schwierigen Bedingungen arbeiten mussten und deren wichtige Arbeit bis heute nicht als Ausbildungsberuf anerkannt ist. Deren Arbeit ist gerade in aktuellen Zeiten von Hass und Hetze im Netz natürlich besonders entscheidend. Gerade sie sollen jetzt durch KI-Systeme ersetzt werden. Und vor allem wird KI als Ausrede genutzt, um Abteilungen zu schließen und Outsourcing zu betreiben mit entsprechender Verschlechterung der Content-Moderation. Was wollen Sie tun, um genau diese Berufsgruppe zu stärken?
Sehr geehrter Herr Präsident! Sehr geehrte Damen und Herren! Die Migrationsverwaltung steht vor großen Herausforderungen. Sie muss hohe Antragszahlen, eine enge Kassenund Personallage und hohe Erwartungen vonseiten des Gesetzgebers, aber auch der Gesellschaft unter einen Hut bringen. Insofern ist es nur richtig, dass die Migrationsverwaltung die Möglichkeit an die Hand bekommen soll, technische Hilfsmittel wie KI-Systeme einzusetzen. Der vorliegende Gesetzentwurf der Bundesregierung soll unter anderem den Aufbau eines automatisierten Verfahrensmonitorings und einen automatisierten Abgleich mit öffentlich zugänglichen Personendaten im Internet ermöglichen.
Damit ist dieser Regierungsentwurf ein erster zukunftsweisender Schritt, um die Prozesse in der Migrationsverwaltung zu verbessern. Wir aus Baden-Württemberg haben in die Beratungen drei Anträge eingebracht, die sich in der Beschlussempfehlung des Ausschusses für Innere Angelegenheiten wiederfinden. Ich danke Ihnen herzlich für die guten Beratungen und die Unterstützung. Lassen Sie mich dazu kurz ausführen! Wichtig ist erstens, dass bereits bestehende landesrechtliche Ermächtigungsgrundlagen zum Einsatz von KI-Systemen durch die Neuregelungen nicht verdrängt oder gesperrt werden.
In Baden-Württemberg gibt es beispielsweise schon eine entsprechende Rechtsgrundlage im Landesdatenschutzgesetz, um Daten für KI-Systeme verarbeiten zu können. Die beiden weiteren Anträge aus Baden-Württemberg betreffen den wichtigen Bereich der Rückführung. Aus unserer Sicht muss ein Internetdatenabgleich auch zulässig sein, wenn er der Feststellung der Identität dient oder zur Geltendmachung von Rückführungsmöglichkeiten in einen anderen Staat von Bedeutung sein kann. Wir wissen alle: Eine ungeklärte Identität und fehlende Identitätsnachweise sind und bleiben das Haupthindernis für eine erfolgreiche Rückführung.
Daneben halten wir es für erforderlich, die erhobenen Daten aus einem Internetdatenabgleich auch zur Strafverfolgung, zur Gefahrenabwehr sowie für aufenthaltsrechtliche Maßnahmen weiterverarbeiten zu dürfen. Denn wir dürfen nicht die Augen verschließen, wenn sich insbesondere Anhaltspunkte für eine strafbare Handlung ergeben und Gefahren für Leib und Leben abgewendet werden müssen. Datenschutz darf kein Täterschutz sein. Damit die Ermächtigungsgrundlagen zu einer tatsächlichen Entlastung und Effizienzsteigerung führen, ist es notwendig, entsprechende KI-Systeme zielgenau zu entwickeln und einzusetzen.
Dabei brauchen wir aus meiner Sicht eine echte Entwicklungszusammenarbeit zwischen dem Bund und den Ländern. Gemeinsam haben wir mehr und bessere Daten, um KI-Systeme zu trainieren. Nur Bund und Länder gemeinsam können Verfahrensmonitoring wirklich Ende zu Ende umsetzen – vom Asylantrag bis zur erfolgreichen Integration oder auch Rückführung. Wir müssen unsere Arbeiten koordinieren, um Geld und Zeit mit maximalem Nutzen einzusetzen. Eine Fragmentierung der IT-Systeme, wie wir das beispielsweise bei der PIK hatten, müssen wir vermeiden.
Genau hier liegt das erste zentrale Problem des Antrags. Er setzt sich überhaupt nicht damit auseinander, dass wir bereits funktionierende Systeme haben. Er benennt nicht, was an der IGA falsch ist. Er benennt nicht, worin die Fehler von EasyPASS liegen. Er benennt nicht, welche konkrete Lücke durch ein neues KI-System geschlossen werden soll. Und er zeigt nicht, wie die vorgeschlagenen Systeme mit den bereits bestehenden europäischen Systemen zusammenspielen sollen.
Die sichere Entwicklung von KI ebenso wie die Bekämpfung von irregulärer Migration, Schleuserkriminalität oder hybriden Bedrohungen sind keine nationale, sondern eine internationale Aufgabe. Wir brauchen einen gesamteuropäischen und internationalen Ansatz. Die Fähigkeiten von KI-Systemen wachsen rasant, sodass es Mechanismen braucht, die sich nicht der menschlichen Kontrolle entziehen können. Deshalb sind entsprechende Sicherheitstests so wichtig.
Ich will aber dazusagen, dass am Ende die Gefahren, die wir jetzt gerade sehr konkret sehen, nämlich dass KI-Agenten ausbrechen – man liest ja täglich davon – und andere KI-Systeme kompromittieren, natürlich auch ein Thema ist, das Haftungsfragen aufwirft. Das ist auch erst mal ein guter Schutz, da am Ende derjenige, der Systeme in Umlauf bringt, die wirtschaftlichen Schaden anrichten, dafür auch haften muss. Das ist nicht nur nach europäischem Recht so, sondern das ist im Übrigen auch nach US-amerikanischem Recht so.
Sehr geehrte Zuhörende! Herr Präsident! KI-Regulierung ist eine sinnvolle Sache. Deswegen hatten wir bereits einen sehr umfangreichen Antrag vorgelegt, in dem wir Maßnahmen vorgeschlagen haben. Aber wir reden heute nicht über KI-Regulierung, weil jetzt eine Mehrheit zu der Einsicht gekommen ist, dass diese Technologie mehr Schaden anrichtet, als dass sie Nutzen bringt. Wir reden heute über KI-Regulierung, weil drei der Ober-Tech-Bros auf einmal der Meinung sind, dass man Regulierung braucht. Das erstaunt natürlich; denn die machen ja ihr Geld mit KI-Systemen.
Der zweite Grund ist, dass die Modelle immer noch nicht profitabel sind; also muss man alle davon überzeugen, dass die KI-Systeme bald übermenschlich sind. Und das effektivste Mittel, das zu tun, ist, Angst zu schüren. Das macht man dadurch, dass ganz aus Versehen ein KI-System bei einer Firma einbricht, die dann ganz zufällig auch vom KI-Hype profitiert, und die einen zufälligerweise nicht in Grund und Boden klagt, obwohl man das eigentlich verdient hätte. Und das macht man dadurch, dass man eine KI zurückhält, weil sie angeblich zu gefährlich ist.
Wir sollten uns daher von den Regulierungen, die wirklich nötig sind, nicht ablenken lassen; denn KI-Systeme richten auch jetzt schon massiven Schaden an. Techkonzerne ziehen in einem Raubzug durch das Internet. Texte, Bilder, Videos, Musik: Alles stehlen sie für das Training von KI-Systemen, ohne einen Cent dafür zu zahlen, während Tausende unterbezahlte Datenarbeiter/-innen die Daten für sie beschriften und sortieren, in viel zu langen Arbeitszeiten, wo sie den ganzen Müll des Internets sehen müssen.