Fundstellen
Ihr verantwortungsloses Rennen rund um die stärkste KI der Welt bleibt nicht folgenlos. Im letzten Sommer sind über 1 000 KI-Agenten der Firma OpenAI aus ihren Testumgebungen ausgebrochen und haben ohne menschliche Anweisung fremde Systeme angegriffen, darunter Unternehmen, aber auch eine Regierung.
Eine Gefahr fehlt mir aber in Ihrem Antrag in Bezug auf die KI, nämlich die Gefahr für unsere Demokratie. KI-Systeme sind die neuen Gatekeeper der Nachrichtenvermittlung – mit großen Auswirkungen auf unsere demokratische Öffentlichkeit. Sie beantworten politische Fragen umfassend, aus welchen Quellen, etwa aus der „Welt“, dem „Spiegel“ oder der „FAZ“, bleibt intransparent. Auch Fake News gelangen ungekennzeichnet in derartige KI-Antworten. Studien zeigen schon jetzt: KI-Modelle nutzen nur eine enge Quellenbasis; die politische Ausrichtung der Modelle, ob liberal oder konservativ, hängt vom Thema ab. Bei ChatGPT dominieren als Quelle welt.de, während OpenAI mit Axel Springer kooperiert. Da müssen wir uns doch fragen: Wer bestimmt hier eigentlich, was wir lesen? Meine Damen und Herren, wer bestimmt, was Millionen Menschen als Antwort bekommen, muss offenlegen, wie er das tut; denn Macht über unseren Diskurs braucht demokratische Kontrolle.
Herr Minister, bei einem Test von OpenAI haben KI-Agenten unter anderem in Australien einen Sicherheitsvorfall ausgelöst. Das KI-System konnte dabei auch auf das dortige Regierungsportal zugreifen. Auf die Frage, ob auch deutsche Behördensysteme betroffen waren und ob Sie von den Unternehmen dazu bereits konkrete Informationen bekommen haben, war Ihre Antwort: Wir sprechen mit ihnen. – Deswegen frage ich Sie: Liegen Ihnen inzwischen konkrete Informationen vor, ob auch deutsche Behörden betroffen waren?
Ein Vorfall bei OpenAI hat kürzlich bewiesen, dass KI sich durchaus selbstständig machen kann. Und wenn künstliche Intelligenz selbstständig handelt, verlieren wir die Kontrolle. Die Gefahren reichen von Cyberangriffen über algorithmische Verzerrungen bis hin zum Missbrauch durch den Menschen selbst.
Herr Präsident! Sehr geehrte Damen und Herren Abgeordnete! Liebe Bürger! Lassen Sie mich zunächst mit zwei Zitaten beginnen. Das erste stammt von Jakub Pachocki, Chefwissenschaftler bei OpenAI, und erschien am 6. September:
Meine Damen und Herren, diese Aussagen klingen eher zurückhaltend, verglichen mit den Warnungen früherer Angestellter der großen KI-Entwickler. Der viral gegangene Tweet des ehemaligen Mitarbeiters von OpenAI und Anthropic Jacob Coxon ist nur die am meisten beachtete Warnung. Zitat:
Der Forschungsausschuss, dem ich vorstehe, beschäftigt sich derzeit intensiv mit KI. Wir sind an der Westküste gewesen: Stanford Uni, UC Berkeley. Wir haben die großen Labore von DeepMind, OpenAI und Intrinsic besucht. In der letzten Woche war ich am MIT an der Harvard Uni, dort haben wir auch mit Anthropic gesprochen. Wir sind im engen Austausch mit den Laboren. Was hört man aus den Laboren, was für uns hier relevant ist? Relevant sind drei Dinge.
Allein der Blick auf die heutigen Schlagzeilen zeigt, wie einschneidend, wie rasant die Veränderungen sind: Wie konnten KI-Agenten von OpenAI aus der eigenen Testumgebung ausbrechen? Anthropic hält Mythos erneut zurück! Neue Daten der Berliner Senatsverwaltung veröffentlicht! – Daher ist es gut, dass das Digitalministerium einen Mittelzuwachs von 6 Prozent verzeichnet, auch wenn leider nur ein kleiner Teil für Investitionen vorgesehen ist.
Der Gipfel ist jedoch Ihr Umgang mit dem Thema KI. Wir haben alle kürzlich die Ausbrüche agentischer KI bei Anthropic und OpenAI gesehen. Dabei geht es aber nicht nur um gefährdete Cybersicherheit. Der Diebstahl persönlicher Daten und schöpferischer Werke ist Alltag geworden.
Aber diese großen, leistungsfähigen KI-Modelle und KI-Agenten kommen eben nicht aus Deutschland, sondern vor allem von US-Unternehmen: OpenAI mit ChatGPT, Google DeepMind mit Gemini, Anthropic mit Claude. Und man muss es deutlich sagen: Es ist Ihr Versagen als Regierung, gemeinsam mit der Ampel und den CDU-Regierungen davor, dass wir in Sachen KI mittlerweile vollkommen abgehängt sind.
Aber anstatt Rahmenbedingungen für eigene Innovationen zu schaffen, begrüßen Sie lieber den Einsatz von OpenAI in unserer Bundesverwaltung. Blackbox KI im Staat, ohne Einblick, ohne Kontrolle – wirklich? Wie passt das denn mit Ihren Reden zu digitaler Souveränität zusammen?
Statt schneller zu sein, verwenden Menschen ihre Arbeitszeit darauf, fehlerhafte und ungenaue KI-Aufgaben zu korrigieren. Es deutet sich an, dass OpenAI und andere KI-Unternehmen völlig überbewertet sind. Sie fahren gerade massive Verluste ein. Es ist eine Blase, die jetzt bald platzt.