Zum Inhalt springen
plenarprotokolle.de

Fundstellen

Ihr verantwortungsloses Rennen rund um die stärkste KI der Welt bleibt nicht folgenlos. Im letzten Sommer sind über 1 000 KI-Agenten der Firma OpenAI aus ihren Testumgebungen ausgebrochen und haben ohne menschliche Anweisung fremde Systeme angegriffen, darunter Unternehmen, aber auch eine Regierung.

Eine Gefahr fehlt mir aber in Ihrem Antrag in Bezug auf die KI, nämlich die Gefahr für unsere Demokratie. KI-Systeme sind die neuen Gatekeeper der Nachrichtenvermittlung – mit großen Auswirkungen auf unsere demokratische Öffentlichkeit. Sie beantworten politische Fragen umfassend, aus welchen Quellen, etwa aus der „Welt“, dem „Spiegel“ oder der „FAZ“, bleibt intransparent. Auch Fake News gelangen ungekennzeichnet in derartige KI-Antworten. Studien zeigen schon jetzt: KI-Modelle nutzen nur eine enge Quellenbasis; die politische Ausrichtung der Modelle, ob liberal oder konservativ, hängt vom Thema ab. Bei ChatGPT dominieren als Quelle welt.de, während OpenAI mit Axel Springer kooperiert. Da müssen wir uns doch fragen: Wer bestimmt hier eigentlich, was wir lesen? Meine Damen und Herren, wer bestimmt, was Millionen Menschen als Antwort bekommen, muss offenlegen, wie er das tut; denn Macht über unseren Diskurs braucht demokratische Kontrolle.

Herr Minister, bei einem Test von OpenAI haben KI-Agenten unter anderem in Australien einen Sicherheitsvorfall ausgelöst. Das KI-System konnte dabei auch auf das dortige Regierungsportal zugreifen. Auf die Frage, ob auch deutsche Behördensysteme betroffen waren und ob Sie von den Unternehmen dazu bereits konkrete Informationen bekommen haben, war Ihre Antwort: Wir sprechen mit ihnen. – Deswegen frage ich Sie: Liegen Ihnen inzwischen konkrete Informationen vor, ob auch deutsche Behörden betroffen waren?

Ein Vorfall bei OpenAI hat kürzlich bewiesen, dass KI sich durchaus selbstständig machen kann. Und wenn künstliche Intelligenz selbstständig handelt, verlieren wir die Kontrolle. Die Gefahren reichen von Cyberangriffen über algorithmische Verzerrungen bis hin zum Missbrauch durch den Menschen selbst.

Herr Präsident! Sehr geehrte Damen und Herren Abgeordnete! Liebe Bürger! Lassen Sie mich zunächst mit zwei Zitaten beginnen. Das erste stammt von Jakub Pachocki, Chefwissenschaftler bei OpenAI, und erschien am 6. September:

Meine Damen und Herren, diese Aussagen klingen eher zurückhaltend, verglichen mit den Warnungen früherer Angestellter der großen KI-Entwickler. Der viral gegangene Tweet des ehemaligen Mitarbeiters von OpenAI und Anthropic Jacob Coxon ist nur die am meisten beachtete Warnung. Zitat:

Der Forschungsausschuss, dem ich vorstehe, beschäftigt sich derzeit intensiv mit KI. Wir sind an der Westküste gewesen: Stanford Uni, UC Berkeley. Wir haben die großen Labore von DeepMind, OpenAI und Intrinsic besucht. In der letzten Woche war ich am MIT an der Harvard Uni, dort haben wir auch mit Anthropic gesprochen. Wir sind im engen Austausch mit den Laboren. Was hört man aus den Laboren, was für uns hier relevant ist? Relevant sind drei Dinge.

Allein der Blick auf die heutigen Schlagzeilen zeigt, wie einschneidend, wie rasant die Veränderungen sind: Wie konnten KI-Agenten von OpenAI aus der eigenen Testumgebung ausbrechen? Anthropic hält Mythos erneut zurück! Neue Daten der Berliner Senatsverwaltung veröffentlicht! – Daher ist es gut, dass das Digitalministerium einen Mittelzuwachs von 6 Prozent verzeichnet, auch wenn leider nur ein kleiner Teil für Investitionen vorgesehen ist.

Der Gipfel ist jedoch Ihr Umgang mit dem Thema KI. Wir haben alle kürzlich die Ausbrüche agentischer KI bei Anthropic und OpenAI gesehen. Dabei geht es aber nicht nur um gefährdete Cybersicherheit. Der Diebstahl persönlicher Daten und schöpferischer Werke ist Alltag geworden.

Aber diese großen, leistungsfähigen KI-Modelle und KI-Agenten kommen eben nicht aus Deutschland, sondern vor allem von US-Unternehmen: OpenAI mit ChatGPT, Google DeepMind mit Gemini, Anthropic mit Claude. Und man muss es deutlich sagen: Es ist Ihr Versagen als Regierung, gemeinsam mit der Ampel und den CDU-Regierungen davor, dass wir in Sachen KI mittlerweile vollkommen abgehängt sind.

Aber anstatt Rahmenbedingungen für eigene Innovationen zu schaffen, begrüßen Sie lieber den Einsatz von OpenAI in unserer Bundesverwaltung. Blackbox KI im Staat, ohne Einblick, ohne Kontrolle – wirklich? Wie passt das denn mit Ihren Reden zu digitaler Souveränität zusammen?

Statt schneller zu sein, verwenden Menschen ihre Arbeitszeit darauf, fehlerhafte und ungenaue KI-Aufgaben zu korrigieren. Es deutet sich an, dass OpenAI und andere KI-Unternehmen völlig überbewertet sind. Sie fahren gerade massive Verluste ein. Es ist eine Blase, die jetzt bald platzt.

Olaf Scholz Bundeskanzler

Es gibt Bereiche, da müssen wir noch kämpfen. Apple, Microsoft, Amazon, Meta, OpenAI, das sind alles keine deutschen oder europäischen Unternehmen. Damit ist auch gesagt, wo wir noch etwas verändern müssen in Deutschland und Europa, und das werden wir diskutieren. Aber eins ist klar: Forschung und Entwicklung müssen eine zentrale Rolle spielen. Auch das ist eine der Maßnahmen unserer Wachstumsinitiative. Wir wollen weiter, dass Deutschland dadurch wächst, dass es neue Dinge entwickelt und die Forschung voranbringt.

Sehr geehrte Frau Präsidentin! Sehr geehrte Damen und Herren! Die Entwicklung von künstlicher Intelligenz hat nach 50 Jahren Forschung mit Large Language Models eine rasante Beschleunigung erfahren. Seit dem Big Bang von ChatGPT im November 2022 wurden von OpenAI, also dem Entwickler, schon zwei neue Generationen des Sprachmodells vorgestellt. Alleine in den zehn Monaten, die der vorliegende Antrag der Union jetzt schon alt ist, erhielt ChatGPT eine Entwicklerplattform und integrierte nach den Textmodellen nun auch Sprache und Bilder, und dies zugegeben in so atemberaubender Performance, dass die Firma einzelne Funktionalitäten aus Sicherheitsgründen noch gar nicht freischalten wollte.

Dazu gab es gerade eine große Diskussion. Wir alle haben ein bisschen Sorge davor, was KI-basierte Tools so alles machen und ob wir das erkennen können. Dass das Video vom tippenden Hund, wie er da so süß am Computer sitzt, das von Sora und OpenAI jüngst veröffentlicht wurde, nicht ganz echt ist, das können wir uns vielleicht noch denken. Es gibt uns aber einen Vorgeschmack, wie wichtig es ist, erkennen zu können, welche Inhalte eigentlich editiert wurden oder ob diese komplett KI-generiert wurden. Diese Content Credentials, die im Hiroshima-KI-Prozess – dabei geht es um die Frage, wie wir uns international bei G 7 koordinieren – noch als Watermarks, also als Wasserzeichen, bezeichnet wurden, sind nichts anderes als ein kleiner Beipackzettel zu diesen digitalen Inhalten.

Freiheit für Forschung und Entwicklung, bloß nicht zu viel regulieren; das wollen Sie damit vermutlich sagen. Dann muss man das Ganze aber auch gesamthaft betrachten. Auch OpenAI ist einst als gemeinnützige Forschungsorganisation gestartet.

Unsicherheit besteht hinsichtlich der Large Language Models. Die Plattform X hat dem Scraping großer Sprachmodelle den Riegel vorgeschoben. OpenAI stoppte die Bing-Integration von ChatGPT wegen der Umgehung von Paywalls. Und Kreative sehen ihre Werke als begehrtes Datenfutter missbraucht und fordern Vergütungen für die Nutzung.

Im Jahre 2018 führte die wohl bekannteste KI-Firma der Welt, OpenAI, ihr erstes generatives Sprachmodell vor, nämlich GPT-1. Dieses Modell war bereits damals in der Lage, auf Basis von 117 Millionen Parametern menschenähnliche Gespräche zu führen.

keine Rede! Nun erinnert sich der informierte Unionler auch an die Fortschreibung der KI-Strategie aus dem Jahre 2020. 2020 – der eine oder andere wird sich erinnern – war das Jahr, in dem OpenAI die dritte Version seines Sprachmodells vorstellte. Dieses Modell verfügte zu diesem Zeitpunkt über 175 Milliarden Parameter; das sind drei Nullen mehr. Auch in der Fortschreibung der KI-Strategie sucht man ein Kapitel oder wenigstens die Erwähnung von generativer KI vergebens.