Fundstellen
Und ich möchte, Herr von Notz, keine KI-Modelle in China, ich möchte keine in Russland. Ich möchte, dass die leistungsfähigsten KI-Modelle weiter aus den USA kommen und am liebsten aus Europa.
Liebe Kollegen, die Grünen wollen nun das deutsche KI-Sicherheitsinstitut AISI zu einer leistungsfähigen, unabhängigen Prüfeinrichtung ausbauen – das nächste Institut mit Personal, mit Geld, mit permanentem Ressourcenverbrauch und schwer zu definierendem Output. Dieses Institut hat am 31. August seine Arbeit aufgenommen. Und, wissen Sie, was bemerkenswert an AISI ist? Es arbeitet offenbar, ohne buchhalterisch zu existieren. Unsere Fraktion hat die Bundesregierung konkret gefragt, wie diese Institution organisatorisch, personell und finanziell ausgestattet werden soll. Es gibt aber keine konkreten langfristigen Personal- und Finanzierungspläne, für die erste Phase keine gesondert ausgewiesenen Personalstellen, keine Angaben zu den Haushaltsmitteln der kommenden Jahre und nicht einmal eine erklärte Befugnis, den Zugang zu den zu untersuchenden KI-Modellen gegenüber den Anbietern auch durchzusetzen.
Eine Gefahr fehlt mir aber in Ihrem Antrag in Bezug auf die KI, nämlich die Gefahr für unsere Demokratie. KI-Systeme sind die neuen Gatekeeper der Nachrichtenvermittlung – mit großen Auswirkungen auf unsere demokratische Öffentlichkeit. Sie beantworten politische Fragen umfassend, aus welchen Quellen, etwa aus der „Welt“, dem „Spiegel“ oder der „FAZ“, bleibt intransparent. Auch Fake News gelangen ungekennzeichnet in derartige KI-Antworten. Studien zeigen schon jetzt: KI-Modelle nutzen nur eine enge Quellenbasis; die politische Ausrichtung der Modelle, ob liberal oder konservativ, hängt vom Thema ab. Bei ChatGPT dominieren als Quelle welt.de, während OpenAI mit Axel Springer kooperiert. Da müssen wir uns doch fragen: Wer bestimmt hier eigentlich, was wir lesen? Meine Damen und Herren, wer bestimmt, was Millionen Menschen als Antwort bekommen, muss offenlegen, wie er das tut; denn Macht über unseren Diskurs braucht demokratische Kontrolle.
Zweitens. Wir müssen sehr viel ernster nehmen, dass KI-Modelle großer Techkonzerne oft ohne Einverständnis und Vergütung mit den Werken von Autorinnen und Autoren trainiert werden. Wir brauchen hier europaweit ein robustes Urheberrecht, so wie die EU-Kommission das plant, mit wirksamen Rechtevorbehalten, mit fairen Vergütungsmodellen, mit Transparenz über Trainingsdaten. Es muss gelten: dein Wort, deine Arbeit, dein Geld, dein Recht. Nur so wird künstliche Intelligenz eine Chance für die Kultur und kein Werkzeug zu ihrer Ausbeutung, liebe Kolleginnen und Kollegen.
Die erste Anwendung ist im Gesundheitswesen. Mithilfe von KI können wir Menschenleben verlängern. Mit unseren Gesundheitsdaten haben wir die große Chance, bei KI-Modellen im klinischen Bereich weltweit führend zu sein.
Sehr geehrte Frau Ministerin, wenn hier – wie ich finde, auch in übertriebenem Maße – ausschließlich auf die Gefahren von künstlicher Intelligenz eingegangen wird, dann sollten wir vielleicht mal versuchen, den Blick auf die Chancen zu richten. Da es hier um amerikanische und chinesische KI-Modelle gegangen ist, interessiert mich natürlich aus Souveränitätsaspekten heraus: Wie bewerten Sie denn beispielsweise die neue Finanzierungsrunde von Mistral AI? Wie bewerten Sie das, was bei Aleph Alpha und Cohere auch vonseiten der Bundesregierung unternommen wird, um europäische Souveränität und Sicherheit im KI-Bereich voranzustellen?
Und warum modular? Weil wir uns nicht für 20 Jahre an einen einzelnen Konzern ketten dürfen. Eine bessere Kamera muss austauschbar sein, ein neuer Sensor integrierbar, ein besseres KI-Modell nachrüstbar. Wir fordern: Deutschland muss digital souverän werden, auch an den deutschen Außengrenzen.
Im Juli – wir alle haben es mitbekommen – sind KI-Modelle aus ihrer Testumgebung ausgebrochen, haben auf eigene Faust eine Entwicklerplattform gehackt. Das ist keine Science-Fiction, sondern Realität. Hier hat der Staat verdammt noch mal eine Schutzverantwortung für unsere Bürgerinnen und Bürger und für die Unternehmen. Und darum geht es uns bei dieser heutigen Aktuellen Stunde.
Und KI muss souveräner werden, souverän sein. Denn wer die Technologie nicht selbst hat, bleibt abhängig. Wir haben es im Juni gesehen: Eine Entscheidung wurde in Washington getroffen, und die stärksten KI-Modelle waren fast drei Wochen lang für uns gesperrt. Stellen Sie sich mal vor: Eine Patientin ist im Krankenhaus, ihre ganze Behandlung hängt von KI ab, und diese wird über Nacht ausgeschaltet. Oder: Die ganze Produktion einer Mittelständlerin ist von einem chinesischen KI-Modell abhängig.
Die leistungsfähigsten KI-Modelle, die entscheidenden Chips und die großen Cloud-Plattformen kommen nicht aus Deutschland, ganz zu schweigen von notwendiger Rechenleistung. KI-bezogene Investitionen betragen eine halbe Billion Dollar pro Jahr in den Vereinigten Staaten, in China 130 Milliarden Euro, in Europa insgesamt, großzügig geschätzt, 85 Milliarden Euro, von Deutschland alleine ganz zu schweigen.
Wie die AfD diesen Befreiungsschlag umsetzen wird, haben wir in unserem Großantrag für einen nationalen Aufbruch in die KI-Zukunft aufgezeigt: mehr Rechenzentren, bezahlbare Energie, Kapazitäten bei Halbleitern, Cloud und Hochleistungsrechnern sowie eigene leistungsfähige KI-Modelle und ein europäischer KI-Airbus. Und genau das brauchen wir jetzt, wenn wir als deutsche Politik im Bereich KI weltweit ernst genommen werden wollen.
Nun zur Hightech Agenda. Hightech, Hightech, Hightech – kein Experte glaubt, dass das hilft, ein europäisches KI-Modell zu entwickeln, um unsere Abhängigkeit von den USA und China zu brechen.
Die Welt wird digitaler. Unsere Abhängigkeiten wachsen. Und im letzten Jahr haben uns die geopolitischen Realitäten eingeholt. Wir merken, wie Europa der Zugang zu neuen, leistungsstarken KI-Modellen gekappt wurde, wie unsere Daten – unabhängig vom Speicherort – an große Techunternehmen fließen, wie intransparente Algorithmen gezielt unsere demokratischen Debatten zerstören. Das macht uns täglich bewusst: Wer die digitale Transformation nicht mitgestaltet, wird abgehängt. Wer abhängig ist, verliert die Handlungsfähigkeit, und zwar wirtschaftlich, sicherheitspolitisch und demokratisch. Deswegen hat das absolute Priorität.
Erstens: das KI-Sicherheitsinstitut. Es ist richtig, dass wir ein solches Institut jetzt einrichten und damit sicherheitsrelevante Gefahren und Missbrauchspotenzial moderner KI-Modelle künftig frühzeitig identifizieren. 24 Millionen Euro sind dafür vorgesehen. Herr Minister, wir werden den Aufbau weiterhin gerne begleiten.
Digitalkonzerne nutzen Inhalte, ohne dafür zu zahlen: für ihre KI-Modelle, für ihre Suchmaschinen. Sie monopolisieren die Werbeeinnahmen und nehmen damit dem unabhängigen Journalismus die Geschäftsgrundlage. Sie steuern, was wem angezeigt wird, über intransparente Algorithmen. Einzelne Techoligarchen entscheiden also, welche Nachrichten eine Chance haben. Das gefährdet nicht nur Medienfreiheit, sondern auch unsere Demokratie, genau wie die AfD. Deswegen verbünden Sie sich mit den Techoligarchen wie Elon Musk. Damit muss Schluss sein.
Aber diese großen, leistungsfähigen KI-Modelle und KI-Agenten kommen eben nicht aus Deutschland, sondern vor allem von US-Unternehmen: OpenAI mit ChatGPT, Google DeepMind mit Gemini, Anthropic mit Claude. Und man muss es deutlich sagen: Es ist Ihr Versagen als Regierung, gemeinsam mit der Ampel und den CDU-Regierungen davor, dass wir in Sachen KI mittlerweile vollkommen abgehängt sind.
Wir haben gerade bei uns selbst eine Vergabe durchgeführt und die AI-Infrastruktur, die Cloud, an deutsche Unternehmen vergeben, um unsere heimische Wirtschaft zu stärken. Wir haben mit SPARK eine Genehmigungsplattform, mit der wir im Bereich Infrastruktur – bei der Eisenbahn, bei Brücken – Genehmigungszeiten schon jetzt mindestens halbieren können; in Zukunft noch deutlich mehr. Wir haben mit dem Agentic AI Hub gerade mit neun Start-ups und 20 Kommunen ein Instrument gebaut. Damit wollen wir die Leistungen von Start-ups in Deutschland über alle Kommunen hinweg skalieren, um die Nutzung von Bürgerdiensten einfacher zu machen. Wir bauen das AI Safety Institute auf, um Kompetenz zu schaffen, um neue KI-Modelle besser zu beurteilen, um unsere Lösungen sicherer zu machen.
Frau Präsidentin! Sehr geehrte Damen und Herren! Technologische Souveränität im Bereich der KI ist ohne Zweifel eine zentrale Zukunftsfrage unserer Zeit. Europa darf nicht dauerhaft und einseitig abhängig sein von China oder den USA bei KI-Modellen, Daten, Cloud-Infrastrukturen, Chips oder Rechenpower. So weit, so richtig.
dass europäische Unternehmen, dass Forschung und Behörden KI-Modelle auf souveräner Infrastruktur trainieren können, ohne dass jeder Datensatz über Server läuft, auf die wir keinen Einfluss haben.
Nein, ich würde gern weitermachen. – Mit der souveränen Cloud schaffen wir die Basis für staatliches Handeln, und wir unterstützen die Entwicklung europäischer KI-Modelle und KI-Lösungen. Wie kraftvoll das wirkt, konnten Sie vor wenigen Tagen sehen: Aleph Alpha und Cohere, Kanadas führendes KI-Unternehmen, wachsen zu einem deutsch-kanadischen KI-Champion zusammen, mit der Schwarz-Gruppe als souveränem Infrastrukturpartner – Bewertung: rund 20 Milliarden US-Dollar. Das ist nicht Standortrhetorik, das ist Standortpolitik, die liefert, meine Damen und Herren.
Betrachten wir die aktuellen KI-Modelle. Diese haben ein Problem: Je länger die Anfrage, desto komplizierter die Verarbeitung, desto höher der Strombedarf. Deswegen plädiere ich dafür, dass wir genau hier einen Forschungsschwerpunkt setzen: Wie schaffen wir es, dass KI-Modelle effizienter arbeiten? Wir werden dieses Rennen im Bereich der KI am Ende des Tages nicht nur mit Geld oder Strom gewinnen, sondern wir brauchen auch kluge Köpfe. Dafür muss man Digitalpolitik verstehen. Das ist an dieser Stelle die Antwort auf Ihre Frage.
Nennen wir das Thema KI, dann gibt es noch einen zweiten Schwerpunkt, den wir die nächsten Jahre setzen müssen: Untrennbar mit dem Thema Digitalisierung verbunden ist das Thema IT-Sicherheit. Cyberangriffe sind längst keine theoretische Gefahr mehr. Sie treffen Krankenhäuser, sie treffen die Energieversorgung, Unternehmen und staatliche Infrastruktur. Zusätzlich stellt eben genau diese künstliche Intelligenz einen historischen Umbruch im Zeitalter der Cybersicherheit dar. KI-Modelle erkennen automatisiert Schwachstellen, die vermutlich in den meisten technischen Systemen, die mit dem Internet verbunden sind, vorhanden sind.
Und ich glaube, wir sollten auf das BSI hören. Das BSI sagt: Neue KI-Modelle sind eine Frage der nationalen Sicherheit. – Und wenn neue KI-Modelle eine Frage der nationalen Sicherheit sind, dann können wir darauf nur mit einer nationalen Kraftanstrengung reagieren. Deswegen werden wir den Fokus in den nächsten drei Jahren auf genau diesen Bereich, IT-Sicherheit, legen. Ich glaube, es braucht das BMI, es braucht das BMDS, auch das BMF und das Verteidigungsministerium. Wir müssen erkennen, dass diese Cyberangriffe längst keine theoretische Gefahr mehr sind. Ich glaube, wir brauchen 100 Milliarden Euro, verteilt auf die nächsten zehn Jahre, für digitale Sicherheit und eine resiliente Infrastruktur.
Die meisten KI-Modelle trainieren mit unseren Daten, aber die Gewinne machen die US-Riesen. Auch sind im letzten Jahr über 1 Milliarde Euro an Lizenzgebühren auf Bundesebene für Microsoft ausgegeben worden. Das sind unsere Baustellen, da müssen wir ansetzen.
Unser Ziel ist klar: Wir wollen die Kapazitäten deutlich ausbauen und insbesondere für die künstliche Intelligenz vervielfachen. Jedes neue Rechenzentrum stärkt unsere digitale Souveränität und Wettbewerbsfähigkeit. Gleichzeitig gehen wir den nächsten Schritt. Wir stärken gezielt deutsche und europäische Cloud-Anbieter, indem wir bessere Rahmenbedingungen schaffen, indem wir europäische Initiativen und Kooperationen vorantreiben und indem wir sicherstellen, dass sensible Daten, kritische Anwendungen und KI-Modelle auf Infrastrukturen laufen, die unseren Regeln folgen und nicht denen anderer.
Ich teile die Einschätzung, dass hier mehr hätte passieren müssen. Jetzt haben Sie gesagt, Sie analysieren und prüfen das. Aber was sind denn jetzt konkrete Maßnahmen, die Sie treffen, um die IT-Sicherheit der Bundesverwaltung sofort zu verbessern? Wir erleben, wie gesagt, eine Verschärfung der Cybersicherheitslage, auch durch den Einsatz von KI-Modellen. Das heißt, man müsste eigentlich nicht nur prüfen und analysieren, sondern auch direkt handeln.
Nicht zu erklären ist es aber, dass der wichtigste Punkt aus dem spanischen Modell – die Deeskalationshaft – im Gesetzentwurf zur Änderung des Gewaltschutzgesetzes einfach weggelassen wird. Die Deeskalationshaft wäre dringend erforderlich, um die Gewaltspirale schnell zu durchbrechen und Hochrisikotäter rechtzeitig aus dem Verkehr zu ziehen. Der Bundesrat hat vom Bund genau das gefordert. Daneben – und das ist der zweite Punkt – tun sich in unserem Strafrecht immer neue Lücken auf. Wenn sich in Europa mit KI-Modellen sexuelle Bilder und Missbrauchsvideo erstellen lassen, werden dadurch Frauen zu Opfern.
Jede technische Innovation hat ihre Grenzen, und Unternehmen, die KI-Modelle entwickeln, haben die Verantwortung, dass mit KI nicht immer neuer Missbrauch generiert werden kann. Nicht nur den Staat trifft eine Verantwortung, sondern auch die Unternehmen, die mit solchen Technologien unfassbaren Profit machen. Werden sie ihrer Verantwortung nicht gerecht, dann müssen wir mit unseren europäischen Partnern dafür sorgen, dass sie dafür haftbar gemacht werden. Auch hier ist der Bund im Kreise der Mitgliedstaaten der EU gefragt.
Ein handlungsfähiger Staat muss souverän sein; das klang schon in einigen Reden an. Unsere Behörden, von uns genutzte KI-Modelle und unsere kritische Infrastruktur sind – Stand heute – höchst abhängig von amerikanischen und chinesischen Konzernen. Über 70 Prozent des europäischen Cloud-Marktes kontrollieren drei US-amerikanische Anbieter. Das Ganze kommt mir bekannt vor. Beim russischen Gas haben wir auch über Jahre gesagt: Das funktioniert doch gut. Das ist günstig. Das kann man alles so lassen. – Und vor vier Jahren war plötzlich völlig klar, wie naiv diese Abhängigkeit war und wie teuer sie uns jetzt zustehen kommt. Eine ähnliche Situation riskieren wir jetzt noch einmal. Ich möchte nicht in vier Jahren hier stehen und rechtfertigen, warum wir so naiv waren und uns in der digitalen Infrastruktur in eine solche Abhängigkeit begeben haben, warum wir nicht rechtzeitig umgesteuert haben.
Mit ihm trainieren wir in Deutschland künftig riesige KI-Modelle, berechnen Klimaszenarien, entwickeln neue Medikamente, testen Energiesysteme und simulieren Werkstoffe für eine neue Mobilität. Und das tun wir nicht irgendwo, das tun wir hier in Europa, in Deutschland, bei uns in Nordrhein-Westfalen.