Fundstellen
Liebe Kollegen, die Grünen wollen nun das deutsche KI-Sicherheitsinstitut AISI zu einer leistungsfähigen, unabhängigen Prüfeinrichtung ausbauen – das nächste Institut mit Personal, mit Geld, mit permanentem Ressourcenverbrauch und schwer zu definierendem Output. Dieses Institut hat am 31. August seine Arbeit aufgenommen. Und, wissen Sie, was bemerkenswert an AISI ist? Es arbeitet offenbar, ohne buchhalterisch zu existieren. Unsere Fraktion hat die Bundesregierung konkret gefragt, wie diese Institution organisatorisch, personell und finanziell ausgestattet werden soll. Es gibt aber keine konkreten langfristigen Personal- und Finanzierungspläne, für die erste Phase keine gesondert ausgewiesenen Personalstellen, keine Angaben zu den Haushaltsmitteln der kommenden Jahre und nicht einmal eine erklärte Befugnis, den Zugang zu den zu untersuchenden KI-Modellen gegenüber den Anbietern auch durchzusetzen.
Wie auch? Wir spielen in der Liga der Frontier-Modelle absolut keine Rolle. Wir sprechen hier über eine der bedeutendsten Sicherheitstechnologien unserer Zeit, und die Bundesregierung eröffnet ein KI-Sicherheitsinstitut, ohne dem Parlament eine langfristige Personal- und Finanzierungsplanung vorzulegen. Liebe Kollegen, wie soll dieses Institut mit den führenden KI-Laboren der Welt Schritt halten, wenn die Bundesregierung noch nicht einmal den Umfang und die Ausstattung konkret beziffern kann?
Was tun wir, um die Sicherheit an dieser Stelle nach vorne zu stellen? Wir haben das deutsche KI-Sicherheitsinstitut, das AISI Deutschland, gegründet, das seinen Dienst bereits aufgenommen hat und das wir jetzt hochskalieren zu einer Institution, die mit vielen Wissenschaftlern Verständnis von KI erzeugt und am Ende auch Mechanismen entwickelt. – Wir haben eine Kooperation mit Kanada beschlossen. Wir werden bis zu 100 Millionen Euro in das Institut LawZero investieren, das erstmalig außerhalb von Kanada einen Sitz hat, von dem weltweit am meisten zitierten Forscher Professor Yoshua Bengio. – Wir setzen uns dafür ein, dass wir für das Thema KI eine internationale Governance bekommen; denn es hilft nichts, wenn wir Regeln in Deutschland oder Europa beschließen, die Systeme aber in den USA und in China entwickelt werden. – Das zum Teil „Wie mitigieren wir die Risiken?“.
Aber was ich sehr konkret mache – das ist besonders wichtig; denn das Thema zeigt auch, welche Abhängigkeit wir mittlerweile haben –: Ich kämpfe auch sehr dafür, dass wir eigene Modelle mit Sicherheitsstandards bauen, dass wir jetzt ein KI-Sicherheitsinstitut mit Toppersonal in die Umsetzung bekommen und dass wir eben auch in die Sicherheitsforschung, die wir in Deutschland auch nutzen können, mit internationalen Partnern einsteigen. Ich glaube, das ist ein ganz wichtiges Signal; denn wir sind handlungsfähig in Deutschland, und der beste Schutz ist, die eigene Handlungsfähigkeit sicherzustellen.
Erstens. Wir brauchen eine starke Aufsicht. Aber glücklicherweise entsteht die ja gerade. Seit Ende Juli haben wir das nationale Durchführungsgesetz für den europäischen AI Act. Die Bundesnetzagentur ist mittlerweile KI-Marktüberwachungsbehörde. Und seit September haben wir bei mir im schönen Berlin auch das AISI Germany, also das KI-Sicherheitsinstitut, wo Kolleginnen und Kollegen daran arbeiten, KI-Systeme, besonders die leistungsfähigen, zu kontrollieren.
Erstens. Wir haben es bereits gehört: Wir haben das KI-Sicherheitsinstitut des Bundes. Ich hätte es lieber in Darmstadt angesiedelt. Aber willkommen in Berlin!
Erstens: das KI-Sicherheitsinstitut. Es ist richtig, dass wir ein solches Institut jetzt einrichten und damit sicherheitsrelevante Gefahren und Missbrauchspotenzial moderner KI-Modelle künftig frühzeitig identifizieren. 24 Millionen Euro sind dafür vorgesehen. Herr Minister, wir werden den Aufbau weiterhin gerne begleiten.