Fundstellen
Wie auch? Wir spielen in der Liga der Frontier-Modelle absolut keine Rolle. Wir sprechen hier über eine der bedeutendsten Sicherheitstechnologien unserer Zeit, und die Bundesregierung eröffnet ein KI-Sicherheitsinstitut, ohne dem Parlament eine langfristige Personal- und Finanzierungsplanung vorzulegen. Liebe Kollegen, wie soll dieses Institut mit den führenden KI-Laboren der Welt Schritt halten, wenn die Bundesregierung noch nicht einmal den Umfang und die Ausstattung konkret beziffern kann?
Zweitens. Wer Systeme entwickelt, die eigenständig handeln, Sicherheitsgrenzen umgehen und unseren öffentlichen Diskurs prägen, der muss auch die Verantwortung dafür tragen. Gründliche Sicherheitsprüfungen kosten Geld. Aber die Unternehmen müssen dieses Geld in die Hand nehmen. Externe Aufsicht muss bei allen KI-Laboren zum Standard werden. Bei Anthropic schauen aktuell bereits externe Berater den Programmierern über die Schulter. Zukünftig sollten diese externen Aufsichten jedoch neutral finanziert werden, aber nicht durch Steuergelder, sondern durch eine Abgabe der Unternehmen.
Was gilt es konkret zu tun? KI-Labore müssen zukünftig gänzlich anders als bisher kontrolliert werden. Wir brauchen eine Beweislastumkehr, und wir müssen wieder durchsetzen, was selbstverständlich ist, nämlich: Wer nicht garantieren kann, dass seine Systeme keine massiv negativen Auswirkungen auf unsere Gesellschaft und ihre Menschen haben, der darf sie nicht an den Start bringen. Das ist eine Selbstverständlichkeit.