„KI-Agent“
- Nennungen
- 19
- Sitzungen
- 6 von 124
- Höchster Wert
- Bundestag 21/1091,33 je 10.000 Wörter
- Zuletzt
- Bundestag 21/10913.11.2026
Verlauf über die Sitzungen
Nennungen je 10.000 gesprochene Wörter – vergleichbar zwischen langen und kurzen Sitzungen
Nach Fraktion und Land
Wer sagt es am häufigsten?
Im selben Zusammenhang genannt
Neueste Fundstellen
Alle 17 →verantwortungsloses Rennen rund um die stärkste KI der Welt bleibt nicht folgenlos. Im letzten Sommer sind über 1 000 KI-Agenten der Firma OpenAI aus ihren Testumgebungen ausgebrochen und haben ohne menschliche Anweisung fremde Systeme angegriffen, darunter Unternehmen, aber auch
müssen verstehen, wo sie tatsächlich entstehen. Ein Sprachmodell, das einen Text zusammenfasst, ist etwas völlig anderes als ein KI-Agent, der selbstständig E-Mails verschickt, Datenbanken ausliest und sich selbstständig durch IT-Strukturen bewegt. Und genau darin liegt Ihr Verständnisproblem
Stellen wir uns einen mittelständischen Betrieb vor. Dort übernimmt schon seit Langem ein KI-Agent die Bearbeitung eingehender E-Mails, und er hat Zugriff auf interne Kundendaten. Der Angreifer schickt diesem Unternehmen eine manipulierte E-Mail. Darin befindet sich eine
sinnvoll sein. Aber ein sogenannter Not-Aus-Schalter allein löst doch das Problem nicht. Wenn ein KI-Agent bereits vertrauliche Unternehmensdaten an ein fremdes System übertragen hat, dann bringt es wenig, ihn im Nachhinein abzuschalten. Die Daten sind längst
Doch die Risiken von KI reichen viel weiter – in ihrem Antrag nennen die Grünen auch viele wichtige Punkte –: KI-Agenten sind bei Sicherheitstests vorgesehene Grenzen umgangen, haben unerlaubt auf das Internet zugegriffen und sich Zugang zu anderen Systemen verschafft. Schon
Herr Minister, bei einem Test von OpenAI haben KI-Agenten unter anderem in Australien einen Sicherheitsvorfall ausgelöst. Das KI-System konnte dabei auch auf das dortige Regierungsportal zugreifen. Auf die Frage, ob auch deutsche Behördensysteme betroffen waren
Ja/Nein-Frage, wurde aber trotzdem nicht beantwortet; vielleicht aber die Nachfrage. Frau Ministerin, bei britischen Sicherheitstests mit gelockerten Schutzvorkehrungen haben KI-Agenten eigenmächtig versucht, schädlichen Programmcode in öffentlich genutzte Software einzuschleusen. Wer eine KI fördert, die selbstständig handelt
Bär, im Forschungsausschuss gab es – das wurde ja eben schon gesagt – ein öffentliches Fachgespräch gerade zu dem Thema „Autonome KI-Agenten“. Und der Kollege Schröder hat es eben gesagt: In England gab es genau diese Warnsignale, dass sich die KI
will aber dazusagen, dass am Ende die Gefahren, die wir jetzt gerade sehr konkret sehen, nämlich dass KI-Agenten ausbrechen – man liest ja täglich davon – und andere KI-Systeme kompromittieren, natürlich auch ein Thema ist, das Haftungsfragen aufwirft
Während andere in den USA oder in China die technologische Zukunft mit Frontier-Modellen und KI-Agenten bauen, diskutieren wir in Deutschland über Regulierung und Verbote, und das, obwohl wir in ganz Europa noch kein einzig wirklich vergleichbar leistungsfähiges KI
Menschheit aus.“ Zitat Ende. Mit diesen Worten warnte jüngst ein ehemaliger OpenAI-Mitarbeiter vor den aktuellen Risiken entfesselter KI-Agenten. Völlig unbestritten: KI bietet große Chancen. Das ist ein Riesenthema für die Wirtschaft, keine Frage. Es gibt tolle neue digitale
Derzeit erleben wir, dass praktisch über Nacht Bereiche entstehen, bei denen aus diffusen sehr reale Bedrohungslagen werden. KI-Agenten missachten Befehle, umgehen Sicherheitsvorkehrungen und nisten sich als Schläfer in digitale Systeme ein. Man erfährt von völlig unzureichenden Sicherheitsvorkehrungen der Unternehmen
gibt auch andere Meldungen: KI-Agenten, die Sicherheitsvorkehrungen umgangen haben, oder auch führende KI-Entwickler, die dazu aufrufen, das Entwicklungstempo zu drosseln. Auch wenn ich nicht sicher bin, wie viel Marketing gerade hinter diesen letzten Aufrufen steckt: Selbstverständlich gibt
unsere Gesellschaft, auf die Art und Weise, wie wir leben. Es geht eben nicht nur darum, dass sich KI-Agenten selbstständig machen, dass KI Dinge tut, die wir nicht mehr verstehen – denn auch das gehört zur Wahrheit dazu, meine Damen
Allein der Blick auf die heutigen Schlagzeilen zeigt, wie einschneidend, wie rasant die Veränderungen sind: Wie konnten KI-Agenten von OpenAI aus der eigenen Testumgebung ausbrechen? Anthropic hält Mythos erneut zurück! Neue Daten der Berliner Senatsverwaltung veröffentlicht! – Daher
Aber diese großen, leistungsfähigen KI-Modelle und KI-Agenten kommen eben nicht aus Deutschland, sondern vor allem von US-Unternehmen: OpenAI mit ChatGPT, Google DeepMind mit Gemini, Anthropic mit Claude. Und man muss es deutlich sagen: Es ist Ihr Versagen
Ganze ist im Werden, und man muss lernen. Ich glaube, heute Morgen haben dabei zwei Parteien etwas gelernt: mein KI-Agent und ich. Wir werden das sicherlich besser machen in den nächsten Tagen