Zum Inhalt springen
plenarprotokolle.de

Filter

Kammer
Fraktion / Land
Erkannte Entität · Thema KI-Agent
23
Nennungen
11
Sprecher:innen
7
Sitzungen
Thema-Seite öffnen
17 Treffer in 6 Sitzungen für „KI-Agent“
Verlauf von „KI-Agent“ ansehen
  1. Frau Ministerin Bär, im Forschungsausschuss gab es – das wurde ja eben schon gesagt – ein öffentliches Fachgespräch gerade zu dem Thema „Autonome KI-Agenten“. Und der Kollege Schröder hat es eben gesagt: In England gab es genau diese Warnsignale, dass sich die KI-Agenten verselbstständigen

  2. RJ Robin Jünger AfD

    Stellen wir uns einen mittelständischen Betrieb vor. Dort übernimmt schon seit Langem ein KI-Agent die Bearbeitung eingehender E-Mails, und er hat Zugriff auf interne Kundendaten. Der Angreifer schickt diesem Unternehmen eine manipulierte E-Mail. Darin befindet sich eine versteckte Anweisung an diesen KI

  3. löscht sie die Menschheit aus.“ Zitat Ende. Mit diesen Worten warnte jüngst ein ehemaliger OpenAI-Mitarbeiter vor den aktuellen Risiken entfesselter KI-Agenten. Völlig unbestritten: KI bietet große Chancen. Das ist ein Riesenthema für die Wirtschaft, keine Frage. Es gibt tolle neue digitale Möglichkeiten. Aber

  4. RR Ruben Rupp AfD

    Aber diese großen, leistungsfähigen KI-Modelle und KI-Agenten kommen eben nicht aus Deutschland, sondern vor allem von US-Unternehmen: OpenAI mit ChatGPT, Google DeepMind mit Gemini, Anthropic mit Claude. Und man muss es deutlich sagen: Es ist Ihr Versagen als Regierung, gemeinsam

  5. RB Ralph Brinkhaus CDU/CSU

    wahnsinnige Auswirkungen auf unsere Gesellschaft, auf die Art und Weise, wie wir leben. Es geht eben nicht nur darum, dass sich KI-Agenten selbstständig machen, dass KI Dinge tut, die wir nicht mehr verstehen – denn auch das gehört zur Wahrheit dazu, meine Damen und Herren

  6. TP Dr. Thomas Pauls CDU/CSU

    gibt auch andere Meldungen: KI-Agenten, die Sicherheitsvorkehrungen umgangen haben, oder auch führende KI-Entwickler, die dazu aufrufen, das Entwicklungstempo zu drosseln. Auch wenn ich nicht sicher bin, wie viel Marketing gerade hinter diesen letzten Aufrufen steckt: Selbstverständlich gibt es Sicherheitsfragen. Aber die Bundesregierung handelt

  7. RL Rebecca Lenhard Grüne

    Herr Minister, bei einem Test von OpenAI haben KI-Agenten unter anderem in Australien einen Sicherheitsvorfall ausgelöst. Das KI-System konnte dabei auch auf das dortige Regierungsportal zugreifen. Auf die Frage, ob auch deutsche Behördensysteme betroffen waren und ob Sie von den Unternehmen dazu bereits

  8. TJ Thomas Jarzombek Parl. Staatssekretär BMDS

    will aber dazusagen, dass am Ende die Gefahren, die wir jetzt gerade sehr konkret sehen, nämlich dass KI-Agenten ausbrechen – man liest ja täglich davon – und andere KI-Systeme kompromittieren, natürlich auch ein Thema ist, das Haftungsfragen aufwirft. Das ist auch erst mal ein guter

  9. zwar keine Ja/Nein-Frage, wurde aber trotzdem nicht beantwortet; vielleicht aber die Nachfrage. Frau Ministerin, bei britischen Sicherheitstests mit gelockerten Schutzvorkehrungen haben KI-Agenten eigenmächtig versucht, schädlichen Programmcode in öffentlich genutzte Software einzuschleusen. Wer eine KI fördert, die selbstständig handelt – und das tut auch Ihr Haus

  10. RL Rebecca Lenhard Grüne

    verantwortungsloses Rennen rund um die stärkste KI der Welt bleibt nicht folgenlos. Im letzten Sommer sind über 1 000 KI-Agenten der Firma OpenAI aus ihren Testumgebungen ausgebrochen und haben ohne menschliche Anweisung fremde Systeme angegriffen, darunter Unternehmen, aber auch eine Regierung

  11. Doch die Risiken von KI reichen viel weiter – in ihrem Antrag nennen die Grünen auch viele wichtige Punkte –: KI-Agenten sind bei Sicherheitstests vorgesehene Grenzen umgangen, haben unerlaubt auf das Internet zugegriffen und sich Zugang zu anderen Systemen verschafft. Schon heute wird KI für Cyberangriffe

  12. RR Ruben Rupp AfD

    Während andere in den USA oder in China die technologische Zukunft mit Frontier-Modellen und KI-Agenten bauen, diskutieren wir in Deutschland über Regulierung und Verbote, und das, obwohl wir in ganz Europa noch kein einzig wirklich vergleichbar leistungsfähiges KI-Frontier-Modell haben

  13. RJ Robin Jünger AfD

    können. Das mag ja sinnvoll sein. Aber ein sogenannter Not-Aus-Schalter allein löst doch das Problem nicht. Wenn ein KI-Agent bereits vertrauliche Unternehmensdaten an ein fremdes System übertragen hat, dann bringt es wenig, ihn im Nachhinein abzuschalten. Die Daten sind längst weg. Deshalb

  14. RJ Robin Jünger AfD

    real. Aber wir müssen verstehen, wo sie tatsächlich entstehen. Ein Sprachmodell, das einen Text zusammenfasst, ist etwas völlig anderes als ein KI-Agent, der selbstständig E-Mails verschickt, Datenbanken ausliest und sich selbstständig durch IT-Strukturen bewegt. Und genau darin liegt Ihr Verständnisproblem. Nicht

  15. Derzeit erleben wir, dass praktisch über Nacht Bereiche entstehen, bei denen aus diffusen sehr reale Bedrohungslagen werden. KI-Agenten missachten Befehle, umgehen Sicherheitsvorkehrungen und nisten sich als Schläfer in digitale Systeme ein. Man erfährt von völlig unzureichenden Sicherheitsvorkehrungen der Unternehmen, von Weitergabe der Tools

  16. Bundestag 21/91 08.09.2026 ·Einzelplan 2: Einzelplan 24

    Allein der Blick auf die heutigen Schlagzeilen zeigt, wie einschneidend, wie rasant die Veränderungen sind: Wie konnten KI-Agenten von OpenAI aus der eigenen Testumgebung ausbrechen? Anthropic hält Mythos erneut zurück! Neue Daten der Berliner Senatsverwaltung veröffentlicht! – Daher ist es gut, dass das Digitalministerium einen

  17. TJ Thomas Jarzombek Parl. Staatssekretär beim Bundesminister für Digitales und …

    Beispiel: Das Ganze ist im Werden, und man muss lernen. Ich glaube, heute Morgen haben dabei zwei Parteien etwas gelernt: mein KI-Agent und ich. Wir werden das sicherlich besser machen in den nächsten Tagen