Protokoll
Technikfolgenabschätzung (TA)
Wir kommen zum Tagesordnungspunkt 26:
Ich bitte um zügigen Sitzplatzwechsel.
Für die Aussprache ist eine Dauer von 39 Minuten vereinbart.
Da alle halbwegs sitzen, eröffne ich die Aussprache, und Erhard Grundl – er steht bereit – darf für Bündnis 90/Die Grünen beginnen.
Frau Präsidentin! Meine Damen und Herren! Ich zitiere: Wir befinden uns in einer Zeit, in der Algorithmen unser tägliches Leben beeinflussen. Sie beeinflussen, was wir kaufen, was wir sehen, was wir lesen und was wir denken. Aber wie wirken sich diese Algorithmen auf die öffentliche Meinungsbildung aus? – Diese einleitenden Worte und diese Frage sind von ChatGPT. Dabei erfindet die KI nicht selbst, sondern sie spiegelt die aktuelle gesellschaftliche Debatte im Netz wider, hier eben die Debatte über sich selbst.
Circa 65 Prozent der Deutschen schauen, lesen, hören Nachrichten auch im Internet. Für 46 Prozent der 18- bis 24-Jährigen ist das Internet inzwischen die einzige Quelle von Informationen über das Weltgeschehen. Von 55 Prozent der Menschen – ich bin gleich fertig mit den Zahlen – werden redaktionell erarbeitete Seiten genutzt, wie „Spiegel Online“ oder „Zeit Online“. Oder eben Suchmaschinen und Facebook, die mit Algorithmen eine Nachrichtenselektion vornehmen. Algorithmen können also eine wichtige Funktion für den Zugang zu Nachrichten haben – Tendenz steigend.
In einer immer komplexer werdenden Welt kann künstliche Intelligenz große Datenmengen filtern, priorisieren und Zusammenhänge herstellen. Sie kann Dinge vereinfachen, sie kann aber auch, wie aktuell in Russland, das Netz nach kritischen Kommentaren oder Protestaufrufen durchforsten und diese herausfiltern. „Sauberes Internet“ wird das dann genannt.
Die Priorisierung nach Klicks führt dazu, dass schrille Beiträge im Newsfeed nach oben geschwemmt werden. Das führt nicht zu Ausgewogenheit, sondern zu Skandalisierung und Verhetzung. Algorithmen können damit zur Verbreitung von Desinformationen beitragen.
Als Kulturpolitiker füge ich an: Nach einem Bericht von „digital pioneers“ können Musiklabels in Zukunft Einfluss auf die Spotify-Algorithmen nehmen. Was Ihnen dann zum Anhören empfohlen wird, orientiert sich primär an wirtschaftlichen Interessen. Das passiert auch heute schon. Diese Einflussnahme – und das ist nur ein Beispiel – dürfen wir gerade im Hinblick auf den Erhalt einer vielfältigen Kulturlandschaft nicht akzeptieren.
Es stellen sich die Fragen: Welche Daten hat ChatGPT eigentlich genutzt, um die Einleitung zu produzieren? Nach welchen Kriterien werden Informationen vom Algorithmus sortiert? Welche Ziele verfolgen die Macher/‑innen mit der Festlegung dieser Kriterien? Was lassen sie weg? Und schließlich: Wer sind die Geldgeber/-innen des Unternehmens? Vieles davon ist unklar, und das ist ein Problem. Wir wissen zu wenig über die Kriterien und Quellen der Algorithmen. Damit entstehen Handlungsräume für Manipulationen.
Was wir brauchen, um Manipulationen entgegenzuwirken, ist eine demokratische Mitbestimmung über Algorithmen. Das ist allerdings voraussetzungsvoll, so das Fazit des Gutachtens. Wer kein Wissen über die Strukturen hinter den Algorithmen hat, kann sie nicht mitbestimmen. Darum, die Selbstbestimmtheit der Nutzer/-innen zu stärken, muss es aber gehen.
Algorithmen können eine Chance sein, Informationen schneller, niedrigschwellig, demokratischer und selbstbestimmter zugänglich zu machen. Das kann gelingen, wenn sie demokratischer Kontrolle unterliegen, und dafür müssen wir sorgen.
Vielen Dank.
Als Nächstes erhält das Wort für die CDU/CSU-Fraktion Dr. Christiane Schenderlein.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Filterblasen, Echokammern und zunehmende Polarisierung der öffentlichen Meinung sind laut medialen Debatten Folgeerscheinungen der wachsenden Nutzung des Internets und der sozialen Medien als primäre Informationsquellen. Uns allen sind die Onlinekampagnen in Großbritannien, die letztlich zum Brexit geführt haben, im Gedächtnis geblieben. Die Radikalisierung mehrerer Hundert Menschen im Jahr 2021, die den Sturm auf das Kapitol in Washington verübten, begann in sozialen Netzwerken, und auch Kräfte aus diesem Hohen Haus nutzen die Onlinemedien und ‑dienste, um unsere Gesellschaft weiter zu polarisieren und zu fragmentieren.
Der hier vorliegende Bericht zur Technikfolgenabschätzung – „Algorithmen in digitalen Medien und ihr Einfluss auf die Meinungsbildung“ – analysiert ein Phänomen, das die Medienlandschaft in den vergangenen Jahren tiefgreifend verändert hat. Algorithmen spielen aufgrund der Flut an Informationen in den digitalen Medien eine immer größere Rolle und haben einen bedeutenden Einfluss auf die Meinungsbildung. Sie bestimmen, welche Informationen und Inhalte wir sehen und welche nicht. Sie beeinflussen unsere Entscheidungen, Vorlieben und Überzeugungen auf subtile Weise.
Der vorliegende Bericht fokussiert sich insbesondere auf die Bedeutung von Informationsintermediären. Das sind Dienste, die durch Selektion, Aufbereitung und Präsentation Aufmerksamkeit für Inhalte generieren. Das geschieht unabhängig davon, ob es sich dabei um eigene oder fremde Inhalte handelt. Bekannte Intermediäre sind Suchmaschinen und soziale Netzwerke. Obwohl das Thema bereits seit mehreren Jahren umfangreich medial diskutiert wird, zeigt sich hier: Das Phänomen ist noch nicht ausreichend erforscht, und es bedarf weiterer Daten.
Betont werden muss: Eine Selektion durch Algorithmen ist nicht per se auf eine Manipulation ausgelegt. Aus Betreibersicht ist ihr Einsatz nachvollziehbar. Sie verlängern in der Regel die Verweildauer der Nutzer und unterstützen dabei, individuell zugeschnittene Angebote zu unterbreiten. Auch Nutzer können von einer algorithmischen Selektion profitieren. Neue Informationen, Perspektiven und der Zugang zu Nischenthemen können durch eine selektive Aufarbeitung erschlossen werden. Entgegen der eingangs beschriebenen Annahme können Publikumsrelevanz von bisher wenig beachteten Themen und ein Einblick in das Meinungsklima auch außerhalb des eigenen Umfeldes erzeugt werden. Während die geschilderten Risiken und Probleme in der öffentlichen Debatte oftmals omnipräsent sind, werden die Chancen und Vorteile häufig vernachlässigt.
Der zweite wesentliche Aspekt ist, dass die Untersuchungen zeigen: Die individuellen Nutzerpräferenzen haben einen deutlich stärkeren Effekt auf die Meinungsbildung als die algorithmische Personalisierung von Informationsangeboten. Vereinfacht gesagt: Meine persönlichen Kontakte, meine Präferenzen spiegeln sich auch in meiner Meinungsbildung im Netz wider.
Dennoch leiten sich aus dem Bericht verschiedene Handlungsfelder für die Politik ab.
Erstens. Die aktuellen Medienstaatsverträge decken das Problem nicht ausreichend ab.
Zweitens. Es bedarf einer Bewusstseinsstärkung der Nutzer, dass ihnen unterbreitete Vorschläge einer algorithmischen Selektion unterliegen. Neben einer Stärkung der Medienkompetenz können hierfür verpflichtende Hinweise nötig sein.
Drittens. Es muss eine Möglichkeit zur Abkehr von personalisiertem Content hin zu ungefilterten Inhalten geben.
Für mehr Transparenz und Akzeptanz können Informationsintermediäre die Algorithmen für ihre Vorschläge auch veröffentlichen, zum Beispiel in einer Mediathek. Insbesondere im Bereich von nichtwerbefinanzierten Angeboten wie dem öffentlich-rechtlichen Rundfunkt sollte das als Chance verstanden werden.
Abschließend: Unser Ziel als CDU/CSU-Bundestagsfraktion ist es, die Spaltung und Polarisierung unserer Gesellschaft zu stoppen und ihr entschieden entgegenzutreten. Dazu kann eine Reglementierung von Algorithmen in digitalen Medien ein Schritt sein. Wir sind bereit, jeden Beitrag zum Kampf gegen Fake News, Manipulation und Desinformation zu leisten.
Es folgt Daniel Schneider für die SPD-Fraktion.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Meine Damen und Herren! Meinungsbildung ist in der Demokratie grundlegend wichtig. Doch unser Informationsverhalten und unsere Kommunikation haben sich in den letzten Jahrzehnten fundamental verändert.
Soziale Netzwerke stehen nun im Mittelpunkt der Mediennutzung, vor allem bei jungen Menschen aufgrund ihrer hohen Social-Media-Affinität. Die Macht einiger weniger „Torwächter“ ist einfach gigantisch, und es stellt sich die Frage, wie fremdgesteuert wir eigentlich schon in unserem alltäglichen Meinungsbildungsprozess sind.
Welche negativen Folgen haben die algorithmischen Verfahren auf unser demokratisches System, das wir mehr denn je schützen wollen? Viele sind uns schon bekannt: Filterblasen, Echokammern, Polarisierung, Desinformation, Hassrede, Diskriminierung, Manipulation. Wir befinden uns an einem Wendepunkt, und genau jetzt wollen wir die richtigen Rahmenbedingungen für eine freie Medienlandschaft garantieren, die Demokratisierung des digitalen Raumes, aber auch unsere digitale Souveränität voranbringen. Da ist es sehr gut und auch wirklich wichtig, dass wir nun diesen umfangreichen und überaus spannenden Bericht diskutieren können. Vielen Dank allen beteiligten Personen für diese fundierten Erkenntnisse!
Fast alle über 14-Jährigen in Deutschland nutzen laut Bericht täglich das Internet, im Durchschnitt 3,5 Stunden. Bei den jungen Menschen sind es sogar 6,5 Stunden, ist es also mehr als ein Viertel des gesamten Tages. Mehr als die Hälfte der jungen Erwachsenen nutzen soziale Medien – auch das haben wir gerade schon gehört – als wichtigste Nachrichtenquelle. Das heißt, tagesaktuelle Informationen erscheinen ihnen fast ausschließlich online, über Google, Facebook, Twitter, Tiktok, Youtube in unendlichen und personalisierten Timelines und Newsfeeds.
Genau da kommen die Algorithmen ins Spiel. Sie bestimmen, was wem wann wie wo angezeigt wird oder eben auch nicht. Wir wissen, dass es Algorithmen gibt, die Inhalte auf Grundlage unseres eigenen Nutzungsverhaltens selektieren, und solche, die Inhalte auf der Grundlage des Nutzungsverhaltens anderer Personen des gleichen Alters, Geschlechts oder der Sozialstruktur selektieren. Wir wissen auch von Algorithmen, die voll auf Reaktionen und Reichweite abzielen und so zum Beispiel wutgeladene Inhalte bevorzugen.
Die Kriterien, nach denen Algorithmen die Inhalte auswählen, sind selten transparent und auch für Fachleute und Entwicklerinnen und Entwickler manchmal in ihrer Ergebnisfindung nicht mehr nachvollziehbar. Das wollen wir ändern, und wir wollen unsachgemäße Einflussnahme auf die Meinungsbildung verhindern, mehr Transparenz und Datenzugang schaffen und umfassende Forschungsaktivitäten fördern. Es geht uns um Überprüfbarkeit und ein gutes Monitoring. Schließlich sollen und wollen die Menschen in unserem Land doch einfach gut über so wichtige Aspekte des Alltags informiert sein.
Angesichts des enormen Einflusses der großen Plattformen auf den Meinungsbildungsprozess müssen wir die negativen Auswirkungen der algorithmischen Systeme abfedern. Wir wollen uns da nicht zurücklehnen und nur auf die Umsetzung europäischer Regelungen wie etwa des DSA oder der KI-Verordnung warten. Nein, wir wollen gleichzeitig aktiv werden und Rahmenbedingungen schaffen, damit sich die großen Plattformen wieder mehr in unserem demokratischen Sinne weiterentwickeln und auch neue Plattformen entstehen können.
Lassen Sie uns mal über die Nutzung und Förderung von dezentralen open-source-basierten, nichtkommerziellen Alternativen und über die Koordination und Vernetzung einzelner Initiativen sprechen. Und lassen Sie uns auch darüber diskutieren, wie wir mit den richtigen Bildungsprogrammen die heute so wichtigen digitalen Medienkompetenzen vermitteln.
Herzlichen Dank.
Nächster Redner ist Martin Erwin Renner für die AfD-Fraktion.
Sehr geehrtes Präsidium! Wir sprechen heute über Algorithmen in digitalen Medien und ihren Einfluss auf die Meinungsbildung, so jedenfalls der Titel des zugrunde liegenden Dokuments. Tatsächlich sprechen wir doch über den Kampf um die öffentliche Meinungsbildung.
Das Internet steht oft im Widerspruch zu den zeitgeistigen, opportunistischen und regierungsnahen Medien
und begegnet diesen Medien mit Informationsvielfalt, lebendigem Meinungsaustausch und offenem Diskurs der mündigen Bürger. Und ja, dieser Diskurs findet auf den algorithmenbasierten Social-Media-Plattformen statt.
Freier Informationsfluss, freie Kommunikation und freie Meinungsbildung sind den Herrschenden und Mächtigen schon immer ein Dorn im Auge gewesen.
Das war schon bei der Erfindung des Buchdrucks der Fall. Vor diesem Hintergrund wird das Internet jetzt als Hort des vermeintlich Bösen ausgemacht,
als Wirkstätte scheinbar demokratischer Gespenster,
die „Desinformation“, „Polarisierung“, „Filterblase“, „Echokammer“ und „Hass und Hetze“ genannt werden, böse Algorithmen, welche den Ahnungslosen und den Unwissenden automatisch in die Arme regierungskritischer und deshalb garstiger Zeitgenossen treiben.
Was sagt der vorliegende Bericht zu all diesen behaupteten Missständen? In dem Bericht steht sehr, sehr oft: Indizien, empirisch nicht belegt, eher theoretischer Natur, unzureichende Datenlage usw. usf. Meinen Lieblingssatz in diesem Bericht zitiere ich hier:
…, zugleich scheint aber der intervenierende Effekt des Bildungsstandes relevant zu sein, da Polarisierungseffekte nur unter der Bedingung niedriger formaler Bildung nachzuweisen sind.
Man braucht den Blick doch nur nach links der AfD-Fraktion und auch auf die Regierungsbank zu richten. Wer würde sich da nicht lieber einen ordentlich programmierten Algorithmus wünschen?
Sie beweisen doch jeden Tag, was Sie von demokratischer Meinungsbildung und Meinungsvielfalt halten. Es geht Ihnen doch nicht um Meinungsvielfalt. Ihnen geht es doch nur um Erzwingung der eigenen Meinungseinfalt, und das jetzt auch im Netz. Schauen Sie doch nur auf die dubiosen Faktenchecker im Internet, die sich täglich bis auf die Knochen blamieren.
Aus unserer Sicht sind zwei Grundannahmen im vorliegenden Bericht grundlegend falsch:
Erstens. In der Demokratie ist jeder Bürger per se mündig und befähigt. Der Bürger ist eben kein hilfloses Mündel, dem man die richtigen Informationen und die richtige Meinung einflößen muss.
Und Spaß mache ich jetzt gerade. Na ja, es gibt schon auch Ausnahmen. Mancher wählt auch Links-Grün in Regierungsverantwortung. Daran sieht man doch auch, was die klassischen Medien anrichten können.
Zweitens. Wir verlangen absolut den im Bericht behaupteten wahrheitsministerialen Status der Mainstream-Medien.
Ob nun Algorithmus oder ideologiegesättigter Haltungsjournalismus, ja, beiden wohnt ein starkes Potenzial zur Manipulation der öffentlichen Meinung inne. Nur vollständige Transparenz und nichtstaatliche Aufsicht und Kontrolle können hier Abhilfe schaffen. Weder der Staat noch gewinnorientierte Konzerne noch interessengeleitete NGOs dürfen einen monopolistischen und damit dominierenden Einfluss auf die öffentliche Meinungsbildung gewinnen.
Das gilt sowohl im analogen wie im digitalen Bereich.
Danke schön. Ich wünsche Ihnen ein schönes Wochenende.
Nächster Redner ist Thomas Hacker für die FDP-Fraktion.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Nach der spaßigen Büttenrede – zumindest dem Redner hat sie Spaß gemacht –
kommen wir zum Bericht des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung, und dieser sollte Pflichtlektüre für uns alle werden.
Er dokumentiert das brisante Spannungsverhältnis, in dem sich digitale Medien, digitaler Journalismus und damit unsere Demokratie heute befinden.
Und doch hat der technologische Fortschritt diesen Bericht schon längst wieder überholt. Die Frage nach der Gatekeeper-Funktion von Informationsintermediären bei der Vermittlung von Medieninhalten bleibt weiter relevant, doch sie hat eine neue Stufe erreicht. Die riesige weltweite Aufmerksamkeit um das KI-Tool ChatGPT ist nur der Beginn einer Zukunft, die wir heute nur ansatzweise erahnen können. Die denkbaren Einsatzmöglichkeiten scheinen unbegrenzt. Künstliche Intelligenz, Algorithmen, Journalismus und andere disruptive Technologien werden die freie Meinungsbildung künftig noch entscheidender beeinflussen und steuern.
Die entscheidende Frage, die wir uns als Demokraten stellen müssen, ist doch: Wie gewährleisten wir künftig die notwendige Technologieoffenheit, ohne Pressefreiheit und Informationsvielfalt und damit die freie Meinungsbildung weiter zu gefährden? Genau diese Gefährdung findet doch heute schon statt. Bereits 2018 stellte die chinesische Nachrichtenagentur Xinhua einen virtuellen Nachrichtensprecher vor, der sich durch Datensammeln permanent weiterentwickelt. Die „SZ“ titelte damals treffend: „Der gefügigste Nachrichtensprecher der Welt“. Das war aber nur der Anfang in einem Land, das bis 2030 die weltweit führende KI-Nation sein will.
Mikrotargeting, Social Bots, Trollfabriken sind eine gefährliche Ergänzung in einer global vernetzten Welt, im Wettbewerb der Meinungshoheit, im Wettstreit der Systeme. Unsere Aufgabe ist es jetzt, gemeinsam in Europa die richtige Balance zwischen algorithmischer Logik und redaktioneller Autonomie zu finden. Fragen der journalistischen Ethik rücken in den Vordergrund: Wer übernimmt die rechtliche Verantwortung für falsche automatisierte Nachrichten? Braucht es eine Kennzeichnungspflicht für automatisch generierte Informationen? Wie schaffen wir es, Filterblasen und Echokammern zu durchbrechen, um Menschen mit vielfältigen Perspektiven auf unserer Welt zu erreichen?
Dafür braucht es auf europäischer Ebene eine einheitliche Linie, auch mit den großen Plattformen und internationalen Medienkonzernen. Unser Ziel muss es doch sein, dass wir als Gesellschaft im Austausch bleiben, Meinungsvielfalt erhalten und die weitere Fragmentierung unserer Gesellschaft durch Fake News und Filterblasen stoppen.
Liebe Kolleginnen und Kollegen, der vorliegende Bericht bilanziert sehr klug: Es geht um die richtigen medienrechtlichen Rahmen. Es geht aber auch um mehr. Wir brauchen stärkere digitale Medienkompetenz, ein sensibleres Bewusstsein für die Herausforderungen durch neuartige Formen der Einflussnahme. Erst dann schaffen wir die notwendige Widerstandsfähigkeit unserer Gesellschaft.
Vielen Dank.
Frau Präsidentin! Meine Damen und Herren! Ja, in der Tat: Der vorliegende Bericht des Büros für Technikfolgenabschätzung zu Algorithmen in digitalen Medien greift ein wichtiges Thema auf; war ja auch ein Auftrag aus dem Bundestag. Er vertieft und bestätigt zugleich vieles, womit wir uns in der Projektgruppe „KI und Medien“ der Enquete-Kommission „Künstliche Intelligenz“ in der letzten Wahlperiode schon sehr aufwendig und umfänglich beschäftigt haben. Wir haben ja damals genau diese Fragen über verschiedene Projektgruppen hinweg untersucht.
Lassen Sie mich einige aus meiner Sicht zentrale Schlüsse ziehen; da kann ich auch an den ein oder anderen Redner hier sehr gut anschließen.
Erstens. Es gibt – dies stellt der Bericht ausdrücklich fest – weiteren Forschungsbedarf über die Wirkung von Algorithmen auf die Meinungsbildung. Aber hier brauchen wir vor allem besseren Zugang für die Wissenschaft zu Daten der Plattformen. Dazu gibt es im Digital Services Act, der EU-Verordnung über die Pflichten digitaler Dienste, die ja gerade in Umsetzung und Diskussion ist, erste, aber eben nicht hinreichende Ansätze.
Zweitens. Soviel man hier über die Wirkung von Algorithmen diskutieren kann: Die Hauptursache unserer Probleme ist kein Rätsel. Wir haben zentrale Rollen im Medienwandel profitorientierten Monopolisten überlassen, und dementsprechend sieht auch die Medienlandschaft aus. Hier müssen wir gegensteuern.
Das bedeutet drittens – Herr Grundl hat es vorhin auch schon ausgeführt – Regulierung, und auch hier sind Anfänge gemacht. Wie das in der Praxis wirkt, das muss sich zeigen, das muss aber eben auch weiter untersucht werden. Klar ist: Die großen Plattformmonopole müssen in ihre Schranken verwiesen werden.
Objektive und wahrheitsgemäße Berichterstattung sollen Meinungsbildung grundieren. Klar ist ebenso: Regulierung darf nun wiederum nicht dazu führen, dass sich der Staat zum obersten Medienkontrolleur selbst ernennt.
Nicht zuletzt deshalb sollten wir, statt nur Bestehendes zu regulieren, viertens auch neue demokratische Ansätze und Alternativen stärken.
So ist zum Beispiel – da gebe ich der Kollegin vollkommen recht; ich weiß jetzt gar nicht genau, wer es gesagt hat – die Definition des digitalen Auftrags des öffentlich-rechtlichen Rundfunks überfällig. Damit entstünden gerade in Zeiten der Vertrauenskrisen neue Möglichkeiten der Mitsprache, der Mitbestimmung, also neue Chancen. Und dezentrale nichtkommerzielle Modelle wie Mastodon
bieten attraktive Zukunftsvisionen als Kommunikationsplattformen, die eben nicht den durchgeknallten Launen von irgendwelchen Milliardären ausgeliefert sind.
Schließlich: Wir müssen auch die weitere technische Entwicklung kontinuierlich beobachten und darauf reagieren.
– Ja, das Kompetenzzentrum spricht, ich weiß.
Derzeit sind Sprachmodelle wie ChatGPT in aller Munde. Bereits die KI-Enquete-Kommission hat klar gesagt: Hier braucht es eine Kennzeichnungspflicht bei automatisiert erstellten Texten. Gut so, dass das Büro für Technikfolgenabschätzung in diesen Tagen auch ein Konzept vorgelegt hat, wie wir hier in unserer Diskussion mit ChatGPT weiter umgehen können.
Kommen Sie bitte zum Schluss.
Jawoll. – Hier wie anderswo gilt für Medienpolitik: Wenn es technologische Entwicklungen gibt, dann muss sich der Bundestag auch –
Frau Kollegin.
– in technologischen Fragen selbst qualifizieren. Das gilt auch für Herrn Renner.
Als Nächste erhält Tabea Rößner für Bündnis 90/Die Grünen das Wort.
Frau Präsidentin! Meine Damen und Herren! ChatGPT bekommt gerade große Aufmerksamkeit. Auch ich habe es befragt. Zitat: Eines der größten Versäumnisse der CDU in der Digitalpolitik ist ihr mangelndes Engagement für eine zukunftsfähige Infrastruktur, mangelndes Verständnis für den Umgang mit Daten und Datenschutz sowie ihre mangelnde Unterstützung für Start-ups. Zusammenfassend kann man sagen, dass die CDU in der Digitalpolitik in den letzten Jahren versagt hat.
Das sind nicht meine Worte, wie gesagt. Das ist von ChatGPT geschrieben worden. Beeindruckend, wie treffsicher das System es hier auf den Punkt bringt. Konsultieren Sie das Programm selbst! Es hat auch noch ein paar Tipps, was Sie besser machen können. Aber vielleicht spuckt es Ihnen ja auch was ganz anderes aus.
Da sind wir bei des Pudels Kern: Warum werden wem welche Inhalte angezeigt? Was bedeutet es für die öffentliche Meinungsbildung, wenn algorithmische Entscheidungssysteme einzelnen Individuen unterschiedliche Inhalte zuspielen? Auf welcher gemeinsamen Wissensbasis findet der demokratische Diskurs dann überhaupt noch statt?
Seit 2009, seit ich im Bundestag bin, beschäftige ich mich mit den Auswirkungen, wenn Suchmaschinen, KI-basierte Chatbots, Sprachassistenten und soziale Netzwerke die relevanten Informations- und Wissensvermittler sind. In verschiedensten Ausschüssen und Enquete-Kommissionen – Petra Sitte hat es gesagt – haben wir uns mit Echokammern, Social Bots, Desinformation und fragmentierter Öffentlichkeit befasst.
Aber für eine Regulierung hat sich lange niemand ins Zeug gelegt.
Nun zeigt auch der TAB-Bericht, dass personalisierte Ausspielung von Inhalten die Gefahr der Manipulation birgt. Zudem braucht es für den öffentlichen Diskurs verlässliche Informationen von Qualitätsmedien wie dem öffentlich-rechtlichen Rundfunk
und eine Auseinandersetzung mit den unterschiedlichen Meinungen und Positionen. Und obwohl es im Netz unendlich viele Angebote gibt, stellen wir gleichzeitig einen Verlust an Meinungsvielfalt und eine Polarisierung fest.
Nun gibt es endlich im Medienstaatsvertrag und im Digital Services Act Regelungen für mehr Transparenz sowie Mechanismen, um Medien- und Meinungsvielfalt im Netz zu sichern. Das ist gut – ob es reicht, das werden wir sehen. Ich hätte mir beim DSA mehr Konsequenzen, zum Beispiel beim Verbot von Microtargeting, gewünscht. Auch der TAB-Bericht sieht weiteren Handlungsbedarf wie mehr Monitoring, Anreizsysteme für Vielfalt und neutrale Angebote sowie die Einbeziehung der Zivilgesellschaft. Vor allem fehlt uns die Datenlage. Daher ist die Verpflichtung der Plattformen im DSA, zukünftig einen Datenzugang für Wissenschaft und Forschung bereitzustellen, überfällig. Trotzdem hat Twitter jetzt API-Zugänge und Werbebibliotheken gestoppt. Deshalb waren im Digitalausschuss die Zweifel groß, ob Twitter die Gesetze einhält. Zentral ist daher eine starke Aufsicht.
Kommen Sie bitte zum Schluss.
Der digitale Koordinator muss jetzt eingerichtet werden, damit Gesetze durchgesetzt und gegebenenfalls nachgeschärft werden. In einer vielfältigeren digitalen Welt kann dann die Union auch auf bessere Bewertungen ihrer Digitalpolitik stoßen.
Vielen Dank.
Als Nächstes erhält das Wort Helge Lindh für die SPD- Fraktion.
Frau Präsidentin! Liebe Kolleginnen und Kollegen! Angesichts der Art und Weise, wie der Kollege Renner von der AfD eine Verschwörung von uns allen gegen die künstliche Intelligenz abgeleitet hat, muss ich zwingend schlussfolgern, dass natürliche Intelligenz offensichtlich kein Apriori ist.
Deswegen ist es umso wichtiger, differenziert über künstliche Intelligenz zu sprechen, was Sie aber nicht getan haben. Wir stellen nämlich dabei fest, dass wir gleichzeitig zu einer Unterschätzung und Überschätzung der ganzen Fragestellungen von künstlicher Intelligenz in Bezug auf Meinungsbildung tendieren.
Zunächst wird ziemlich klar, dass wir uns in den Versuchen, uns zu orientieren, noch in der Phase der Digitalisierung, aber nicht wirklich der Digitalität bewegen; das macht der Bericht sehr deutlich. Es geht nicht nur um eine Transformation der Kommunikationsformen, sondern auch um die Art und Weise, wie Gesellschaft entsteht, um die Art und Weise, wie Menschen sich verbinden, im privaten Raum, aber auch im öffentlichen Raum, und inwieweit tatsächlich, ohne dass hinreichende Erkenntnisse vorliegen, eine individuelle Meinungsbildung entsteht, gleichzeitig aber auch öffentliche Meinungsbildung erfolgt. All das bedeutet, dass wir es auch mit einer fundamentalen gesellschaftlichen Veränderung zu tun haben.
Diese fundamentale gesellschaftliche Veränderung ist aber weder im Modus der Dämonisierung noch der Glorifizierung zu regeln. Auch das wird sehr deutlich. Vielmehr ist gefragt, einerseits genau zu schauen: Wo brauchen wir mehr Transparenz in Bezug auf die Algorithmen, aber auch auf die Daten, auf das, was an Zielen vorgegeben wird? Diese Form von Öffentlichkeit folgt nämlich gewinnorientierten Regeln und eben nicht journalistischen Prinzipien, um Öffentlichkeit zu schaffen. Andererseits brauchen wir aber auch einen Blick darauf, wo es gar nicht sinnvoll ist, regulatorisch zu wirken, wo es etwa sinnvoll sein kann, gerade keine Vielfalt zu verordnen, sondern über Anreize, über Nudging subtilere Wege zu finden, die an der Verhaltensökonomie orientiert sind.
Daher ist ein differenzierter Blick notwendig. Wir sind oft aber eher Nichtschwimmer, die Schwimmern – politisch – vormachen wollen, wie Schwimmen funktioniert und wie die Regeln bestimmt werden sollen. Das müssen wir ganz nüchtern und ehrlich anerkennen. Allerdings – und das ist die Überschätzung des Prozesses von künstlicher Intelligenz – ist es so – und das hat Herr Renner bewiesen –, dass die größte Gefährdung von Meinungsvielfalt, übrigens die größte Gefährdung der Zivilisation überhaupt, nicht künstliche Intelligenz ist, sondern der Mensch. Der Mensch ist nämlich Subjekt wie Objekt dieser Prozesse, und es liegt am Ende an ihm und an den Gruppen und an der Intention. Das macht Desinformation deutlich.
Kampagnen haben Intentionen und Zwecke. Es gibt dort Akteure, die die Prinzipien von KI nutzen, die Algorithmen nutzen und deren verstärkende Funktion, um entsprechend auf die Meinungsbildung Einfluss zu nehmen. Das ist genau der Ansatzpunkt. Wir brauchen Menschen, die die Prinzipien verstehen, die kompetent sind, die wissen, was ihnen vorgesetzt wird, die wissen, dass sie Gegenstand von gewinnorientierten, gewinnbasierten Kalkülen sind, und die gleichzeitig kompetent sind, damit umzugehen. Diese Menschen müssen aber, wenn sie Desinformation und Hassrede erfahren – und das ist nicht die Ausnahme, sondern das ist die Regel heutzutage –, auch Solidarität erfahren. Denn das ist kein Problem der künstlichen Intelligenz, sondern eine Problematik, die oft mit fehlender Solidarität und fehlender Nutzung der Mittel auch im digitalen Raum zu tun hat, wenn es darum geht, Solidarität zu schaffen.
Mein letzter Punkt. Ich glaube, wir tun gut daran, die Emanzipationspotenziale, die in dieser Digitalität liegen, zu nutzen. Ganz viele, die in der Vergangenheit nicht die Möglichkeit hatten, ihre Meinung zu äußern, die nicht gehört wurden, deren Stimmen nicht wahrnehmbar waren, haben nun die Möglichkeit, teilzuhaben. Deshalb ist gesellschaftliche Modernität mithilfe von Digitalität doch das, was wir uns vorschreiben sollten. Und dann habe ich auch wieder Hoffnung, dass natürliche Intelligenz doch ein Apriori ist.
Vielen Dank.
Nächster Redner ist Maximilian Mörseburg für die CDU/CSU-Fraktion.
Sehr geehrte Frau Präsidentin! Sehr geehrte Kolleginnen und Kollegen! Frau Rößner, das kann ich mir jetzt nicht verkneifen: Dass Sie so viel von Ihrer Redezeit nutzen, um sich an der Opposition abzuarbeiten nach eineinhalb Jahren Regierung, zeigt wirklich nur, in welchem Zustand Ihre Regierung derzeit ist und was Sie vorzuweisen haben.
Aber kommen wir lieber zum Thema. Wir diskutieren heute den Einfluss der großen Plattformen auf Kultur und auf Gesellschaft. Das Augenmerk des vorliegenden Berichtes liegt auf den Algorithmen, die von diesen Unternehmen genutzt werden. Sie entscheiden, welche Inhalte auf eine hohe Reichweite kommen. „Reichweite“ heißt dabei auch immer: gesellschaftlicher und kultureller Einfluss. Die Debatte ist im Grunde aber nicht neu. Lassen Sie mich Tarleton Gillespie dazu zitieren, der genau zu diesem Thema forscht:
Wir diskutieren nicht nur die Nachricht, die es auf die Titelseite geschafft hat, sondern mitunter auch die Tatsache, dass es diese Nachricht überhaupt auf die Titelseite geschafft hat. Die Behauptung von Relevanz seitens der Zeitung, die Mechanismen, welche die Priorisierung und Auswahl bestimmter Meldungen anleiten, die institutionellen Kräfte, welche die moderne Nachrichtenproduktion antreiben – all das kann zum Gegenstand der Diskussion werden. …
Warum ist ein bestimmtes kulturelles Artefakt populär, und wie ist es dazu gekommen? Beliefern die Künstler und Branchen, die es erzeugten, uns mit den richtigen Produkten? Sollte Kultur populär oder aufklärend sein, und werden andere Kulturformen durch gegenwärtige Prozesse verdrängt? Heutzutage nehmen solche Fragestellungen auch Algorithmen ins Visier …
Mit anderen Worten: Ähnlich wie bei Entscheidungsprozessen großer Verlage sind Algorithmen selbst schon Teil, zugleich aber auch Ausdruck einer Kultur. Ebenso wie wir die Gründe hinterfragen, wenn zum Beispiel eine Zeitung einen reißerischen Artikel auf die Titelseite packt, müssen wir auch die Prinzipien der Algorithmen beleuchten. Warum spült es mir gerade diesen Beitrag auf meine Timeline? Warum kommt genau dieses Reel in meinem Newsfeed?
Der Punkt, den Dr. Gillespie später in seinen Untersuchungen unterstreicht, ist der: Algorithmen decken auch bereits bestehende Regeln im öffentlichen Diskurs auf. Wenn Sie sich Instagram oder Twitter anschauen, sehen Sie: Dort geht es nicht um Ausgewogenheit oder Lösungsfindung, sondern schlicht um Reichweite. Reichweite gehorcht eigenen Prinzipien, und diese Prinzipien wiederum werden dann in die Algorithmen wieder eincodiert und somit noch weiter verstärkt. Das Ziel – des Unternehmens jedenfalls – ist also, Werbeeinnahmen zu generieren, was übrigens nicht verwerflich ist; das geht an diese Adresse da drüben. Aber im Verhältnis zwischen Anbieter und Verbraucher müssen solche grundlegenden Eigenschaften der Dienstleistungen klar und auch verständlich erklärt werden.
Es muss jedem klar sein, auf was er sich einlässt. Nur wenn er das erkennt, kann er sich entscheiden, ob und in welchem Ausmaß er daran teilnehmen möchte. Der Zugang zu Informationen ist Grundvoraussetzung für den freien Markt. Interessant ist übrigens auch ein Anbieter von diesen Dienstleistungen: der Fall Tiktok – ein Medium, das von immerhin 20 Millionen Menschen in Deutschland genutzt wird. Warum diskutieren die Amerikaner gerade ein landesweites Verbot von Tiktok? Weil die Daten vermutlich von der chinesischen Regierung eingesehen werden. Es wird immer offensichtlicher, dass sie doch direkt nach China fließen, wo es keinen glaubhaften Datenschutz gibt. Angeblich wurden die Daten sogar genutzt, um den Aufenthaltsort einzelner Journalisten in den USA auszuspähen. Dass wir ein freies Netz wollen, heißt nicht, dass wir es zulassen müssen, dass die chinesische Regierung deutsche Bürger ausspioniert.
Dass Algorithmen immer mehr im Verdacht stehen, die öffentliche Meinung und die Kultur zu beeinflussen, liegt auch daran, dass die sozialen Medien eines geschafft haben: Sie haben es geschafft, das, was uns am wichtigsten ist, zu einem Produkt zu machen, nämlich den Kontakt zu anderen Menschen. Deswegen ist es nichts Schlechtes oder Verwerfliches, dass wir soziale Medien nutzen, dass wir sie nutzen wollen. Wir müssen nur darauf achten, wie wir sie nutzen, wie viel wir sie nutzen, welche sozialen Medien wir nutzen
und welche Auswirkungen das auf unsere Demokratie hat. Nicht zuletzt müssen wir auch uns selbst hinterfragen. Für eine veränderte Informationsmedienlandschaft müssen wir uns rüsten durch Bildung, durch Aufklärung, durch Achtsamkeit; aber das Stichwort heißt: Eigenverantwortung. Es bringt nichts, auf die vermeintlich dummen und ungebildeten Tweets der anderen Seite einzudreschen und sich dafür gegenseitig auf die Schultern zu klopfen oder einfach jeden zu blockieren, mit dem man nicht diskutieren möchte, dessen Meinung man nicht erträgt. Es bringt auch nichts, sich Verschwörungstheorien anzuschließen, online wie offline. Algorithmen können in dieser Hinsicht verstärkende Effekte sein. Sie sind aber nicht der Auslöser dieser Probleme. Deswegen – das zeigt auch dieser Bericht – werden wir weiter über dieses Thema diskutieren müssen.
Nächster Redner ist Maximilian Funke-Kaiser für die FDP-Fraktion.
Sehr geehrte Frau Präsidentin! Sehr geehrte Damen und Herren! Herr Mörseburg, Sie haben sich gerade über den Zustand der Ampelkoalition beschwert. Ich glaube, der Zustand der Anwesenheit Ihrer Fraktion ist viel beschämender.
Es wurde heute schon des Öfteren gesagt, dass Algorithmen eine immer größere Rolle in unserem Leben einnehmen. Das schließt natürlich die öffentliche Meinungsbildung mit ein. Natürlich muss man an diesem Punkt auch über ChatGPT und aktuelle Sprachmodelle sprechen. Die Aufgabe einer verantwortungsvollen Politik ist es, dass man die Chancen und Risiken zu einem vernünftigen Ausgleich bringt.
Was heute ein bisschen zu kurz gekommen ist, sind die vielen Chancen, die in künstlicher Intelligenz stecken, beispielsweise zum Thema Fachkräftemangel. In diesem Bereich können viel mehr Informationen bereitgestellt werden oder auch neue Geschäftsmodelle entwickelt werden. Natürlich haben wir auch Risiken, die betrachtet werden müssen – das wurde heute schon mehrfach angesprochen –, die Einseitigkeit von Informationen beispielsweise. Das ist sehr wichtig, wenn wir uns heute über dieses Thema unterhalten. Hier liefert der TAB-Bericht einen wichtigen Beitrag. Eine meinungsheterogene Öffentlichkeit ist ein Grundbaustein unserer Demokratie; sie muss Meinungsfreiheit sicherstellen, aber genauso auch Transparenz über Falschinformationen ermöglichen. Das ist vor allem in Ihre Richtung gemeint, liebe AfD-Fraktion, lieber Herr Renner. Ein Blick nach Brüssel zeigt, dass hier schon Dinge in die Wege geleitet worden sind, beispielsweise der Digital Services Act. Dort ist festgeschrieben, dass Algorithmen transparent sein müssen und illegale Inhalte gelöscht werden müssen, beispielsweise die ganzen Hass- und Hetzreden, die von Ihnen immer wieder in den sozialen Medien verbreitet werden.
Das gilt natürlich auch für die KI-Verordnung, die jetzt in der finalen Abstimmung ist und künstliche Intelligenz regulieren wird.
Liebe Kolleginnen und Kollegen, ich bin Optimist, sonst wäre ich nicht Freier Demokrat.
Ich denke, anders als andere Teile der Welt sind wir in Europa gut auf die anstehenden Entwicklungen vorbereitet. Wir können Fortschritt nicht verhindern, und wir wollen Fortschritt nicht verhindern; denn Fortschritt ist etwas Gutes. Man muss nur das Positive daraus ziehen.
Herzlichen Dank.
Letzter Redner in dieser Debatte ist Dr. Holger Becker für die SPD-Fraktion.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Es freut mich außerordentlich, dass wir hier, im Plenum des Deutschen Bundestages, die Gelegenheit bekommen, einen Bericht des Büros für Technikfolgen-Abschätzung, das der Bundestag unterhält, zu diskutieren. Deswegen möchte ich am Ende der Debatte einen kleinen Werbeblock für diese leider im parlamentarischen Alltag noch zu wenig genutzte Ressource einlegen.
Die Werkzeuge, die uns dank dieses Büros zur Verfügung stehen, sind enorm wichtig und wertvoll, da sie uns in komplexen Themenfeldern als Entscheidungskompass dienen können, gerade in einer Zeit, in der technische Errungenschaften das Potenzial haben, binnen kürzester Zeit unsere Gesellschaft nachhaltig zu beeinflussen und zu verändern. Ein sehr gutes aktuelles Beispiel ist der, wie ich glaube, schon von allen Rednerinnen und Rednern genannte ChatGPT. Auch hier arbeitet das Büro bereits an einer Ausarbeitung, und ein Fachgespräch ist in Planung.
Meine Damen und Herren, in der Politik ist es gewöhnlich so: Uns begegnet eine Herausforderung, die einer politischen Lösung bedarf, eine Problemstellung, der wir als Politikerinnen und Politiker begegnen müssen. Häufig genug ist es allerdings so, dass wir zeitlich betrachtet hinter, gelegentlich auf, viel zu selten vor dieser Themenwelle schwimmen. Die Instanz der Technikfolgenabschätzung ermöglicht es uns dagegen, vor die Themenwelle zu kommen. Von NFTs über Energieverbrauch der IKT-Infrastruktur bis hin zu den Algorithmen in den digitalen Medien – die Ausarbeitungen des TAB zeigen uns häufig politische Herausforderungen oder Handlungsbedarfe für die Zukunft auf, bevor sie im politischen Tagesgeschäft angekommen sind. Dennoch werden diese gefühlten Zukunftsthemen oftmals sehr schnell aktuell; denn – jetzt komme ich zu dem vorliegenden Bericht – Algorithmen haben in den digitalen Medien einen enormen Einfluss auf die individuelle und öffentliche Meinungsbildung.
Auch wenn in Deutschland noch das klassische lineare Fernsehen die am weitesten verbreitete Nachrichtenquelle ist, steigt die Nutzung der digitalen Medien für Nachrichtenzwecke kontinuierlich, wobei die komplexen algorithmischen Verfahren und Entscheidungen selbst für Expertinnen und Experten oft nicht nachvollziehbar und sehr intransparent sind. Genau deswegen hat die Europäische Union sowohl den Digital Services Act als auch den Digital Markets Act auf den Weg gebracht. Beide treten im kommenden Jahr in allen EU-Staaten in Kraft; wir werden in diesem Parlament sicherlich noch öfter darüber diskutieren. Sie verkörpern Wendepunkte in der europäischen Plattformregulierung, und wie schon bei der DSGVO schaut der Rest der Welt ganz genau dabei zu, wie Europa vorangeht, ein werteerhaltendes, gemeinwohlorientiertes und sicheres digitales Zusammenleben zu schaffen.
Sehr geehrte Kolleginnen und Kollegen, abschließend möchte ich Sie alle an dieser Stelle ermutigen: Nutzen wir stärker die uns zur Verfügung stehenden Instrumente des TAB! Lassen Sie uns Berichte wie den heutigen gerne häufiger hier im Plenum diskutieren! Solche Debatten sind ein Garant dafür, sich inhaltlich am Puls der Zeit zu bewegen.
Vielen Dank.
Ich schließe die Aussprache.
Interfraktionell wird die Überweisung der Vorlage auf Drucksache 20/4453 an die in der Tagesordnung aufgeführten Ausschüsse vorgeschlagen. Gibt es weitere Überweisungsvorschläge? – Das ist nicht der Fall. Dann verfahren wir so.