Protokoll
Technikfolgenabschätzung (TA)
Ich rufe auf den Tagesordnungspunkt 17:
Für die Aussprache ist eine Dauer von 39 Minuten vorgesehen. – Alle haben ihre Plätze eingenommen.
Dann eröffne ich die Aussprache. Es beginnt für die FDP-Fraktion Maximilian Funke-Kaiser.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Wir befinden uns in einem globalen Zeitalter des Umbruchs. Wie viele andere Staaten vollzieht Deutschland einen Transformationsprozess hin zur Informationsgesellschaft. Dadurch wird unsere Welt größer, unsere Welt wird komplexer, und vor allem wird sie vernetzter. Denn in jeder Sekunde kommunizieren unzählige Menschen, Maschinen oder Programme miteinander, meistens über mehr oder weniger interessante Dinge, manchmal auch über wirklich weltbewegende Ereignisse.
All diese Prozesse hinterlassen aber immer eins, nämlich Daten: Daten, die allein keine Aussagekraft haben, Daten, die in Datenmengen für Forschung, für Wirtschaft und für den Staat wahre Informationsschätze sind. Denn letztendlich kann man mit statistischen Verfahren aus diesen Daten Trends und Erkenntnisse gewinnen, das sogenannte Data-Mining.
Jetzt wird sich der geneigte Fortschrittskritiker fragen: Warum ist das überhaupt nötig? Die Antwort darauf ist relativ einfach; denn Datennutzung ist nicht nur eine Frage des Ob, sondern auch eine Frage des Wie. Liebe Kolleginnen und Kollegen, in einer digitalen Welt, in der in Massen Daten generiert werden, reicht es nicht aus, zu sagen: Wir müssen Daten minimieren. – Wir müssen vielmehr hin zu dem Bekenntnis, selbstbestimmt und auf Basis unserer Wertevorstellungen Daten zu nutzen, auf Basis von mehr Daten, auf Basis von besseren Daten im Sinne unserer Datenschutzgesetzgebung. Wir brauchen eine Datenemanzipation, und dafür steht diese Bundesregierung.
Gerade die Medizin und die Chemie können mit Datennutzung immense Fortschritte bei der Erforschung von Wirkstoffen und Chemikalien erzielen. Eine riesige Menge an Daten zu einzelnen Produkten, beispielsweise aus dem Versorgungsbereich, existiert nämlich bereits, allerdings leider ungenutzt. Mit einer automatisierten Auswertung der gegenseitigen Verträglichkeit kann ein Programm in wenigen Stunden Tausende Vorschläge für potenzielle Medikamente oder Chemikalien machen. Klar, nicht alles funktioniert, und alles muss getestet werden; doch computergestützte Verfahren haben den Arbeitsaufwand für die Forschung bereits massiv reduziert, und das nur dadurch, dass die bereits vorhandenen Daten effizient ausgewertet werden.
Die Tendenz ist dabei relativ klar. Bereiche, die viele Daten generieren, profitieren von diesen Entwicklungen. Hier lassen sich am meisten Erkenntnisse gewinnen, beispielsweise in den Neurowissenschaften. Ein anderes Beispiel für die Pendler unter uns: Indem wir Verkehrsdaten nutzen, entdecken wir Potenziale, um den unbeliebten Stau zu reduzieren; das ist auch ein Klimaaspekt. Und natürlich können wir auch allgemein im Umweltbereich mit Daten Klimaveränderungen modellieren.
Natürlich gibt es aber auch Risiken – das sei an dieser Stelle gesagt –; denn Daten sind nicht immer objektiv. Nehmen wir beispielsweise den Gender-Data-Gap. Liegen beispielsweise überwiegend Daten von Männern vor, ergeben diese Berechnungen einen Verzerrungseffekt. Das ist besonders schwerwiegend im Medizinbereich. Viele Jahrzehnte wurden Medikamente nur an Männern getestet. Dieses Problem ist mittlerweile erkannt; doch es hat Auswirkungen bis heute und muss zwingend berücksichtigt werden – und das tun wir –, wenn wir uns über die breite Nutzung von Daten in allen Lebenslagen unterhalten.
Aber trotz all dieser Risiken sind die Vorteile, liebe Kolleginnen und Kollegen, offensichtlich. Wenn unsere Gesellschaft das volle Potenzial aus Daten ausschöpfen will, dann müssen wir jetzt das Fundament legen, und das macht diese Bundesregierung. Denn Datennutzung steht und fällt mit dem Stand der Digitalisierung. Daher bauen wir die digitale Infrastruktur schneller und hochwertiger aus. Wir etablieren Datenstandards, wir schaffen digitale Identitäten. All das, was die Vorgängerregierung nicht auf die Kette bekommen hat. Das Bildungsministerium erarbeitet derzeit beispielsweise das Forschungsdatengesetz. Damit erleichtern wir der Wissenschaft gezielt die rechtlichen und praktischen Möglichkeiten des Datenaustausches.
Abschließend möchte ich mich für die Veröffentlichung des Berichts über Technikfolgenabschätzung beim Büro für Technikfolgen-Abschätzung bedanken. Denn nur mit solchen Informationen kann das Parlament seiner Kontrollfunktion nachkommen und damit die Datennutzung in Deutschland und das Leben von uns allen verbessern.
Herzlichen Dank.
Nächste Rednerin: für die Fraktion der CDU/CSU Franziska Hoppermann.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Letzte Sitzungswoche, zur fast gleichen Uhrzeit, haben wir unseren Antrag zum Data Act debattiert. Nun kommen wir zu Data-Mining. Es geht erneut um die Frage: Wer darf Daten nutzen und wofür? Wenn man den 201 Seiten langen Bericht des Büros für Technikfolgen-Abschätzung liest – an dieser Stelle bedanke auch ich mich sehr herzlich dafür –, wird vor allem eins deutlich: Data-Mining bietet unglaublich viele Möglichkeiten und muss zugleich deutlich reguliert und geordnet werden. Allein der Umfang des Berichts zeigt schon, dass die Bedeutung und Etablierung des Data-Mining in nahezu alle gesellschaftlichen Bereiche reicht.
Data-Mining, was ist das eigentlich? Mining im originären Sinne bedeutet so etwas wie Schürfen oder Graben. Das Objekt der Begierde, nach dem gegraben wird, ist nichts weniger als der Rohstoff des 21. Jahrhunderts: Daten. Was können wir aus all diesen Daten machen, die sekündlich jeder von uns produziert? Wir können Abertausende Informationen ableiten und Wissen generieren. Darin liegt, wie in der Debatte zum Data Act erläutert, ein unglaubliches Wertschöpfungspotenzial.
Beim Data-Mining werden, vereinfacht gesagt, Muster in großen Datenbeständen erkannt. Gerade bei der erwähnten Fülle und Menge von Daten ist das ein großer Vorteil in Zeitersparnis und Analyse von Daten. Zugleich können daraus auch Algorithmen abgeleitet und Ergebnisse validiert werden. Zahlreiche vielversprechende Anwendungsbereiche gibt es in der Medizin. So kann zum Beispiel Data-Mining die Bilderkennung bei der Mammografie und anderer Krebsdiagnostik unterstützen. Wie funktioniert das? Es gibt seit Jahren eine riesige Menge an Screeningmaterial aus Vorsorgeuntersuchungen, das befundet ist. Durch Data-Mining können Algorithmen erstellt werden, die bei einer Mammografie die Diagnostik unterstützen.
Bleiben wir aber beim Bild des Grabens. Bevor eine fremde Person anfängt, in Ihrem Garten zu graben, möchten Sie selbstverständlich gefragt werden, und Sie möchten auch wissen, was in Ihrem Garten passiert. Deshalb ist es so wichtig, das größte Maß an Transparenz und klaren Regelungen zu schaffen. Menschen dürfen nicht das Gefühl von Kontrollverlust haben. Unser gemeinsames Ziel muss sein, das gesellschaftliche Leben in der digitalen Welt sicher und zukunftsgerichtet zu gestalten.
Viele Gremien beschäftigen sich mit den Chancen und Risiken der Datennutzung und der Regelungen. Aber seien wir doch mal ehrlich: Wir haben kein Erkenntnis-, wir haben auch hier ein Umsetzungsproblem.
Wir wissen doch alle, dass wir mehr Digitalisierung wagen müssen, mehr Standardisierung und Normierung brauchen und ebenso mehr Aufklärung und Souveränität im Umgang mit den eigenen Daten, mehr Datennutzung und somit auch mehr Wertschöpfung. Interessant finde ich übrigens, dass der Bericht auch deutlich herausstellt, dass das Nichtnutzen von Daten genauso eine Gefahr darstellen kann und ein Risikofaktor ist.
Wir als CDU/CSU-Fraktion haben schon in der Debatte Anfang März dieses Jahres einen Antrag zur Nutzung von Gesundheitsdaten vorgelegt. Ich empfehle wirklich, sich diese Debatte, aber auch unseren sehr guten Antrag noch mal genau anzusehen. Sämtliche Punkte, die auch in diesem Bericht jetzt angesprochen und für erforderlich herausgestellt werden, finden sich auch in unserem Antrag wieder.
Wir brauchen eine breitere, bessere Nutzung von Daten, aber mit klaren Regeln und Verlässlichkeit. Wir fordern wirklich mit Nachdruck:
Erstens. Schaffen Sie endlich klare Zuständigkeiten in der Bundesregierung.
Ein bisschen Wirtschaftsministerium, ein bisschen Finanzministerium, viel Innenministerium, gar kein Digitalministerium – diese Atomisierung bremst und behindert die Digitalisierung in Deutschland.
Wir verlieren hier kostbare Zeit.
Zweitens. Sichern Sie in den vielen Datengesetzgebungen – vor allem in Europa, aber auch in Deutschland – auf der einen Seite den Schutz, und konzipieren Sie auf der anderen Seite eine einfache Einwilligung für die Weitergabe personenbezogener Daten, vor allem für die Forschung.
Drittens – last, but not least –: Wir brauchen endlich eine Bundesregierung, die die unterschiedlichen Regelwerke vor allem auch auf europäischer Ebene in einen Zusammenhang stellt und strukturiert betrachtet. Und wir brauchen ein gemeinsames Zielbild über diese Regelungen. Ich bin, ehrlich gesagt, schockiert, wenn ich höre, dass sich der Digitalminister am vergangenen Wochenende zum ersten Mal zu KI geäußert und gesagt habe, man müsse das auf europäischer Ebene regeln.
Ernsthaft? Ihr Zuständigkeitswirrwarr in der Bundesregierung bei Digitalthemen ist wirklich bizarr.
Wir verlieren wertvolle Jahre. Das ist nicht „Digital first. Bedenken second“. Das ist Bedenken im Kreis.
Liebe Kolleginnen und Kollegen, vor allem liebe Bundesregierung, tun Sie endlich was, bringen Sie sich auf europäischer Ebene ein, anstatt intern nur über Zuständigkeiten zu streiten,
und sorgen Sie endlich für vernünftige, konsistente Gesetzgebung!
Vielen Dank.
Nächste Rednerin: für die SPD-Fraktion Anna Kassautzki.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen der demokratischen Fraktionen! Sehr geehrte Damen und Herren! Immer wenn ich gefragt werde: „Was machst du eigentlich im Digitalausschuss?“, kann ich sagen: Alles, was mit Daten zu tun hat – von Datenschutz bis Open Data, von Dateninfrastrukturen bis Datenverarbeitung, von Daten-Clouds bis Data-Mining.
Wir befinden uns in einer wahnsinnig spannenden digitalpolitischen Zeit. Wir müssen uns nämlich die Frage stellen: In welcher digitalen Welt wollen wir leben? Dazu gehört auch, dass wir uns die Folgen von technischen Neuerungen ansehen und Gesetzeslücken schließen. Um diese Lücken zu finden, ist oftmals tiefe Expertise nötig. Die haben wir uns jetzt über das Büro für Technikfolgen-Abschätzung zum Thema Data-Mining eingeholt, dem ich an dieser Stelle auch recht herzlich für den Bericht danken möchte.
Also lassen Sie uns kurz eintauchen in die spannende Welt der Daten! Was ist eigentlich Data-Mining? Was sind die Chancen? Was sind die Risiken? Was müssen wir in Zukunft beachten? Unter Data-Mining versteht man das automatisierte Erkennen von Mustern in großen Datenmengen. Ein gern genutztes Beispiel – Kollegin Hoppermann hat es schon angebracht – ist das automatisierte Erkennen von Krebszellen auf Mammografie-Screenings. Was braucht es dafür? Natürlich viele, viele Daten! Aus den vergangenen Jahrzehnten haben wir Massen an Daten in diesem konkreten Beispiel: Bilder von Gewebe, in dem sich entweder ein Tumor befindet oder eben nicht. Diese Daten, diese Bilder müssen klassifiziert sein. Ist hier ein Tumor zu sehen, ja oder nein? Sind wir uns unsicher?
In unseren Trainingsdaten existieren diese Bilder, jeweils klassifiziert von Ärztinnen und Ärzten, also von Expertinnen und Experten. Hat man genügend dieser Bilder mit entsprechenden Befunden, kann ein Algorithmus mit diesen Daten trainiert werden. Er kann anhand der Bilder lernen, wie ein Tumor aussieht. Er erkennt also Muster und imitiert diese. Schließlich kann man diesen trainierten Algorithmus dann auf unbekannte Bilder anwenden und die Frage stellen: Ist hier ein Tumor zu sehen, ja oder nein? Der Algorithmus kann angeben, wie sicher auf diesem neuen Bild ein Tumor zu sehen ist. Jetzt schauen die Expertinnen und Experten noch mal drauf, um zu überprüfen, ob der Algorithmus die Muster richtig erkannt hat, und damit lernt er wieder.
Dieser Vorgang wird auch „Machine Learning“, also „maschinelles Lernen“, genannt. Wir bringen einem Computerprogramm bei, anhand von vorhandenen Daten Muster zu erkennen, die es dann in neuen Kontexten wiederfinden kann. Wir alle trainieren übrigens Algorithmen, sind also quasi Expertinnen und Experten, wenn wir die Bildchen mit dem Zebrastreifen oder den Ampeln anklicken, um zu bestätigen, dass wir keine Roboter sind. Es gibt unzählige Beispiele aus dem Bereich Data-Mining, und angewendet werden diese Methoden auch heute schon in vielen Kontexten.
Wo liegen also die Chancen? Die liegen überall dort, wo Datenmengen so groß sind, dass ein Mensch sie nicht mehr verarbeiten kann, überall dort, wo Muster so komplex sind, dass Menschen sie nicht überblicken, und überall dort, wo Prozesse so schnell ablaufen müssen, dass Menschen zu langsam wären, um sie zu bearbeiten.
Aber wo Licht ist, ist auch Schatten. Also schauen wir uns mal die Risiken an! Die liegen überall dort, wo personenbezogene Daten erhoben werden; da ist nämlich Vorsicht geboten. Wenn sie einmal geleakt wurden, sind Daten schwer wieder einzufangen. Wir als Einzelpersonen haben oft gar nicht die Möglichkeiten, unsere Daten zu schützen, wenn sie bei anderen Infrastrukturen liegen. Deswegen müssen personenbezogene Daten ordentlich anonymisiert und mit Vorsicht behandelt werden.
Auch gibt es beim Data-Mining eine ungleiche Verteilung in der Nutzung. Das Know-how, Kapital und Profite der Datennutzung liegen oft in der Wirtschaft. Staat und Zivilgesellschaft profitieren nicht im gleichen Maße, obwohl sie einen Großteil der Primärdaten zur Verfügung stellen. Weiterhin ist die Qualitätssicherung oft unklar. Wir wissen nicht, wie welche Algorithmen arbeiten, auf welchen Daten sie trainiert wurden. Und genau das sehen wir gerade bei ChatGPT. Teilweise erzählt es einem einen ganz schönen Schmu; aber ohne Quellenangabe und ohne Kennzeichnungspflicht für algorithmische Entscheidungen, Bilder und grundsätzlich KI-generierte Inhalte kann ich das nicht einfach nachvollziehen.
Ein riesiges Problem bei Algorithmen und algorithmischen Entscheidungen ist die vermeintliche Objektivität. Kann eine Maschine, ein Algorithmus rassistisch sein, kann sie diskriminieren? Grundsätzlich ja, aber nicht willentlich! Denn Maschinen und Algorithmen sind nur so objektiv wie die Daten, die wir ihnen zur Verfügung stellen, mit denen wir sie trainieren. Und sind diese Daten rassistisch, sexistisch, ableistisch, antisemitisch, weil sie eine Welt abbilden, die diese Züge hat, lernt eine Maschine, genau diese Muster zu reproduzieren, unter dem Deckmantel der vermeintlich mathematischen Objektivität.
So, was machen wir jetzt damit? Wir müssen uns im Klaren sein: Data-Mining ist in vollem Gange; das ist keine Zukunftsmusik. Wir trainieren jeden Tag Algorithmen und Maschinen mit unseren Daten. Und ChatGPT gibt uns inzwischen teilweise bessere Antworten als so manch ein menschlicher Gesprächspartner. Wir werden diese Entwicklung nicht mehr aufhalten, und das sollten wir auch nicht versuchen. Wir sollten aber versuchen, sie zu lenken:
Weg von reinem Profitstreben hin zu einer stärkeren Nutzung von Data-Mining im Sinne des Gemeinwohls.
Weg vom Datensammeln um jeden Preis hin zu einem datensparsamen, gezielten, zweckgebundenen und zielgerichteten Umgang insbesondere mit personenbezogenen Daten.
Weg vom Wilden Westen, in dem Hersteller von Produkten jedes Byte an Nutzerinnen- und Nutzerdaten sammeln und auswerten durften, hin zu Regulierung wie dem Data Act, der die Hoheit über die Daten dahin zurückgibt, wo sie hingehören, nämlich zu den Nutzerinnen und Nutzern.
Weg vom Datenvollzugriff für die Forschung in der elektronischen Patientenakte hin zu feingranularen Auswahlmöglichkeiten. Wir entscheiden, wer unsere Daten bekommt.
Und weg von proprietären Algorithmen mit unbekannten Trainingsdaten hin zu einer Kennzeichnungspflicht für maschinell erstellte Inhalte, Bilder oder Videos.
Data-Mining ist mächtig, aber noch mächtiger sind Data-Mining-Anwendungen im Zusammenspiel mit Vertrauen und Transparenz. Und das ist die digitale Zukunft, in der wir leben wollen.
Herzlichen Dank.
Nächster Redner: für die AfD-Fraktion Tobias Matthias Peterka.
Frau Präsidentin! Sehr geehrte Kollegen! Daten sind die eigentliche Währung des Digitalzeitalters. Diese Binsenweisheit ist inzwischen sogar – wir haben es gehört – bei den Linken angekommen. Bei der heutigen Datenspur, die man aber selbst jederzeit legt und die man durch andere zugeordnet bekommt, ist der Begriff „Ressource“ statt „Währung“ eigentlich korrekter, und daher leitet sich auch dieser Begriff des Data-Minings ab.
Ist diese Disziplin nun Fluch oder Segen, gut für den Einzelnen oder nur für die Mächtigen, für die Wirtschaft oder den Staat, für den Gründlichen oder nur für den Denkfaulen? Allgemein lässt sich das so kaum beantworten, und so befasst sich auch der genannte umfangreiche Bericht zunächst schwerpunktmäßig mit Data-Mining im medizinischen Zusammenhang. Gerade dort gilt es, den enormen potenziellen Nutzen hervorzuheben, und daher eignet sich das Thema für eine exemplarische Abwägung zunächst sehr gut.
Rechtlich sind wir nicht vollkommen auf unbekanntem Gebiet. Informationelle Selbstbestimmung, Urheberrecht, Leistungsschutzrechte oder Eigentumsrechte, auch an Unternehmen, haben Datenkonvolute als Rohstoff schlussendlich zum Thema. Darauf kann auch bereits jetzt eine weitere Ebene der Berechtigungen unproblematisch aufgesetzt werden. Hier wird in Zukunft genauer definiert werden müssen, wie abhängig dieser Rohstoff von der Weiterverarbeitungsebene rechtlich zu definieren ist. Ungewohnt ist jedenfalls der Umstand des Nichtverbrauchs. Einmal verwendete Primärdaten verschwinden ja nicht, nur weil man aus ihnen sekundäre Daten ableitet.
Die beiden Endpunkte der im Grunde kaum übersehbaren Verwertungskette will ich noch einmal verdeutlichen. Zunächst gibt es eine konkrete Information, gegebenenfalls direkt auf ein Individuum bezogen oder rückführbar, und ganz am Ende gibt es eine Handlungsempfehlung oder Erkenntnis aufgrund einer konkreten Abfrage aus einem mehrfach aufbereiteten globalen Datenprodukt. Dazwischen ist jede Raffinierungsstufe denkbar, die Bezeichnung „Data-Mining“ also selbst eigentlich sogar noch viel zu kurz gegriffen.
Abzusehen ist schon seit Langem, dass Privatunternehmen hier tendenziell staatlichen Akteuren vollkommen enteilen, zumindest wenn man übergriffige Autokratien einmal außer Acht lässt. Staatliche Forschungsaufträge im Gesundheitsbereich stellen hier wiederum eine Besonderheit dar. Wie bei jeder technologischen Umwälzung sind jedenfalls die beiden Fehler der Überregulierung auf der einen Seite und des Wildwuchses auf der anderen Seite zu vermeiden. Wenn ich mir aber die Coronapolitik zuerst der Merkel-Regierung und jetzt der Ampel, diese bösartige Bevormundung, anschaue, wird mir in Zukunft bei den Gesundheitsdaten angst und bange; das muss ich wirklich sagen.
Zumindest die Vermeidung des persönlichen Rückbezugs, die ist ja hoffentlich selbstverständlich. Transparenz und Anonymisierung, die sind auch wichtig, jedoch nur eher früh im Raffinierungsprozess relevant. Wichtig auch wird die Vermeidung von Monopolstellungen auf jeder Ebene. Dafür wäre in der Tat die Einziehung einer öffentlich-rechtlichen Instanz zumindest vorstellbar, solange diese dann nicht selbst wieder als Flaschenhals agiert. Abgeleitete Datenprodukte im Gesundheitsbereich müssen dann aber bitte wieder privatrechtlichem Eigentum zugänglich sein.
Data-Mining muss retrospektiv objektiv überprüfbar sein, ganz genau. Eine ideologische Vorwärtskontrolle, wie Sie das immer so gerne machen, die ist hingegen strikt abzulehnen. Zwar können statistische Daten auf unvollkommenen Realitäten beruhen. Daran sind jedoch niemals die Datensätze schuld, sondern die jeweiligen Realitäten.
Fertigraffinierte Datensätze sind damit bei genauerer Betrachtung ein rein ethisch absolut steriles Produkt, welches auch enorme Chancen jenseits politischer Grabenkämpfe eröffnen würde.
Ob Sie das so erkennen und wirklich wollen, glaube ich jedoch nicht.
Vielen Dank.
Nächste Rednerin: für die Fraktion Bündnis 90/Die Grünen Laura Kraft.
Sehr geehrte Frau Präsidentin! Sehr geehrte Damen und Herren! Liebe Kolleginnen und Kollegen! Ja, wir haben schon einiges zu dem Thema gehört: Die neue Währung unserer Zeit sind Daten. Daten sind so etwas wie die Goldmine des 21. Jahrhunderts. Wir haben in unserer modernen Welt Zugang zu sehr vielen Daten. Sie kennen Data-Mining vielleicht aus dem Bereich von Kundenanalysen bzw. Vorlieben von Kunden aufgrund von Warenanalysen; das ist so ein ganz praktisches Beispiel.
Der Gesundheitsbereich – er wurde hier schon mehrfach genannt – ist auch ein wichtiger Bereich, in dem wir Chancen sehen können, aber natürlich auch Risiken abwägen müssen. Von klinischen Daten über Laborergebnisse bis hin zu genetischen Informationen, all diese Daten sind wichtig und können in manchen Fällen sogar lebenswichtig sein. Sie bieten wertvolle Einblicke für die Forschung und helfen uns dabei, Patientinnen und Patienten bestmögliche Versorgung zu bieten oder im Zweifelsfall sogar Leben zu retten.
Data-Mining ermöglicht uns, Muster, Trends und Zusammenhänge in diesen Daten zu identifizieren. Diese Muster wären mit bloßem Auge nicht erkennbar. Es könnten Infektionen erkannt werden, Krebs könnte frühzeitig erkannt und Herzinfarkte könnten vorhergesagt werden; das alles ist mit diesen Algorithmen möglich. Der Begriff „Data-Mining“ ist aber nichtsdestotrotz ein eher unscharfer Begriff, ähnlich wie zum Beispiel der Begriff „künstliche Intelligenz“. Wir halten also die Chance auf ein besseres Leben und eine bessere medizinische Versorgung in der Hand.
Aber bei neuen Technologien dürfen wir nicht nur die Chancen betrachten, sondern wir müssen auch ein Auge auf die Risiken haben. Dafür brauchen wir eine evidenzbasierte Risikoanalyse und Technikfolgenabschätzung.
Ich spreche heute als Berichterstatterin für Technikfolgenabschätzung. Es ist so wichtig, dass wir hier im Bundestag das Büro für Technikfolgen-Abschätzung haben. Ich freue mich ganz besonders, dass wir heute einen TAB-Bericht als Drucksache vorliegen haben und ihn hier im Plenum debattieren; denn das ist eine ganz wertvolle Arbeit. Das Büro für Technikfolgen-Abschätzung ist eine selbstständige wissenschaftliche Einrichtung, die den Bundestag und die Ausschüsse evidenzbasiert und wissenschaftlich berät. Darauf können wir alle zurückgreifen; ich möchte dafür einfach noch mal werben.
Ich freue mich auch darüber, dass wir heute das TAB-Hintergrundpapier zu ChatGPT veröffentlichen werden. Nächste Woche behandeln wir das Thema dann auch öffentlich im Ausschuss. Dazu lade ich ein; das ist ja öffentlich. Man kann das streamen oder auch vor Ort dabei sein. Das TAB hat dieses Hintergrundpapier wirklich in rekordverdächtigem Tempo erarbeitet.
Vielen Dank, dass Sie auch diesem Werbeblock zugehört haben. Ich freue mich auf die weitere Debatte.
Nächste Rednerin: für die Fraktion Die Linke Dr. Petra Sitte.
Frau Präsidentin! Meine Damen und Herren! Der vorliegende Bericht kommt sofort auf den Punkt – ich zitiere –: „Seit Jahren wird eine gewisse Dateneuphorie geschürt …“ Ja, es ist klar: Die Potenziale automatisierter Auswertungen großer Datenmengen sind eben so groß. Aber natürlich – da werden sich die Datenschützer jetzt freuen – kommt es immer auf den Zweck der Datenauswertung an. So ist das großflächige Sammeln und In-Verbindung-Setzen von persönlichen Daten durch Internetkonzerne eher beunruhigend.
Ebenso beunruhigend ist aber auch das vergleichbare Begehren von Sicherheitsbehörden. Ich erinnere hier mal an das sogenannte Palantir-Urteil des Bundesverfassungsgerichts. Es hat nämlich Gesetze zum Einsatz einer neuen Datenanalysesoftware bei der Polizei in Hessen und in Hamburg für verfassungswidrig erklärt. Das ist ein wichtiges Zeichen.
Genau genommen hat es aber eigentlich nur festgestellt, was selbstverständlich sein müsste: Es muss der Grundsatz der Verhältnismäßigkeit gewahrt bleiben. Der Zweck heiligt eben nicht die Mittel.
Für den Zweck unabhängiger Forschung haben Data-Mining-Methoden einen enormen Nutzen; die Kollegen haben es ja schon ausgeführt. Richtig ist deshalb auch die Empfehlung, sich sowohl um die Qualität und Zugänglichkeit von Daten, aber eben auch um klare rechtliche Regelungen zu bemühen.
Das gilt natürlich insbesondere im Gesundheitsbereich. Bei den anstehenden Weichenstellungen auf europäischer und auf nationaler Ebene muss die informationelle Selbstbestimmung von Betroffenen unbedingt gesichert werden;
sonst verspielen wir Vertrauen im Umgang mit den bereitgestellten Daten.
Für die Forschung ist das eminent wichtig, wie wir auf vielen Veranstaltungen gerade dieser Tage immer wieder gesagt bekommen.
Nicht nur in der Medizin, auch in anderen Forschungsgebieten ist der Aufbau von Dateninfrastrukturen extrem wichtig. Warum? Weil Data-Mining eben leistungsfähiger Speicherung und des Zugangs zu öffentlich erhobenen Daten bedarf. Gleiches gilt allerdings auch für Daten privatwirtschaftlich betriebener Systeme, soweit es unser Gemeinwohl erfordert.
Unter den rechtlichen Regelungen spielen Datenschutz und Urheberrecht eine besondere Rolle. Seit einigen Jahren gelten beispielsweise die Regelungen für das wissenschaftliche Text- und Data-Mining. Ich finde, wir sollten sie überprüfen. Wir müssen wissen, wie sich das in der Praxis mittlerweile bewährt hat. Das ist auch für die Ausrichtung weiterer Programme oder Förderungen notwendig.
Schließlich will ich ein Wort zu künstlicher Intelligenz sagen; denn wer über Data-Mining redet, muss über künstliche Intelligenz reden. Hier ist Data-Mining nämlich nur eine wichtige Hilfstechnologie. Rechtliche Rahmenbedingungen für KI gehen aber darüber hinaus. Unverzichtbar ist daher ein umfassendes und robustes Regulierungssystem für KI. Genau in diesem Sinn muss sich die Bundesregierung bei den laufenden Verhandlungen auf EU-Ebene einsetzen und dafür sorgen, dass die Hochrisiko-Einstufungen von Systemen im medizinischen Bereich oder im Bildungssystem auch so definiert werden.
Danke.
Nächster Redner: für die CDU/CSU-Fraktion Stephan Albani.
Sehr geehrte Frau Präsidentin! Sehr geehrte Kolleginnen und Kollegen! Sehr geehrte Damen und Herren! Auch ich als siebter Redner hier in der Debatte möchte mich dem Thema „Data-Mining im Gesundheitswesen“ widmen. Dabei werde ich jetzt nicht auf die Beispiele wie Mammografie oder Ähnliches, die schon im Bericht vorliegen, eingehen, sondern ich möchte es etwas weiter fassen.
Es ist mittlerweile, glaube ich, unfraglich – und ich kann dies aus meiner eigenen Zeit als forschender Medizinphysiker aus persönlichem Erleben bestätigen –, dass im Data-Mining ein enormes Potenzial für die Verbesserung nicht nur von Diagnostik, sondern auch von Prophylaxe, Therapie und Nachsorge besteht. Durch die Verwendung von Daten können nicht nur Erkrankungen vermieden oder zumindest verzögert, sondern auch Diagnosen verbessert und Therapien individuell und effektiver gestaltet werden. Dabei ist es unfraglich, dass wir zugleich die Vorgaben hinsichtlich des Datenschutzes berücksichtigen müssen. Aber in kaum einem Bereich ist die Abwägung zwischen der Nutzung von Daten mit den damit verbundenen Risiken und dem Nutzen für die Menschen klarer als im Bereich der Medizin.
In der Debatte am 2. März waren wir uns einig, dass wir das Potenzial von Data-Mining nutzbar machen müssen. Allerdings sehen wir gerade einen Stillstand in der Forschungs- und Innovationspolitik, der gravierende negative Folgen haben kann. Die Bundesforschungsministerin war häufiger in Toronto als in Brüssel,
wo es jetzt den europäischen Datenraum voranzubringen und die Rolle der Forschung zu stärken gilt.
Insbesondere die Wettbewerbsfähigkeit in Bezug auf die Technologien der Zukunft könnte deutlich geschmälert werden, wenn wir nicht schnell handeln. Herr Staatssekretär Mario Brandenburg, ich glaube, wir sind uns da sehr einig. Dies gilt für keinen Bereich so deutlich wie für die klinische Forschung. Das muss jetzt geschehen.
Daher fordern wir in unserem kürzlich eingebrachten Antrag eine differenzierte Analyse über Stärken und Schwächen des deutschen Forschungsstandortes im Bereich der Gesundheitsforschung, insbesondere mit Blick auf die Rolle des Datenschutzes sowie die behördlichen Aufsichts- und Gremienstrukturen. Es ist wichtig, dass wir die Verfügbarkeit und Nutzung von Gesundheitsdaten für die Forschung deutlich verbessern.
Auch und insbesondere auf der Basis des nun vorliegenden TAB-Berichtes, für den auch ich mich herzlich bedanke, fordern wir die Bundesregierung auf, auf eine schnelle Beschlussfassung des European Health Data Space hinzuwirken und schnellstmöglich den angekündigten Entwurf für das Gesundheitsdatennutzungsgesetz vorzulegen. Nur so können wir sicherstellen, dass wir die Gesundheitsdaten verantwortungsvoll und im Sinne der Menschen zügig verwenden können.
Wir brauchen zudem ein Sofortprogramm zur Entbürokratisierung der Universitätsmedizin. Die Universitätsmedizin ist ein wichtiger Nährboden für die Forschung und Entwicklung sowie für Start-ups. Wir müssen sicherstellen, dass sie strukturell gestärkt wird, um ihre Rolle als Scharnier zwischen Forschung und Transfer zu erfüllen.
Insgesamt müssen wir also sicherstellen, dass wir die Chancen von Data-Mining, wie im TAB-Bericht deutlich beschrieben, im Gesundheitswesen nutzen, aber auch die Bedenken hinsichtlich des Datenschutzes berücksichtigen. Es ist wichtig, dass wir klare Regeln für die Verwendung von Gesundheitsdaten aufstellen und sicherstellen, dass diese Regeln auch eingehalten werden, und das, ohne die Bürokratie ins Absurde zu treiben.
Mit der elektronischen Patientenakte, in der letzten Legislatur von uns auf den Weg gebracht, entsteht ein enormes Potenzial für die medizinische Forschung, da so Daten von vielen Patienten potenziell zur Verfügung stehen können. Die Freiwilligkeit der dazu notwendigen Datenspende gibt jedem Patienten die Möglichkeit, aktiv zur medizinischen Forschung beizutragen und somit einen wichtigen Beitrag zur Verbesserung der Gesundheitsversorgung zu leisten. Dies nützt allen und natürlich am Ende auch dem Einzelnen, der dieses freigegeben hat. Mit der Möglichkeit, für jedes Dokument individuell zu entscheiden, wer darauf zugreifen darf, wird dem Aspekt des Datenschutzes Rechnung getragen. Es ist jedoch auch wichtig, dass die behördlichen Aufsichts- und Genehmigungsstrukturen angepasst werden, meint: effektiv und zielgerichtet arbeiten können, um einen sorgsamen Umgang bei gleichzeitig hoher Geschwindigkeit der Verarbeitung der Gesundheitsdaten zu gewährleisten und somit das Vertrauen der Patienten in die ePA und die Datenspende zu stärken.
Als Wissenschaftler sei mir erlaubt, am Schluss noch anzufügen: Wenn du beginnst und ein Chaos von Daten vor dir siehst, KI oder andere Mittel und Methoden nutzt und in diesem Chaos eine Ordnung schaffst und ein System dahinter siehst, daraus Regeln ableiten kannst, daraus Therapien entwickeln kannst und am Ende einen Patienten nach Hause gehen siehst, dem du mit diesen Erkenntnissen hast helfen können: Meine Damen und Herren, es gibt nichts Schöneres.
Herzlichen Dank.
Nächster Redner: für die SPD-Fraktion Dr. Holger Becker.
Sehr geehrte Frau Präsidentin! Werte Kolleginnen und Kollegen! In einer Welt, in der Daten zur neuen Währung geworden sind, ist Data-Mining ein unverzichtbares Werkzeug, um die verborgenen Schätze in den Daten zu heben und wertvolle Erkenntnisse für Unternehmen, Forschungseinrichtungen und die Gesellschaft als Ganzes zu gewinnen. Ich denke, wir alle hier sind uns relativ einig über diesen Punkt.
Lassen Sie uns mal einen etwas genaueren Blick in den Bereich „Forschung und Wissenschaft“ werfen; denn Forschung, Wissenschaft und Daten sind seit jeher eng miteinander verknüpft. Ohne eine hochwertige und breite Datengrundlage kann echte Wissenschaft nicht gelingen. Für eine exzellente Forschung und mutige Innovationen benötigen wir deshalb einen unkomplizierten, weitgehend standardisierten und datenschutzrechtlich konformen Zugang zu Daten. Genau deshalb hat sich diese Fortschrittskoalition im Koalitionsvertrag dazu verpflichtet, den Zugang zu Forschungsdaten für öffentliche und private Forschung mit einem Forschungsdatengesetz umfassend zu verbessern und – das ist zumindest genauso wichtig – auch zu vereinfachen. So sollen neben dem Zugang zu Daten auch die Rahmenbedingungen für die Weitergabe, Aufbewahrung und Sicherung von Daten formuliert werden. An diesem Thema sind wir also dran.
Das Potenzial der bereits vorhandenen und stets wachsenden Datenbestände in Deutschland, in Europa, in der ganzen Welt ist immens. Um diesen Datenschatz sinnvoll und innovationsfördernd zu heben, braucht es aber Methoden wie Data-Mining. Das Büro für Technikfolgen-Abschätzung des Bundestages hat in dem vorliegenden Bericht auf 310 Seiten sehr ausführlich und dabei gut verständlich skizziert, wie für nahezu alle Fragestellungen der modernen Welt Data-Mining von großer Hilfe sein kann; denn beim Data-Mining werden im Grunde bestehende Informationen gesammelt, und aus ihnen werden Schlussfolgerungen gezogen, also neue Informationen generiert. Bereits bestehendes Wissen wird genommen, um neues Wissen zu schaffen – Wissenschaft.
Dabei betont das TAB-Büro allerdings auch, wie wichtig es ist, den Prozess der Standardisierung, Normierung und Qualitätssicherung in der Datenerhebung weiter voranzutreiben und risikoreiche Anwendungen stärker zu regulieren. Genau deshalb ist es uns wichtig, dass wir nicht nur auf nationaler Ebene unser geplantes Forschungsdatengesetz auf die Straße bringen, sondern auch auf europäischer Ebene mit der KI-Verordnung einen aktuell weltweiten Standard setzen. Auch diese verfolgt die risikobasierte Einstufung von KI-Anwendungen und wird dabei helfen, einen enorm wichtigen und richtungsweisenden Regulierungsrahmen zu etablieren.
Datengetriebene Forschung kann uns dabei helfen, Antworten auf die dringendsten Fragen in unserer heutigen Zeit zu liefern, wie eine bessere Berechnung von Klimamodellen oder die Weiterentwicklung von Schlüsseltechnologien wie Biotechnologie, Medikamentenentwicklung oder aber auch im Bereich Mobilität und Produktionssteuerung. Dabei muss auch thematisiert werden, wie die Auswahl von Daten zustande kommt; denn es ist genauso relevant, zu wissen und zu verstehen, welche Daten durch bewusste Auswahl oder unbewusste Prozesse nicht verwendet werden, wie zu wissen, welche Daten in Auswertungen und Einschätzungen einfließen.
Nicht nur feste, bestimmte, programmierte Algorithmen oder gewöhnliche KI kommen als Werkzeuge für Data-Mining infrage; ein noch viel potenterer Ansatz im Bereich Data-Mining ist generative KI wie beispielsweise ChatGPT – ich glaube, es gibt inzwischen keine Bundestagsdebatte mehr, in der das Wort nicht mindestens einmal vorkommt –, dessen Potenzial und Implikation für unser tägliches Leben wir im Moment tatsächlich kaum erahnen können. Das TAB-Büro hat auch hierzu einen ausführlichen ersten Bericht zusammengetragen, der neben den allgemeinen Entwicklungen samt Stärken und Schwächen wertvolle Denkanstöße für den Deutschen Bundestag enthält. Dieser wurde heute Morgen in unserer TAB-Berichterstatter/-innenrunde verabschiedet – Frau Kraft hat schon drauf hingewiesen – und wird heute noch veröffentlicht.
Daran sieht man, dass das TAB-Büro – hier beginnt mein typischer TAB-Werbeblock – nicht nur wichtige Hintergrundberichte wie den am heutigen Tag diskutierten Bericht zu Data-Mining zu erstellen in der Lage ist, sondern auch brandaktuelle Themen schnell und fundiert aufbereiten kann. Mein Dank gilt an dieser Stelle den Mitarbeiterinnen und Mitarbeitern des TAB-Büros, die es in so kurzer Zeit im Rahmen eines neuen agilen Formates bewerkstelligt haben, uns diesen Bericht zur Verfügung zu stellen.
Die Lektüre dieses Berichtes kann ich wirklich jedem nur wärmstens ans Herz legen.
Ebenso ans Herz legen möchte ich Ihnen jetzt schon, liebe Kolleginnen und Kollegen, die Teilnahme an dem Werkstattgespräch am 25. Mai 2023, das das TAB-Büro zum Thema Wasserstoffpartnerschaften organisiert hat. Das TAB-Büro bietet uns also vielfältige Formate an.
Politik braucht fundiertes Wissen, um Daten in politisches Handeln zu übersetzen. Hierzu haben wir mit dem TAB-Büro ein ganz ausgezeichnetes Werkzeug.
Vielen Dank.
Nächster Redner: für die Fraktion Bündnis 90/Die Grünen Maik Außendorf.
Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen von den demokratischen Fraktionen! Data-Mining – vereinfacht gesagt: die Aufbereitung, Strukturierung, Nutzbarmachung und Auswertung großer Datenmengen – ist eine wesentliche Komponente der sozial-ökologischen digitalen Transformation. Daher begrüße ich es sehr, dass wir diesen exzellenten, umfassenden Bericht aus dem Büro für Technikfolgen-Abschätzung bekommen haben. Dank also den Mitarbeiterinnen und Mitarbeitern, besonders aber auch den Berichterstatterinnen und Berichterstattern im Ausschuss, die diesen langen Bericht mit editiert haben!
Auf die konkreten Projektbeispiele sind die Vorredner/-innen schon ausgiebig eingegangen. Deswegen möchte ich mich hier auf drei Punkte konzentrieren:
Der erste Punkt ist Open Data; denn der Bericht zeigt ganz besonders auch das Potenzial von offenen Daten auf. Es muss unser Anspruch sein, dass Forschungsergebnisse und Daten, die mit staatlichen Mitteln erzeugt werden, offen sind, getreu dem Motto: Public Money – Public Data.
Die Bundesregierung hat in der Digitalstrategie den Punkt Open Data schon aufgenommen. Das ist ein wichtiger Punkt. Das BMDV hat festgehalten, dass in der Verwaltung die Open-Data- und die Datenkompetenz generell gestärkt werden sollen, und im Koalitionsvertrag haben wir festgelegt, einen Rechtsanspruch auf Open Data einzuführen. Das ist wichtig; denn Open Data ermöglicht es gerade Start-ups, Open-Source-Entwicklerinnen und -Entwicklern, der Zivilgesellschaft und der Forschung, neue Projekte und innovative Geschäftsmodelle zu entwickeln.
Ein weiteres Projekt der Bundesregierung beim Umgang mit Daten ist das Dateninstitut. Mit dem Dateninstitut schaffen wir eine Ergänzung zu den europäischen Bemühungen für ein inklusives Datenökosystem. Das Ziel ist, dass wir die Nutzbarmachung von Daten durch die gesamte Gesellschaft vereinfachen und vor allen Dingen rechtssicher und datenschutzkonform gestalten.
Jetzt ist aber überall da, wo Daten gewonnen werden, nicht nur Licht, sondern auch Schatten. Insbesondere wenn es um unsere Daten geht, die wir als Nutzende, als Menschen erzeugen, gibt es natürlich große Potenziale für Wirtschaft und Forschung, aber auch eben auch Missbrauchs- und Diskriminierungspotenzial. Daher ist es gut und wichtig, dass wir mit der Datenschutz-Grundverordnung ein starkes Instrument zum Schutz personenbezogener Daten haben. Das gilt insbesondere natürlich auch für generative KI wie ChatGPT; das Problem ist ja schon mehrfach adressiert worden. Da müssen wir auch zu einer sinnvollen Regulierung kommen. Aber wichtig ist: Es darf kein Komplettverbot geben. Dadurch würden wir vor allem gewünschte und legale Nutzung unterbinden, könnten gleichzeitig aber illegale Nutzung nicht ganz unterbinden; denn technisch wäre so ein Verbot leicht zu umgehen. Kurz gesagt: Wir brauchen eine risikobasierte Regulierung bestimmter Anwendungsfälle und Transparenzpflichten, aber keine generellen Verbote.
Ich komme zum Schluss und möchte aus dem Fazit des Berichtes einen Satz zitieren, nämlich:
Die Schaffung eines Mehrwerts unter Achtung der freiheitlichen Grundordnung ist folglich eine Frage der sinnvollen Ausgestaltung derartiger Prozesse.
Genau auf dieser Basis arbeiten wir in der Koalition weiter und werden beherzt die digitalpolitischen Vorhaben umsetzen.
Ich schließe die Aussprache.
Interfraktionell wird Überweisung der Vorlage auf Drucksache 20/5149 an die in der Tagesordnung aufgeführten Ausschüsse vorgeschlagen. – Ich sehe keine weiteren Vorschläge. Dann können wir so verfahren wie vorgeschlagen.