Künstliche Intelligenz und Big Data: Ansätze einer umweltpolitischen Regulierung

[caption id="attachment_2661" align="alignleft" width="215"] Dr. Peter Gailhofer vom Öko-Institut[/caption]

Digitale Technologien sind gerade aus ökologischer Perspektive eine ambivalente Angelegenheit: Sie sollen einerseits ein Treiber für die Nachhaltigkeit sein, etwa indem sie helfen, Energie oder Ressourcen zu sparen. Andererseits stehen dem auch schwerwiegende Umweltfolgen und -risiken gegenüber. Dr. Peter Gailhofer spricht dazu bei der Jahrestagung des Öko-Instituts und gibt im Blog einen Einblick.

Der Wissenschaftliche Beirat der Bundesregierung (WBGU) hat kürzlich festgestellt, dass die Digitalisierung auf dem Weg ist, ein „Brandbeschleuniger von Wachstumsmustern“ zu werden, „die die planetaren Leitplanken durchbrechen“. Anstatt die Chancen der Digitalisierung dafür zu nutzen, unsere immer dringlicheren ökologischen Probleme zu lösen, scheinen die neuen Technologien also vieles in vieler Hinsicht noch viel schlimmer zu machen. Beispielsweise werden Effizienzpotenziale der Digitalisierung durch einen gigantischen zusätzlichen Energieverbrauch, etwa unseres digitalen Medienkonsums, konterkariert: Gerade hat ein französischer Think-Tank berechnet, dass allein das weltweite Streaming von Online-Videos etwa ein Prozent der globalen Treibhausgasemissionen verursachen soll. Schon eine Staffel „Game of Thrones“ ist angeblich so schädlich wie ein Inlandsflug.

Beispiele für im Ergebnis wenig ökologische Angebote oder eine Verstärkung problematischer Konsum- oder Verhaltensmuster sind zahlreich: Führen Online-Handel und zielgenaue Werbung in digitalen Medien nicht womöglich zu mehr Konsum, mehr Treibhausgasen oder neuen Problemen bei der Durchsetzung von Umweltstandards? Bewirken digital getriebene Mobilitätsangebote eher einen wachsenden Individualverkehr und verstärkte Konkurrenz für den ÖPNV statt einer im Ergebnis nachhaltigere Mobilität?

Grundsätzliche Weichenstellungen erforderlich

Angesichts dieser ökologischen Relevanz ergibt es großen Sinn, dass die Umweltpolitik die Regulierung der Digitalisierung als ein bedeutendes Thema für sich entdeckt hat – in den letzten Monaten sind beispielsweise die ersten entsprechenden Politikvorschläge des BMU veröffentlicht worden. Auch das Öko-Institut hat sich im Rahmen eines umfassenderen Projekts zur Digitalisierung im letzten Jahr eingehend mit Regulierungsoptionen aus ökologischer Sicht befasst.

Ungeachtet dessen, dass eine plausible regulatorische Strategie natürlich viele und unterschiedlichste Maßnahmen umfassen wird, scheinen sich mindestens zwei grundsätzliche Ansätze umweltpolitischer Weichenstellungen herauszukristallisieren. Zum einen soll das Brandbeschleuniger-Szenario vermieden und ökologische Potenziale der Digitalisierung gehoben werden, indem digitalen Anwendungen der Umweltschutz „eingepflanzt“ wird. Der zweite Ansatz setzt am „Produktionsmittel“ digitaler Anwendungen, dem „Rohstoff“ der Digitalisierung an: Man will schon den Zugang zu und damit die Nutzungsmöglichkeiten an Daten in einer Weise regeln, die dem Gemeinwohl am besten zugutekommt.

Ansatz 1 – Algorithmen ökologisch ausrichten

Die Vorschläge, beispielsweise eine vorsorgliche Prüfung und Regulierung von Algorithmen, sind zunächst einmal sehr plausibel. Die meisten der von Algorithmen gesteuerten Anwendungen sind Systeme, die Menschen Entscheidungen vorschlagen oder diese gleich vollautomatisch übernehmen – egal, ob es um die Wegfindung, Konsumentscheidungen, Verwaltungshandeln oder den Einsatz von Ressourcen oder Energie in Produktionsprozessen geht. Algorithmen setzen die Regeln, die dafür sorgen, dass bestimmte Zielsetzungen oder Präferenzen im Ergebnis dieser Entscheidungen besonders wirksam und effizient verwirklicht werden. Diese Regeln entscheiden also darüber, ob vorgeschlagene Entscheidungen „gut“ oder „schlecht“ sind, auch in ökologischer Hinsicht.

Zum Beispiel ist es denkbar, dass ein solches System zwar den kostengünstigsten Transportweg für Personen oder Waren findet, der aber zugleich auch der umweltschädlichste ist. „Schlechte“ Algorithmen können nicht nur Menschen diskriminieren, sondern auch problematische Konsummuster triggern oder Umweltschäden verursachen. In Anbetracht der Millionen von Einzelentscheidungen, die sich ständig auf solche vielleicht ökologisch problematischen Algorithmen stützen, kann man sich ziemlich gut vorstellen, was der WBGU mit seiner „Brandbeschleuniger“-Metapher meint.

Gravierende Fehler im Design könnte eine Institution, die Algorithmen vor ihrer Markteinführung nach bestimmten Kriterien prüft, sicher in manchen Fällen verhindern. Auch die Schaffung und Durchsetzung von Ordnungsrecht, das bestimmte Ziele für Algorithmen verbindlich macht, wird vielfach unverzichtbar sein. Gesetzliche Vorgaben für digitale Produkte, wie beispielsweise in der Öko-Design-Richtlinie, könnten sicherlich einiges bewegen. Trotzdem dürfte ein isolierter Ansatz, ökologische Ziele durch Verbote oder Design-Vorgaben für Algorithmen zu „programmieren“, auch auf Widerstände stoßen.

Hürden für die Regulierung von Algorithmen

Eine grundlegende Hürde ist es, dass Algorithmen womöglich maximale Umweltschäden verursachen könnten, nicht weil sie „schlecht“ sind, sondern weil sie im Sinne ihrer Entwickler gerade besonders gut funktionieren. Unternehmen deshalb die Verfolgung von Gemeinwohlzielen vorzuschreiben, ist politisch sicherlich ein anspruchsvolles Vorhaben. Wie stünden politisch die Chancen, BMW bei der Programmierung seiner Navigationssoftware das Ziel vorzuschreiben, die Nutzer ihrer Kfz zum Umstieg auf den ÖPNV zu bewegen? Die Abschätzung von Umwelteffekten ist außerdem eine sehr komplexe Angelegenheit – auch wenn man einen ökologischen „Algorithmen-TÜV“ im notwendigen Umfang gegen die zu erwartenden politischen Widerstände durchsetzen kann, bleibt ein regulatorisches Mammutprojekt zu stemmen.

Schwierigkeiten ergeben sich außerdem aus technischen Gründen: Immer öfter werden die relevanten Anwendungen beispielsweise auf selbstlernende Algorithmen bauen, die autonom aufgrund von großen Datenmengen lernen und auf der Grundlage der Datenanalyse in Echtzeit Entscheidungen vorschlagen oder autonom vollziehen. Solche Entscheidungssysteme leiten ihre konkreten Entscheidungsregeln quasi selbstständig aus einer bestimmten Datengrundlage ab. So verändern sich Algorithmen ständig, werden komplexer und schwerer zu kontrollieren.

Vor allem hat die Datengrundlage (darauf komme ich gleich zurück) ganz maßgeblichen Einfluss darauf, ob „falsche“ oder „richtige“ Entscheidungen getroffen werden – falsche oder unvollständige Daten (ein „Data-Bias“) führen also automatisch zu an falschen Steuerungszielen ausgerichteten Entscheidungen.

Ansatz 2 – Zugang und Nutzung von Daten am ökologischen Gemeinwohl ausrichten

Das heißt natürlich nicht, dass Vorschläge ordnungsrechtlicher Leitplanken oder einer vorsorglichen Kontrolle besonders risikoträchtiger Algorithmen nicht weiterverfolgt werden sollten. Gerade die eben erwähnte Bedeutung von Daten für Algorithmen spricht aber dafür, intensiver über die zweite grundlegende Option einer ökologischen Regulierung der Digitalisierung nachzudenken.

Seit einigen Jahren gibt es eine intensive Debatte darüber, wie, von wem und wozu die Ressource Daten in Zukunft genutzt werden soll. Diese Debatte berührt ganz unterschiedliche fundamentale Aspekte – Probleme ökonomischer Machtkonzentrationen, von Privatsphäre und (demokratischer) Selbstbestimmung sowie politischer Handlungsfähigkeit werden ebenso verhandelt, wie Fragen wirtschaftlicher Verteilungsgerechtigkeit. Die Debatte darüber, wie Zugang und Nutzung von „Big Data“ und datengetriebener Entscheidungsassistenten im Sinne der Ökologie geregelt werden sollten, ist dagegen erst am Anfang.

Das aktuelle Paper des Öko-Instituts hat sich vor diesem Hintergrund mit sehr unterschiedlichen Vorschlägen zur Regulierung von Big Data befasst: Dem Vorschlag eines exklusiven Datenerzeugerrechts, der Idee einer möglichst weitgehenden Streuung des Datennutzens im Sinne eines „Daten-für-alle-Gesetzes“ und dem bislang noch weniger berücksichtigten Entwurf eines durch eine Behörde zentral zu verwaltenden repräsentativen Dateneigentums. Dabei haben wir eine ganze Reihe von Anhaltspunkten erarbeitet, an denen sich eine solche Positionierung (und auch weitere Forschung in diese Richtung) in der komplizierten Thematik orientieren könnte. Stark vereinfacht (Einzelheiten im Paper) kann man zwei übergeordnete Ansatzpunkte unterscheiden, durch die eine Datenregulierung für ökologische Ziele relevant wird.

Akteure: Wer kann Daten nutzen?

Erstens muss sich auch die Umweltpolitik für die Frage interessieren, wer durch die Regelungen tatsächlich über die Ressource Daten verfügen kann. Der oder die Träger*in solcher Verfügungsrechte bestimmt letztlich darüber, welche Ziele durch Algorithmen implementiert werden. In ökologischer Hinsicht wird es häufig einen großen Unterschied machen, ob kommerziell orientierte Akteure oder solche, die im öffentlichen Interesse handeln, über die Verwendung von Daten entscheiden. Ökonomische Dynamiken sorgen außerdem dafür, dass – wie das bei sozialen Netzwerken der Fall ist – bei vielen Anwendungen am Ende nur ein Anbieter den Markt beherrschen wird: Datenreichtum führt zu den „besser“ funktionierenden Angeboten, verhilft zu mehr Usern und kann damit zur Bildung der berüchtigten digitalen Monopole beitragen. Google, Amazon und Co. machen sich durch ihre Marktmacht und ihren wachsenden technologischen Vorsprung zunehmend unverzichtbar, wodurch eine strikte Regulierung nicht einfacher wird. Dieser Vorsprung in Sachen Technik und Informationen führt ganz im Gegenteil sogar dazu, dass Amazon, Facebook und Co. häufig selbst schon als die faktischen Regulierer betrachtet werden. Ob dem ökologischen Gemeinwohl durch eine solche private Regulierung ausreichend Rechnung getragen wird, darf man stark bezweifeln.

Aus umweltpolitischer Sicht ist die Verhinderung von Marktkonzentrationen deshalb ein wichtiges Ziel der Datenregulierung. Das ist eine relevante Erkenntnis: Zwar beanspruchen es alle Regulierungsvorschläge für sich, Datenmonopole zu verhindern, sie sind aber nicht gleichermaßen geeignet, dieses Regulierungsziel auch zu erreichen. So wird vor allem Vorstößen zur Einführung eines Dateneigentumsrechts vielfach entgegen gehalten, dass sie Marktkonzentrationen eher verstärken würden, als zu deren Verhinderung beizutragen.

Ein umweltschädigender Data-Bias?

Zweitens sollte Regulierung sich auch kritisch mit der Frage beschäftigen, welche Daten für die Entwicklung und den Betrieb digitaler Anwendungen genutzt werden. Dass ein mangelhafter Dateninput zu einem diskriminierenden „Data-Bias“ führen kann, habe ich schon erwähnt. Die nähere Betrachtung bestimmter Beiträge zum Regulierungsdiskurs deutet aber auch darauf hin, dass datengetriebene Anwendungen quasi einen umweltschädigenden, ökologische Kosten externalisierenden Data-Bias entwickeln könnten.

Viele datengetriebene Systeme entwickeln ihre Entscheidungsvorschläge auf der Grundlage großer Mengen an Verhaltensdaten oder Daten über individuelle Präferenzen. Nach der Vorstellung vieler (prominenter) Autoren liegt genau darin das utopische Potenzial der neuen Technologien: „Smarte“ algorithmische Steuerungen sollen automatisch dafür sorgen, dass diese Präferenzen und Bedürfnisse durch datenoptimierte Märkte befriedigt werden. In „smarten“ Städten sollen massenhafte Daten über spontane Präferenzentscheidungen zu einem Optimum gesellschaftlicher Koordination führen und damit politische Verhandlung oder rechtliche Steuerung letztlich ersetzen.

Aus umweltpolitischer Sicht stellt sich dabei die Frage, ob ein Input von Präferenzdaten überhaupt geeignet ist, ökologisch nachhaltige Entscheidungsvorschläge zu produzieren. Einerseits sind Daten über individuelle Präferenzen aus einer Nachhaltigkeitsperspektive unvollständig: Wie steht es beispielsweise um die Präferenzen zukünftiger Generationen oder „bloße“ Umweltinteressen? Viele der aktuellen Auseinandersetzungen um ökologische Probleme – und auch wissenschaftliche Erkenntnisse der Umweltökonomie – zeigen ja eindrücklich, dass eine ökologische Transformation Erwägungen erfordert, die individuellen Präferenzen und Prioritäten oft nicht entsprechen.

Eng damit verbunden ist ein anderes Problem: Entscheidungsvorschläge verarbeiten schon bestehende Präferenzen, die daraufhin getroffenen Entscheidungen fließen dann als Feedback in die nächsten algorithmischen Entscheidungsprozesse ein. Dadurch entsteht nach Auffassung von Kritikern eine Art Rückkopplungsschleife, eine sich selbst erfüllende Prophezeiung. Die betreffenden Systeme orientieren sich also „automatisch“ am gesellschaftlichen Status quo. Ein gesellschaftlicher Wandel ist aber auf eine Orientierung an einer erstrebenswerten Zukunft, an Leitbildern, Normen oder Werten (wie beispielsweise eben den Rechten zukünftiger Generationen) angewiesen, auf die aufgrund von Daten über bestehende Präferenzen und alltägliche Verhaltensmuster gerade nicht zurückgeschlossen werden kann.

Was folgt aus diesen beiden Aspekten?

Auch mit Blick auf die Datenregulierung sollte sich die Umweltpolitik darum bemühen, die Stellschrauben zu finden, um ökologische Zielsetzungen in die Prozesse einzuspeisen, durch die zukünftige Entscheidungen getroffen oder begründet werden. Zumindest in bestimmten Bereichen könnte sich beispielsweise eine Strategie, die auf „Daten-für-alle“ setzt, als problematisch erweisen, weil sie gerade besonders schädlichen Anwendungen zur Durchsetzung verhilft. Das könnte zum Beispiel bedeuten, dass es in diesen Bereichen besser wäre, den Zugang zur Ressource (Feedback-)Daten bevorzugt für Akteure und Anwendungen zu ermöglichen, die damit ökologische Ziele verfolgen.

Zum anderen bieten die neuen technologischen Möglichkeiten auch Chancen, wichtigen Entscheidungen statt Präferenzdaten eine autonome, reflektierte Version bürgerlicher Präferenzen entgegen zu setzen – also die Möglichkeit echter Mitbestimmung über die Nutzung von Daten zu eröffnen. So wird beispielsweise auf kommunaler Ebene mit alternativen Formen der Allokation von Daten experimentiert, die auch das Potenzial haben, zu einer ökologisch innovativen Datennutzung beizutragen.

Dr. Peter Gailhofer ist Experte für internationales und nationales öffentliches Recht, insbesondere in seinen umwelt- und planungsrechtlichen Bezügen und arbeitet im Bereich Umweltrecht & Governance am Standort Berlin.

Weitere Informationen:

Working-Paper „Regulierung der Datenökonomie – Ansätze einer ökologischen Positionierung“