Vor einer Weile hat mich das Bundesamt für Umwelt für die Zeitschrift „die umwelt“ zu KI, Nachhaltigkeit und Verantwortung interviewt. Ein Satz aus diesem Gespräch lässt mich seitdem nicht los. Ich hatte ihn fast nebenbei gesagt hatte, aber er beschreibt einen zentralen Mechanismus beschreibt: „KI ist auf uns angewiesen. Sie braucht unsere Gedanken, unsere Handlungen, unsere Kreativität. Ohne uns hat sie kein Futter.“
Diese scheinbar simple Beobachtung verweist auf ein Paradox der generativen KI, und zwar eines mit weitreichenden Konsequenzen.
Das Paradox: KI als Parasit des menschlichen Denkens
Generative KI-Modelle wie ChatGPT funktionieren, weil sie mit riesigen Mengen menschlich produzierter Texte, Bilder und Daten trainiert wurden. Sie können kombinieren, variieren, neu anordnen – aber sie können nichts „Originäres“ schaffen. Jede Ausgabe ist letztlich eine Rekombination dessen, was Menschen gedacht, geschrieben, gezeichnet haben.
Das wäre an sich kein Problem, wenn nicht drei Entwicklungen zusammenkämen:
Erstens: KI-generierte Inhalte überschwemmen zunehmend das Internet. Wenn KI zu viele von sich selbst erzeugte Inhalte verarbeitet, droht sie an Qualität zu verlieren – ein Effekt, der unter dem Begriff „Model Collapse“ diskutiert wird.
Zweitens: Gleichzeitig killt KI die Motivation von Menschen, eigene Inhalte zu produzieren. Warum mühsam selbst schreiben, wenn KI es in Sekunden erledigt? Wir werden immer mehr zu Kuratorinnen und Kuratoren von generativen Outputs statt zu Schöpferinnen und Schöpfern von Inputs.
Drittens: Die Kosten dieser Entwicklung – an allererster Stelle Urheberrechtsverletzungen, aber in Abwesenheit eines globalen CO2-Preises auch der Energieverbrauch (respektive die damit verbundenen Emissionen) und teils der Wasserverbrauch der Datenzentren – wurden nie internalisiert. Wäre geistiges Eigentum fair entschädigt worden, hätte generative KI in ihrer jetzigen Form gar nie entstehen können.
Das Ergebnis ist eine paradoxe Abhängigkeit: Je erfolgreicher generative KI wird, desto mehr zerstört sie ihre eigene Grundlage.
Warum uns das nicht überraschen sollte
Der kanadische Autor Cory Doctorow beschreibt in seinem Buch „Enshitification“D, wie digitale Plattformen einem wiederkehrenden Muster folgen: Erst begeistern sie die Nutzenden mit kostenlosem, hochwertigem Service. Dann beginnen sie, diese Nutzenden auszubeuten – durch Werbung, Datensammlung und künstliche Verknappung. Am Ende werden auch die Werbekunden ausgebeutet. Das Resultat: Die Plattform wird für alle schlechter, bis sie zusammenbricht oder irrelevant wird.
Bei generativer KI erleben wir eine Variante dieses Musters. Die Tech-Firmen haben sich an fremdem geistigen Eigentum bedient, versprechen „Demokratisierung“ und Effizienz, verschleiern aber systematisch die ökologischen und sozialen Kosten. Und sie tun dies in einem Kontext hochspekulativer Finanzierung – verbreitet ist bereits die Rede von einer Bubble, die zu platzen droht.
Was mich dabei besonders nachdenklich macht: Die Tech-Firmen haben sich in den letzten drei Jahren massiv diskreditiert, wenn es um Nachhaltigkeit geht. Bis vor Kurzem setzten sie sich alle als selbsternannte Nachhaltigkeitspioniere ins Szene. Heute wird vieles über Bord geworfen. Das dominante Ethos im Silicon Valley ist vollkommen opportunistisch und zielt definitiv nicht auf einen sinnvollen Beitrag zur nachhaltigen Entwicklung ab.
Was daraus folgt
Diese Entwicklung hat drei Implikationen, die mir wichtig sind:
Für die Nachhaltigkeitsdebatte: Die KI-Entwicklungen – und der damit verbundene Hype – überlagern zentrale Nachhaltigkeitsthemen. Kurz schien es, als hätten wir einen gesellschaftlichen Konsens in Richtung „Leave No One Behind“. Mit dem KI-Boom in Kombination mit steigenden geopolitischen Unsicherheiten ist dieser Fokus stark ins Wanken geraten. Aus Nachhaltigkeitssicht können wir uns diesen Stillstand nicht leisten.
Für unsere Verantwortung: Die Verantwortung liegt nicht primär bei den Nutzenden. Wenn ich beim Grossverteiler ein Produkt kaufe, ist es nicht meine Aufgabe zu überprüfen, ob bei der Herstellung Gesetze verletzt wurden. Die Nutzenden haben weder die Verantwortung noch die Macht, strukturelle Probleme der Technologie zu lösen. Das ist Aufgabe von Politik und Unternehmen. Unsere Verantwortung liegt woanders: Bewusst zu entscheiden, wo wir KI einsetzen. Will ich mein Denken schärfen oder an eine Maschine delegieren?
Für den Wert menschlicher Kreativität: KI-generierte Inhalte, darunter viel Slop, untergraben unser Vertrauen ins Internet. Insofern bin ich der KI fast dankbar. Sie vertreibt uns teilweise aus dem Internet – und lässt uns hoffentlich den Wert echter Begegnungen, originären Denkens und kreativer Arbeit wieder schätzen. Je nachdem ausserhalb der Reichweite von hungrigen Datenmodellen.
Deswegen – und damit schliesst sich der Kreis – ist die Tatsache, dass KI-Plattformen auf uns angewiesen sind, vielleicht der wichtigste Hebel, den wir haben. Sie brauchen unsere Gedanken, unsere Kreativität, unser Denken. Die Frage ist: Wann geben wir das her – und wann behalten wir es für uns?
Das vollständige Interview ist in der Zeitschrift „die umwelt“ des Bundesamts für Umwelt erschienen: dieumwelt.ch
Mehr Texte und Vorträge zu KI-Ethik, Nachhaltigkeit und Verantwortung finden Sie unter Texte & Medien.