*Move Slow andHeal Things*
By Julia Kloiber, Digitalisierungs-Expertin
“Nennt mir 10 Gründe, warum die Welt morgen untergehen wird.” Der Künstler Steve Lambert steht auf der Bühne der re:publica als er dem Publikum diese Frage stellt. Die ersten Hände schnellen nach oben. Eine Flut, ein Atomkrieg, ein Meteoriteneinschlag, eine KI Killermaschine … Aus jeder Ecke des Saals ertönen Antworten. Sie werden auf eine Tafel notiert. Es dauert keine 2 Minuten, da ist die Tafel voll. Steve greift zum Mikrofon und stellt die nächste Frage. “Nennt mir zehn Gründe, warum die Welt morgen gerettet sein wird.” Betretene Stille und vereinzeltes Gelächter. Langsam geht eine Hand nach oben …
Ich muss immer wieder an diesen Moment zurückdenken. Warum fällt es uns leichter, uns den Untergang der Welt vorzustellen, als eine Welt, die gedeiht? Dabei hat sich unser Leben in den letzten Jahrzehnten doch stetig verbessert. Warum sind wir trotzdem so pessimistisch, was unsere Zukunft angeht? Wir leben in einer Zeit der multiplen Krisen: die Klimakrise, Kriege, eine mehrjährige Pandemie. Uns steckt viel in den Knochen. Es ist schwer, den Überblick zu behalten. Die Welt scheint komplexer denn je. Wer durchdringt schon Klimaforschung, Technologieentwicklung und Außenpolitik bis ins Detail? Die Krisen unserer Zeit, sie halten uns in Atem. Wir sind laufend damit beschäftigt, Schaden abzuwenden, das Eintreten des Schlimmsten zu verhindern. Was dabei auf der Strecke bleibt, ist das Gestalten. Uns fehlen Visionen und Zielbilder, auf die wir hinarbeiten, die uns motivieren und Hoffnung geben. Zielbilder, die wünschenswerte Zukünfte skizzieren und sich nicht nur um den Erhalt des Status Quo drehen.
Wie sieht das Leben in einer Zukunft aus, in der die Klimakrise überwunden ist? Mittels dieser Frage entwirft das britische Designbüro Superflux in einem kollektiven Prozess positive Klimazukünfte. Ein Projekt, das uns aus der dystopischen Komfortzone locken soll. Denn um etwas umzusetzen, muss man es sich vorstellen können. Als jemand, der sich seit über zehn Jahren mit den Auswirkungen und Chancen der Digitalisierung für die Gesellschaft beschäftigt, frage ich mich: Was sind unsere Zielbilder für die Digitalisierung der Zukunft?
Sich aus den Krisen heraus forschen
Für viele Menschen, die sich mit neuen Technologien beschäftigen, ist die naheliegendste Antwort auf die Frage nach der Rettung der Welt: mehr Technologie. Mit der richtigen Technologie lässt sich alles lösen, verheißt ein populäres Innovationsnarrativ. Wir forschen uns einfach aus der Klima- und allen anderen Krisen heraus. Dazu brauchen wir Daten, Rechenleistung und eine Prise Optimismus. Schon stecken wir mitten im Technologiesolutionismus, der nach vermeintlich einfachen Lösungen für komplexe Probleme sucht. Soziale Probleme werden im Lichte gewinnorientierter technologischer Lösungen einfach neu definiert. Bei einem solchen Ansatz sind Uber, CarSharing und Flugtaxis die Lösung für schlechte Nahverkehrsinfrastruktur.
Im Technosolutionismus werden die Probleme abgemildert, aber nicht gelöst. Im schlechtesten Fall entstehen sogar neue Probleme. Mehr Technologie bedeutet in den meisten Fällen nämlich auch mehr Rohstoff- und Energieverbrauch. Das Training von KI-Modellen ist nicht nur ressourcenaufwendig, was den Verbrauch von Strom und Wasser angeht, sondern auch, was den menschlichen Arbeitseinsatz betrifft. Allein 46.000 Menschen waren an der Erstellung von ImageNet, einer der größten Bilddatenbanken zum Training von KI-Systemen beteiligt. Die meisten von ihnen als unterbezahlte Clickworker, die sich für einen Hungerlohn durch Tausende Bilder klickten und psychische Schäden davon trugen. Technologiesolutionismus beruht auf der Ausbeutung von Natur und Mensch. Oft ist gar nicht klar, welches Problem eigentlich genau gelöst werden soll. Es wird einfach drauflos entwickelt. Ich erinnere an dieser Stelle an Blockchain-Technologie, für die Zeit ihrer Entstehung nach passenden Anwendungsfällen gesucht wurde. Erfolglos. Natürlich gibt es auch Anwendungsfälle, in denen Computer Probleme besser als Menschen lösen können. Was diese Probleme von anderen unterscheidet, ist, dass es sich dabei meistens um Problemstellungen handelt, die mit einem Input oder Datensatz klar deterministisch lösbar sind. Die computergestützte Erkennung von Tuberkulose zum Beispiel.
Technologie als Werkzeug, nicht als Allheilsbringer
In den Anfängen des Computerzeitalters war Technologiesolutionismus noch nicht so weit verbreitet wie heute. Als Douglas Engelbart, einer der frühen Pioniere des Personal Computers, in den 1960er-Jahren an grafischen Benutzeroberflächen für die Mensch-Maschine-Interaktion arbeitete, hatte er eine klare Vision vor Augen. Mit seinen Erfindungen wollte er möglichst viele Menschen vernetzen und ihre Fähigkeiten erweitern. “Improving our Ability to improve” lautete sein Credo. Im Jahr 2002 schreibt Douglas Engelbart, dass wir dank technischem Fortschritt viel erreicht haben: Wir können das Wetter vorhersagen, neue Werkstoffe entwickeln und wir haben den genetischen Code geknackt. Doch trotz all dieser technischen Errungenschaften und obwohl wir mehr Rechenleistung denn je zur Verfügung haben, ist es uns nicht gelungen, uns kollektiv den großen Problemen anzunehmen: der Bekämpfung von Armut, von Naturkatastrophen und sozialer Ungerechtigkeit. Er prognostiziert: Richtiger Fortschritt wird sich erst einstellen, wenn wir Computer und das Internet dazu nutzen, um Gemeinschaften von Menschen zusammenzubringen. Wenn wir Werkzeuge haben, die Menschen in ihren Problemlösungsfähigkeiten unterstützen. Douglas Engelbart war kein Verfechter des Technologiesolutionismus. Für ihn war klar, dass Technologie nur ein Werkzeug sein kann. Die Problemlösungskompetenz muss von den Menschen kommen. Technologie kann menschliche Fähigkeiten erweitern, sie ist aber kein magisches Tool, das selbstständig Probleme löst.
Warum fällt es uns leichter, uns den Untergang der Welt vorzustellen, als eine Welt, die gedeiht?
Sind wir auf dem richtigen Weg?
Angesichts der neuen Entwicklungen im Bereich von generativer KI könnte man meinen, dass wir auf dem von Engelbart beschriebenen Weg sind: Wir entwickeln Werkzeuge, die uns Menschen in unseren Fähigkeiten komplementieren. Bei genauerem Hinsehen fällt allerdings auf, dass das eine einseitige Betrachtung ist. Anstatt Gemeinschaften von Menschen zusammenzubringen, um komplexe Probleme zu lösen, werden Menschen ausgeschlossen und diskriminiert. Es geht um Effizienz und nicht um Gemeinschaft. KI haftet in den Erzählungen immer etwas Magisches und Übermenschliches an.
Seit Jahren wird davor gewarnt, wie KI-Systeme gesellschaftliche Vorurteile verstärken und zu Diskriminierung beitragen können. Lange wurden diese Warnungen ignoriert. Generative KI wird von einigen wenigen großen Tech-Konzernen entwickelt. Um Large Language Models zu entwickeln, braucht man vor allem eines: Unmengen von Daten. Die Trainingsdaten kommen von Webseiten wie Wikipedia, Twitter, Reddit und anderen. Ein schneller Blick auf die Zahlen zeigt, dass sie alles andere als neutral sind. Ein Beispiel: Weniger als 15 Prozent der Wikipedia-Mitwirkenden sind Frauen oder Mädchen, nur 34 Prozent der Twitter-Nutzer sind Frauen und 67 Prozent der Reddit-Nutzer sind Männer. Geschlecht ist dabei nur eine Dimension von vielen. Digitale Werkzeuge und KI reproduzieren und verschärfen die Ungerechtigkeiten unserer Welt. Damit sich Gender Bias und andere Vorurteile nicht automatisch in die Zukunft projiziert werden, muss darauf geachtet werden, wann was eingesetzt wird und wann der Einsatz der neuen Technologie zu Nachteilen führen kann.
Was sind die Zukunftsvisionen, die uns neue Arten von KI eröffnen?
Bevor man zu den Visionen vordringt, steht eine Reihe an Warnungen im Raum. Die Warnungen kommen von den großen Tech-Konzernen selbst. Sie haben uns jahrelang erzählt, wie toll die Zukunft mithilfe ihrer Produkte für uns alle wird. Doch der Wind hat sich gedreht. Heute sind sie dazu übergegangen, uns vor übermächtigen KI Systemen und einer dystopischen Zukunft zu warnen, anstatt große Utopien zu verkünden. Unsere Aufmerksamkeit ist ihnen damit sicher. AGI – Artificial General Intelligence ist das Schlagwort, das den Warnungen vorausgeht. Künstliche Intelligenz, die sich verselbstständigen und so die Menschheit schädigen könnte. Noch sind wir weit davon entfernt und trotzdem wird eindringlicher denn je vor den negativen Auswirkungen gewarnt. Die Tech-Unternehmer fordern Regulierung. Ihre Hoffnung: Sobald die Systeme gut reguliert und sicher sind, werden sie zu wirtschaftlichem Wohlstand beitragen und ein Boost für wissenschaftliches Wissen sein. Was auffällt: Egal ob es sich um Warnungen oder Hoffnungen dreht, die Technologie wird in ihren Erzählungen immer als etwas Unvermeidliches angesehen.
Für eine Zukunft, in der möglichst viele Menschen von neuen technischen Errungenschaften profitieren, braucht es mehr lokale Ansätze.
Move slow and heal things
Das größte Risiko besteht meiner Meinung nicht darin, dass AGI irgendwann die Menschheit ausrottet, sondern dass wir aus dem Blick verlieren, dass es Alternativen zu den aktuell gehypten Technologien gibt. Ich sehe die größte Gefahr darin, dass wir all unsere Energie und Hoffnungen in eine Technologie stecken, die am Ende unsere Erwartungen nicht erfüllt und sich nicht als der Allheilsbringer herausstellt, als der sie uns verkauft wurde. Das Risiko besteht darin, alternativlos zu sein. Deshalb müssen wir uns daran machen, wünschenswerte Zukunftsszenarien zu skizzieren, in denen wir all unsere Kreativität anwenden, um Lösungen für komplexe Probleme zu entwickeln. Lösungen, die mal mehr, mal weniger digitale Technologie beinhalten. Denn technologischer Fortschritt ist nicht unvermeidlich und unaufhaltsam. Er ist menschengemacht und damit von Menschen beeinflussbar.
Wenn wir für unsere alternativen Zukunftsvisionen dem Ansatz des Internetpioniers Douglas Engelbart folgen, dann müssen wir zuerst darauf achten, welche Menschen, Kulturen und welches Wissen in den aktuellen Debatten außen vor sind. Danach müssen wir Wege finden, diese Menschen, ihr Wissen und ihre Bedürfnisse miteinzubeziehen. Einen Beitrag dazu leisten Startups wie das Berliner KI Startup Lesan, dass maschinelle Übersetzungstools für die zwei größten Sprachen Äthiopiens entwickelt, Amharic and Tigrinya. Durch die Spezialisierung auf zwei Sprachen, so wie viel lokales Community- und Sprachwissen, ist Lesan großen Anbietern wie Open AI und Google einiges voraus und deckt die Sprachen besser ab. Einen ähnlichen Ansatz gibt es aus Ghana von GhanaNLP (Native Language Processing). Lesan und GhanaNLP füllen eine wichtige Lücke, sie fokussieren ihre Dienste auf Sprachen, die von den großen Anbietern vernachlässigt werden. So stellen sie sicher, dass auch Menschen in Äthiopien und Ghana von modernen Übersetzungstools und Spracherkennungssystemen profitieren. Wenn es darum geht mehr Menschen Zugang zu neuen Technologien zu verschaffen, sind die Tools alleine aber nur ein Baustein. Weitere wichtige Bausteine sind Zugang zu Internetinfrastruktur und Wissen. Für eine Zukunft, in der möglichst viele Menschen von neuen technischen Errungenschaften profitieren, braucht es mehr lokale Ansätze wie die der beiden Start-ups oder die von lokalen NGOs. Es braucht lokale Akteur*innen mit Wissen und Fähigkeiten, die neue Entwicklungen in ihre Communities tragen und sie für lokale Use-Cases adaptieren. Dabei sollten immer Fragen nach Nachhaltigkeit und Ownership im Zentrum stehen. Es geht nicht darum westliche Technologien und die dahinterliegende Ideologie in fremde Kulturen zu tragen, sondern darum, dass Communities und Menschen über das Wissen verfügen, neue Werkzeuge für ihre eigenen Zwecke zu entwickeln.
Die spannendsten Ansätze für zukünftige Entwicklungen habe ich immer an den Rändern unserer Gesellschaft entdeckt, in der Arbeit mit marginalisierten Gruppen zum Beispiel. Sie haben mir gezeigt, wie unabhängige dezentrale Plattformen funktionieren, wie digitale Werkzeuge aussehen, die jenseits von binären Geschlechteridentitäten existieren oder Tools, die andere Spezies mit einbeziehen und nicht beim menschenzentrierten Design enden. Lange bevor virtuelle Assistenten wie Amazon Echo und Co. eine Vielfalt von unterschiedlichen Stimmen angeboten haben, haben Trans-Aktivist*innen damit experimentiert wie sich Sprachassistent*innen anhören, die keinen bestimmten Geschlecht zugeordnet werden können, die keine Gender-Stereotype bedienen. Diese Ansätze waren aus dem konkreten Bedarfen einer Community heraus geboren und finden sich heute ein paar Jahre später im Mainstream wieder. Es waren Klimaaktivist*innen die sich sehr früh mit dem ökologischen Fußabdruck neuer Technologien beschäftigt haben. Mit den Rohstoffen und der Energie die diese Systeme verbrauchen.
Ökologische Nachhaltigkeit von Technologie spielte in diesen aktivistischen Kreisen eine Rolle, lange bevor der Diskurs im Mainstream angelangt ist. Anstatt “Move Fast and Break Things” – lautet das Motto “Move Slow and Heal Things”. Die Informatikerin Timnit Gebru schlägt vor, das Tempo des rasanten technologischen Fortschritts zu drosseln und gleichzeitig in Menschen und Gemeinschaften zu investieren, die eine andere Zukunft sehen. So können wir den Fokus digitaler Werkzeuge weg von Ausbeutung und Geschwindigkeit hin zu Achtsamkeit und Nachhaltigkeit lenken. Anstatt von schnellem (vermeintlich) effizientem Technologiesolutionismus brauchen wir Slow Fixes. Nachhaltige Lösungen, die auf die Komplexität der Welt reagieren.
Steve Lambert endet seinen Vortrag mit dem Aufruf, dass wir die Utopien wieder in Sichtweite bringen müssen. Dazu müssen wir Komplexität aushalten und heute damit anfangen, neue Erzählungen zu entwerfen. Erzählungen von hoffnungsvollen Zukünften, in denen unsere Welt gerechter, freudvoller und nachhaltiger ist. Erzählungen, die so einprägsam und klar sind, dass uns bei der nächsten Frage dazu wie die Welt gerettet werden kann, Hunderte spannende kreative Ideen in den Kopf schießen.
