Feeding the Machine. Hinter den Kulissen der KI-Imperien

Die meisten von uns haben die berechtigte Hoffnung, diese unmenschlichen Arbeitsbedingungen, denen Mercy und ihre Teammitglieder ausgesetzt sind, nie erleben zu müssen. Aber solche Datenarbeit wird weltweit von Millionen von Beschäftigten an den unterschiedlichsten Orten und unter wechselnden Bedingungen verrichtet. In dem oben beschriebenen Zentrum haben sich einige der Arbeitsbedingungen nach Abschluss unserer Feldforschung geändert, worauf wir in Kapitel 8 näher eingehen werden. Doch große Unternehmen wie Meta haben in der Regel mehrere ausgelagerte Moderationsdienstleister, die um die lukrativsten Verträge mit dem Tech-Giganten konkurrieren. Diese Datenarbeit ist unerlässlich für das Funktionieren der Alltagsprodukte und -dienste, die wir nutzen – von Social-Media-Apps über Chatbots bis hin zu automatisierten Technologien. Sie ist eine Grundvoraussetzung dafür, dass es diese Dinge überhaupt gibt – würden Content-Moderatoren im Hintergrund nicht unaufhörlich die Nutzerbeiträge sichten, dann würden soziale Netzwerke geradewegs mit gewaltverherrlichenden und drastischen Inhalten geflutet. 1 Ohne Datenannotatoren, die Datensätze aufbauen, mit denen einer KI der Unterschied zwischen einer Ampel und einem Straßenschild beigebracht wird, wären selbstfahrende Fahrzeuge auf unseren Straßen noch lange verboten. Und ohne Beschäftigte, die maschinelle Lernalgorithmen trainieren, gäbe es keine KI-Tools wie ChatGPT.

Künstliche Intelligenz kann allgemein als ein maschinenbasiertes System verstanden werden, das Daten verarbeitet, um Outputs wie Entscheidungen, Vorhersagen und Empfehlungen zu erzeugen. 2 Es kommt an vielen Stellen zum Tragen, vom automatischen Ausfüllen von E-Mails bis hin zu automatisierter Kriegsführung bei Kampfdrohnen. Auch computerbasiertes Sehen, Mustererkennung und Computerlinguistik (also die Verarbeitung von Alltagssprache und -text) zählen dazu. Bei der KI handelt es sich um ein amorphes Konzept, das Vorstellungen einer wundersamen posthumanen Intelligenz ebenso heraufbeschwört wie beängstigende Bilder eines von KI ausgelösten Massensterbens. In der öffentlichen Debatte wird KI mit vielen unterschiedlichen Vorstellungen in Verbindung gebracht: Einige denken im Zusammenhang mit KI an wirtschaftliches Wachstum, wissenschaftliche Errungenschaften und erweiterte Möglichkeiten, andere hingegen an Arbeitsplatzverluste, unausgewogene Entscheidungsfindungen und technologische Abhängigkeiten. Zudem hat sich die Bedeutung des Begriffs im Laufe der Jahre weiterentwickelt, um den neuesten technologischen Entwicklungen Rechnung zu tragen.

In letzter Zeit etwa konzentrierte man sich auf Systeme, die Chatbots antreiben: große Sprachmodelle oder, nach ihrer Bezeichnung im Englischen, LLMs (Large Language Models). LLMs werden mithilfe gigantischer Datenmengen trainiert, die große, üblicherweise aus dem Internet abgeschöpfte Textdaten enthalten. LLMs wie ChatGPT werden aufgrund der Größe ihrer Datensätze (Hunderte Milliarden Gigabyte an Daten) als »groß« bezeichnet, aber auch wegen der Zahl an Parametern, die benutzt wurden, um sie zu trainieren (etwa 1,76 Billionen für ChatGPT-4). Parameter sind die Variablen, die das Verhalten des Systems steuern und während des Trainings feinjustiert werden können, um festzulegen, wie ein Modell in seinen Daten Muster erkennt, was wiederum mitbestimmt, wie gut es mit neuen Daten umzugehen lernt.

Heute befinden wir uns inmitten eines Hype-Zyklus, in dem Unternehmen miteinander wetteifern, möglichst viele KI-Anwendungen in ihre Produkte zu integrieren und somit alles, von der Logistik über Produktionsprozesse bis hin zur Gesundheitsversorgung, auf den Kopf zu stellen. KI-Technologien können eingesetzt werden, um Krankheiten zu erkennen, Lieferketten effizienter zu gestalten und den Warenverkehr zu automatisieren. Der weltweite KI-Markt war 2023 mehr als 200 Milliarden Dollar wert, und man erwartet, dass er bis 2030 jährlich um 20 Prozent auf einen Wert von fast zwei Billionen Dollar anwachsen wird. 3 Dabei findet die Entwicklung von KI eher im Verborgenen statt und ist wenig transparent; es gibt keine genauen Angaben darüber, wie viele Menschen weltweit in diesem Sektor beschäftigt sind, doch es sind Millionen, und ihre Anzahl wird dramatisch steigen, wenn sich die gegenwärtigen Trends mit gleicher Geschwindigkeit fortsetzen.

Wenn wir KI-Produkte nutzen, klinken wir uns direkt in die Leben dieser über den ganzen Globus verstreuten Arbeiter und Arbeiterinnen ein. Wir sind, ob wir es wollen oder nicht, mit ihnen verbunden. Genauso wie das Kaffeetrinken den Kaffeetrinker in ein globales Produktionsnetzwerk von der Bohne bis zur Tasse einspannt, sollte man verstehen, dass die Verwendung einer Suchmaschine oder eines Chatbots – oder auch einfacher Geräte wie Saugroboter – globale Daten- und Kapitalströme in Gang setzt, die Arbeitnehmer, Organisationen und Verbraucher auf der ganzen Welt miteinander verbinden. Viele Technologiekonzerne tun deshalb alles in ihrer Macht Stehende, um die tatsächlichen Bedingungen, unter denen ihre Produkte hergestellt werden, zu verschleiern. Sie vermitteln lieber das Bild einer glänzenden, glatt polierten und autonomen Maschine – eines Computers, der riesige Datenmengen durchforstet und sich nebenbei selbst Dinge beibringt –, statt die Realität der schlecht bezahlten und ausgelaugten Arbeitskräfte zu thematisieren, die diese Maschinen sowohl trainieren als auch von ihnen gesteuert werden. Dabei kann auch unser Verhalten als Verbraucher, Aktivisten und Bürger einen echten Einfluss auf die Bedingungen dieser Beschäftigten haben und sie in ihrem Kampf für menschenwürdige Arbeit unterstützen. Diese Menschen sind die Speerspitze des technologischen Wandels, und gleichzeitig kommen KI-fähige Überwachungs- und Produktivitätstools nicht nur auf Einzelne von ihnen, sondern auch auf diejenigen zu, die sich bislang vor solchen Eingriffen in ihr Arbeitsleben sicher fühlten. Doch bevor man sich zur Wehr setzen kann, gilt es zu verstehen, wie KI produziert wird und welche unterschiedlichen Systeme dabei eine Rolle spielen. Dies hilft uns zu erkennen, wie KI dazu beiträgt, Macht, Reichtum und die Fähigkeit, die Zukunft zu gestalten, in den Händen einiger weniger Auserwählter zu konzentrieren.

Dieses Buch erzählt die Geschichte der Menschen, deren Arbeit KI erst möglich macht. Es beschreibt die Machtsysteme, die einen global ungleich verteilten Zugang zu Kapital, Netzwerken und Arbeitsmöglichkeiten aufrechterhalten. Es beleuchtet die verborgene menschliche Arbeit, die zur KI beiträgt, und legt offen, wie diese zentralen Arbeitsschritte oft bewusst verschwiegen werden. Auf der Grundlage von 200 Interviews mit Datenannotatoren, Content-Moderatoren, Ingenieuren für maschinelles Lernen, KI-Ethikern, Lagerarbeitern, Gewerkschaftern und Vertretern der Industrie beleuchtet Feeding the Machine die geheime Welt der KI-Produktion und ihrer vergessenen digitalen Arbeitskräfte. Diese Arbeiter und Arbeiterinnen besetzen unterschiedlichste Positionen – von den prekär beschäftigten und schlecht bezahlten Datenannotatoren bis zu den Ingenieuren für maschinelles Lernen mit hohen Gehältern, die in den Zentralen global agierender Technologiekonzerne sitzen. Indem wir dem Weg des Geldes folgen, der die KI-Produktionsnetzwerke verbindet, können wir die Tiefengeschichte ergründen, auf der KI beruht, und gleichzeitig das koloniale Erbe aufdecken, das sie bis heute prägt.

Auf Grundlage unserer zehnjährigen Forschung möchten wir den Leserinnen und Lesern dieses Buches in jedem Kapitel einen anderen Ort vorstellen, an dem Menschen an der Produktion von KI beteiligt sind. Wir werden auf den folgenden Seiten sieben Akteure kennenlernen, die in diesem Prozess eine Schlüsselrolle spielen. Hinter diesen Akteuren stehen reale Personen, die wir im Rahmen unserer Forschungsarbeit interviewt haben. Jede Geschichte in diesem Buch ist wahr, doch in einigen Fällen haben wir Vorkehrungen getroffen, um die Anonymität der Personen zu wahren, zum Teil, indem wir sie aus mehreren Interviewpartnern zusammengesetzt haben. Die sieben Akteure sind »die Annotatorin«, »die Ingenieurin«, »der Techniker«, »die Künstlerin«, »der Logistiker«, »der Investor« und der »Aktivist«. Indem wir ihre Arbeitsabläufe, ihr soziales Umfeld und ihren Alltag vorstellen, möchten wir einen Einblick in das menschliche Element hinter der KI-Produktion eröffnen und zeigen, wie die KI das Leben dieser Menschen beeinflusst. Unter den porträtierten Personen findet sich auch eine ugandische Datenannotatorin, die in einem stumpfsinnigen und ermüdenden Job gefangen ist und keine andere Wahl hat. Wir werden eine irische Sprecherin kennenlernen, die feststellen muss, dass ihre Stimme ohne ihr Wissen von einem Algorithmus für maschinelles Lernen synthetisiert wurde, der ihre Arbeit eines Tages überflüssig machen würde. Außerdem lernen wir einen kenianischen Aktivisten kennen, der sich mit seinen Arbeitskollegen organisiert hat und dafür kämpft, ein ungerechtes System zu verändern, das nur den Reichen und Mächtigen der digitalen Wirtschaft dient. Diese alles überspannende Erzählung zeigt, wie die Arbeit dieser sieben Akteure miteinander verbunden ist und welche drastischen Auswirkungen das Verhalten einer Einzelperson auf das Leben der anderen haben kann.

Der Blickwinkel dieses Buches ist notwendigerweise einseitig und unvollständig; es ist nicht möglich, jeden einzelnen Aspekt der KI-Produktion oder deren verschiedene Anwendungsmöglichkeiten in einem einzigen Buch abzudecken. So können wir zum Beispiel den Minenarbeitern, die jene kritischen Rohstoffe schürfen, die für bestimmte technische Geräte benötigt werden, ebenso wenig ein ganzes Kapitel widmen wie den Arbeitern und Arbeiterinnen, die diese Geräte weltweit in Fabriken – und oft unter skandalösen Bedingungen – herstellen. Wir hätten die Seiten dieses Buches mit vielen weiteren Akteuren füllen können. Stattdessen versuchen wir, eine Reihe von Momentaufnahmen anzubieten, die unterschiedliche Perspektiven auf KI ermöglichen – Perspektiven, die über das enge Bild des Silicon Valley hinausgehen. Auf diese Weise nimmt uns dieses Buch mit auf eine Reise nach Kenia, Uganda, Irland, Island, Großbritannien und in die USA.

Künstliche Intelligenz wird oft als Spiegel der menschlichen Intelligenz verstanden, als Versuch, »Intelligenz zu entschlüsseln«, indem man die Prozesse reproduziert, die im menschlichen Gehirn ablaufen. Doch aus der Perspektive, die wir in diesem Buch entwickeln werden, ist KI eine Extraktionsmaschine. Wenn wir uns als Verbraucher mit KI-Produkten beschäftigen, sehen wir nur die Oberfläche der Maschine und die Ergebnisse, die sie produziert. Doch unter diesem polierten Äußeren verbirgt sich ein komplexes Geflecht aus Bauteilen und Verbindungen, die notwendig sind, um die Maschine zum Laufen zu bringen. Die Extraktionsmaschine vereinnahmt wichtige Investitionen aus Kapital, Macht, natürlichen Ressourcen, Arbeitskräften, Daten und kollektiver Intelligenz und wandelt sie in statistische Vorhersagen um, mit denen KI-Unternehmen Profite erzielen. KI als Maschine zu verstehen, bedeutet, ihre behauptete Objektivität und Neutralität zu entlarven. Jede Maschine hat eine Geschichte. Sie werden von Menschen innerhalb einer bestimmten Zeit und zu einem bestimmten Zweck gebaut. KI ist in existierende politische und wirtschaftliche Systeme eingebettet, und wenn sie Werturteile fällt, Unterscheidungen trifft und Vorhersagen macht, dann tut sie dies im Interesse derjenigen, die sie geschaffen haben. KI spiegelt die Interessen der Reichen und Mächtigen, die sie zur Zementierung ihrer Position benutzen. Sie festigt ihre Macht, während sie gleichzeitig bestehende soziale Verzerrungen in neue Formate digitaler Diskriminierung überführt.

Unternehmensnarrative über KI betonen deren Intelligenz und Annehmlichkeit und verschleiern oft die materielle Realität der Infrastruktur und menschlichen Arbeit, die benötigt wird, damit sie funktioniert. 4 In der öffentlichen Vorstellung wird KI mit Bildern leuchtender Gehirne, neuronaler Netzwerke und luftiger Wolken verbunden, als würde die KI selbst einfach durch den Äther schweben. Wir neigen dazu, die Realität der überhitzten surrenden Server auf den Regalen der energieintensiven Rechenzentren ebenso auszublenden wie die tentakelartigen Unterseekabel, die KI-Trainingsdaten rund um den Globus übertragen. KI hat einen materiellen Körper und existiert nur durch neue Chips, Server und Kabel, die hergestellt und an die Maschine angeschlossen werden. Und wie ein physischer Körper benötigt die materielle Struktur der KI ständig Nahrung: Strom, um ihre Arbeitsschritte ausführen zu können, und Wasser, um ihre Server zu kühlen. Jedes Mal, wenn wir ChatGPT eine Frage stellen oder eine Suchmaschine verwenden, lebt die Maschine auf und atmet über diese digitale Infrastruktur.

Wir vergessen auch gerne, dass hinter den scheinbar automatisierten Prozessen der KI oft die verdeckte Arbeit von Menschen steht, die dazu angehalten sind, die Einschränkungen, denen die Technologie unterliegt, zu kompensieren. 5 KI ist auf Menschen angewiesen, die ein breites Aufgabenspektrum erfüllen, von der Annotation von Datensätzen über die Überprüfung maschinell erstellter Outputs bis hin zur Feinabstimmung ihrer Parameter. Sobald die KI zusammenbricht oder nicht mehr richtig funktioniert, stehen menschliche Arbeiter bereit und helfen den Algorithmen dabei, eine begonnene Aufgabe zu Ende zu führen. Wenn Siri einen Sprachbefehl nicht versteht oder wenn eine Software zur Gesichtserkennung die Identität einer Person nicht feststellen kann, werden diese Fälle häufig an Menschen weitergeleitet, die herausfinden sollen, was schiefgelaufen ist und wie der Algorithmus verbessert werden kann. Der ursprüngliche »Schachtürke« (der Schachcomputer, nach dem Amazon seine Plattform »Mechanical Turk« benannt hat, auf der Freelancer für geringe Beträge um Aufträge konkurrieren) war eine betrügerische, Schach spielende Maschine in Form einer lebensgroßen männlichen Holzskulptur, die Ende des 18. Jahrhunderts durch Europa tourte. 6 Der Erfinder dieser Maschine, Wolfgang von Kempelen, behauptete, sie könne automatisch und eigenständig Schach spielen, doch tatsächlich verbarg sich in der Maschine ein menschlicher Schachmeister, der sie mit einer Reihe von Hebeln und Spiegeln bediente. Die Vorstellung, die KI von heute operiere autonom, beruht auf einer vergleichbaren Illusion. Komplexe Software funktioniert erst nach Tausenden von Stunden schlecht bezahlter und einfacher Arbeit – in der Hoffnung, die KI könne dem Menschen ähnlicher werden, drängt man zunächst die Menschen in die Rolle der Arbeitsroboter.

Um zu funktionieren, benötigt die Extraktionsmaschine nicht nur physische Ressourcen und Arbeitskräfte, sie lebt darüber hinaus von der menschlichen Intelligenz, die sich in ihren Trainingsdaten verbirgt. KI nimmt das Wissen von Menschen auf und übersetzt es durch bestimme Formen maschinellen Lernens in automatisierte Abläufe. Sie ist auf fundamentale Weise abhängig von ihren Trainingsdaten, durch die sie lernt, vielfältige Aufgaben zu erfüllen: vom Fahren eines Autos über die Erkennung von Objekten bis zur Erzeugung natürlicher Sprache. Zudem stützt sie sich auf das Projekt, die Geschichte des menschlichen Wissens in riesigen Datensätzen aus Milliarden von Datenpunkten zu sammeln. Die Systeme, die mit diesen Datensätzen trainiert werden, erreichen oft übermenschliches Niveau, und während einige dieser Datensätze lizenzfrei zugänglich sind, enthalten andere urheberrechtlich geschützte Arbeiten, die ohne Zustimmung ihrer Schöpferinnen und Schöpfer benutzt werden. KI-Unternehmen haben die kollektive Intelligenz privatisiert, indem sie sich diese Datensätze aneignen und proprietäre Software verwenden, um über die Manipulation dieser Daten neue Ergebnisse zu generieren. Die Extraktionsmaschine benötigt diese intellektuellen Ressourcen ebenso wie materielle.

Doch nennen wir dieses System nicht nur deshalb Extraktionsmaschine, weil es durch die Ausbeutung von Ressourcen, Arbeitskräften und unserer kollektiven Intelligenz erzeugt wird. Sobald KI-Systeme in Betrieb genommen werden, insbesondere am Arbeitsplatz, ermöglichen sie weitere Extraktionsprozesse. Vor allem wird die Leistung der Arbeitskräfte extrahiert, die gezwungen werden, härter zu arbeiten, weil KI-Managementsysteme das Wissen über den Arbeitsprozess bündeln und durch Routinen und Vereinfachungen das Kompetenzniveau senken, das für die Ausführung bestimmter Tätigkeiten erforderlich ist. Diese Intensivierung der Arbeit extrahiert zum Vorteil der Arbeitgeber einen höheren Wert aus der Arbeit der Beschäftigten. Viele von uns werden durch ebendiesen Mechanismus am meisten von den Schäden betroffen sein, den die Extraktionsmaschine anrichtet. Womöglich werden wir nicht so bald Content-Moderatoren, doch dieselbe Maschine, die Mercys Leben einschränkt, verändert auch unsere Arbeit.

Ein Beispiel mag verdeutlichen, wie die Extraktionsmaschine vorgeht: Ein deutscher Automobilhersteller operiert als Hauptakteur in einem globalen Produktionsnetzwerk und koordiniert eine Reihe von Zulieferern, die über die ganze Welt verteilt sind. Während nun jede dieser Firmen bei der Entwicklung des Endprodukts eine wichtige Rolle spielt, obliegt die Kontrolle des Netzwerks dem Automobilhersteller. Keine der Zulieferfirmen hat einen ähnlichen Überblick oder verfügt über vergleichbares Wissen über das Zusammenspiel des Systems. Nun entscheidet das federführende Unternehmen, selbstfahrende Autos der Stufe 3 zu produzieren – bekannt als »bedingte« Selbstständigkeit, bei der ein Fahrer unter bestimmten Bedingungen den Blick von der Straße abwenden kann. Dies setzt eine Wirkungskette in Gang, die Arbeiter und Organisationen auf der ganzen Welt betrifft.

Das Management dieses Großunternehmens wurde von institutionellen Anlegern dazu ermutigt, die Möglichkeiten selbstfahrender Autos zu erforschen, nachdem der Aktienkurs eines Konkurrenten durch die Einführung eines ähnlichen Programms in die Höhe geschnellt war. Das Unternehmen erstellte eine Liste öffentlich zugänglicher Datensätze und wählte aus, was nötig war, dann erwarb es private Datensätze mit Tausenden Stunden Filmmaterial, die mit Hunderten von Objektkategorien (Ampeln, Fußgänger, andere Fahrer usw.) annotiert wurden. Nach der Entwicklung eines Modells im firmeneigenen KI-Labor identifizierten Ingenieure für maschinelles Lernen mehrere Grenzfälle (seltene Ereignisse oder Szenarien), für die neue annotierte Daten benötigt wurden, um das Modell weiter zu trainieren. Datensätze, die daraus bestehen, wie Autos unter verschiedenen Bedingungen gefahren werden, müssen manuell von Tausenden von Annotatoren mit Anmerkungen versehen werden. Das Unternehmen vergibt also diese Aufgabe an drei unterschiedliche Annotationsdienstleister auf den Philippinen, in Kenia und in Indien. Nachdem die Ingenieure für maschinelles Lernen die kommentierten Datensätze durchgesehen und versucht haben, das Modell weiter zu verfeinern, werden mehrere Arbeitspakete zur Überarbeitung an die Annotationsdienstleister zurückgeschickt.

Das KI-Labor mietet zudem Rechenressourcen (Rechenleistung, Arbeitsspeicher und Speicherplatz für die Ausführung der Programme) von Amazon Web Services, und obwohl das deutsche Team seine sensiblen Daten nur sehr ungern an externe Dienstleister weitergibt, muss das Unternehmen diese spezialisierten KI-Dienste Monate im Voraus buchen. Amazon ist einer der wenigen Anbieter, die die Geschwindigkeit und die Größenordnung bieten können, die der Automobilhersteller benötigt.

Sobald das Modell entwickelt wurde und mehrere Sicherheitsteststufen durchlaufen hat, kann es auf dem Markt angeboten und auf die Straße gebracht werden. Viele Kunden der Frühphase sind wahrscheinlich Logistikfirmen, die versuchen, Kosten zu sparen und sich einen Wettbewerbsvorteil zu verschaffen. Lkws etwa, die auf Autobahnen autonom von Knotenpunkt zu Knotenpunkt fahren können, ermöglichen es Arbeitgebern, ihre Fahrerjobs neu zu organisieren und Menschen vor allem für kurze Strecken von den Knotenpunkten zu den Endkunden einzusetzen, was die Produktivität sowie die Kontrolle durch das Management erhöht. Von Anfang bis Ende, von ihrer Herstellung bis zu ihrer Anwendung, extrahieren KI-Systeme Arbeitskraft, Ressourcen, Intelligenz und Wert.

Da wir in eine neue Ära der technologischen Entwicklung eintreten, erhalten Studien zum breiteren gesellschaftlichen Kontext, in dem KI operiert, eine größere Bedeutung. Die 2010er-Jahre waren geprägt vom Wachstum und der anschließenden Dominanz einer Handvoll digitaler Gatekeeper, die Milliarden von Nutzern auf ihren Plattformen versammelten, zu Billionen Dollar schweren Firmen wurden und ihre Stellung nutzten, um eine beispiellose politische und wirtschaftliche Macht auszuüben. Der Aufstieg von KI hat nun die interne Dynamik im Technologiesektor grundlegend verändert, mit tiefgreifenden Folgen für die Weltwirtschaft. Die Plattform-Ära von Mitte der 2000er-Jahre bis 2022 wurde durch die KI-Ära abgelöst, und seit der Einführung von ChatGPT und der Etablierung neuer Partnerschaften zwischen Big-Tech- und KI-Unternehmen werden sowohl die Investitionsstrategien als auch die Geschäftsmodelle von einem neuen Zusammenspiel der Kräfte rund um KI bestimmt.

Die KI-Ära ging mit einer Verschiebung der Hauptakteure einher, die sich zwar mit jenen der Plattform-Ära überschneiden, sich aber dennoch von diesen unterscheiden. An die Stelle der führenden Technologiekonzerne der 2010er-Jahre ist eine Gruppe neuer Unternehmen getreten, die wir als »Big KI« bezeichnen und die für diese neue Ära von zentraler Bedeutung sind. Zu dieser Gruppe gehören die etablierten Big-Tech-Firmen wie Amazon, Alphabet, Microsoft und Meta, aber auch KI-Start-ups und Chip-Designer wie OpenAI, Anthropic, Cohere und Nvidia. Würden wir unsere Aufmerksamkeit chinesischen Unternehmen zuwenden, die zur nächstgrößeren Gruppe von Akteuren der KI-Ära gehören, könnten wir auch Alibaba, Huawei, Tencent und Baida einschließen. Wenngleich sich die genaue Zusammensetzung dieser Gruppe sehr wahrscheinlich ändern wird, zählen zu den Big KI vor allem Unternehmen, die KI als kommerzielles Produkt verstehen, das ein streng gehütetes Geheimnis bleiben und zum Profit privater Unternehmen eingesetzt werden sollte. Viele dieser Firmen versuchen, das Wissen über die Trainingsformen für ihre KI-Modelle einzuschränken, und entwickeln sie in einer Art und Weise, die ihnen einen Wettbewerbsvorteil in der Branche verschafft. Nachdem ChatGPT für die Öffentlichkeit freigegeben worden war, wurden mehrere strategische Kollaborationen zwischen etablierten Technologiekonzernen und KI-Start-ups verkündet: Microsoft investierte zehn Milliarden Dollar in OpenAI; Google investierte zwei Milliarden Dollar in Anthropic; Amazon investierte vier Milliarden Dollar in Anthropic; Meta schloss sowohl mit Microsoft als auch mit dem KI-Start-up Hugging Face eine Partnerschaft; Microsoft entwickelte mit Mitarbeitern von Inflection eine neue KI-Einheit; und Nvidia ist jetzt ein zwei Billionen Dollar schweres Unternehmen, das 95 Prozent des Grafikprozessoren-Markts für maschinelles Lernen beliefert. 7

Die Dominanz von Social-Media- und Werbeplattformen während der Plattform-Ära basierte zum Teil auf »Netzwerkeffekten«: Je mehr Nutzer eine Plattform hatte, desto effektiver und wertvoller wurde sie für ihre Eigentümer. Riesige Mengen an Nutzerdaten versorgten die Plattformeigner mit immer größeren Einsichten in diese digitale Welt und ermöglichten es ihnen, mittels Nutzergebühren oder Werbeeinnahmen höhere Gewinne zu erzielen. In der KI-Ära ist der Besitz von Software weiterhin wichtig, doch die zugrunde liegende Hardware hat an Bedeutung gewonnen. Frühe Plattformunternehmen waren schlank: Airbnb besaß keine Häuser und Uber keine Autos. Sie verkauften ihr Produkt X als Serviceleistung und verließen sich auf Nutzernetzwerke. Big KI profitiert von etwas, das wir »Infrastrukturmacht« nennen: Sie verfügen über eine KI-Infrastruktur – Rechenleistung und Speicherplatz, die benötigt werden, um riesige Basismodelle zu trainieren. Dies geschieht durch die Kontrolle über große Rechenzentren, unterseeische Glasfaserkabel und KI-Chips, die zum Training der Modelle verwendet werden. Gerade einmal drei Unternehmen besitzen mehr als die Hälfte der weltweit größten Rechenzentren, während nur wenige Auserwählte Zugang zu der Hardware bieten können, die für das Training innovativer KI-Modelle erforderlich ist. Diese Infrastrukturmacht übt zudem eine starke Anziehungskraft auf KI-Talente aus, da die besten Köpfe der Branche für die führenden Unternehmen arbeiten wollen und dort Spitzenleistungen in der KI-Entwicklung erbringen können. Es könnte also sein, dass KI die Chancen für mehr Innovation und Diversität eher schmälert und wir stattdessen eine weitere Konsolidierung von Reichtum und Macht erleben, wenn sich neue Akteure etablierteren Unternehmen anschließen. 8

Mit zunehmender Bedeutung der Infrastrukturmacht verändern sich auch die Finanzierungsmodelle und der Grad der Unabhängigkeit von Start-ups. KI-Unternehmen benötigen in der Gründungsphase nicht nur ein paar Millionen Dollar, sondern Hunderte von Millionen an Kapital sowie den Zugang zu einer Cloud-Plattform, um Basismodelle zu trainieren. Das bedeutet, dass KI-Start-ups strategische Partnerschaften mit bereits bestehenden Cloud-Anbietern eingehen müssen, die häufig eine Minderheitsbeteiligung am Unternehmen erwerben. Große Technologiekonzerne sind auch bestens in der Lage, Milliardenbeträge in die Finanzierung neuer Start-ups zu investieren, weil sie in der Regel über enorme Bargeldreserven verfügen. Die erste Generation von Plattformen wurde zwar auch durch Risikokapital finanziert, die ursprünglichen Gründer behielten jedoch die eindeutige Kontrolle über ihre Unternehmen. Auf diese Weise haben sich einige dieser Plattformen zu gigantischen Imperien entwickelt, die allein von ihren Gründern, die heute Milliardäre sind, beherrscht werden. Dieser Vorgang wird sich in der KI-Ära eher nicht wiederholen, weil jedes potenzielle neue Imperium mit einem bereits existierenden Megakonzern kooperieren oder sich mit ihm zusammenschließen muss. Der Kampf um eine erfolgreiche Kommerzialisierung von KI-Produkten wird sehr wahrscheinlich zu einer multipolaren Technologiesphäre führen, in der etablierte Tech-Konzerne versuchen, sich mit den erfolgreichsten der jüngeren Start-ups zusammenzutun, um neue Koalitionen zu schmieden und ihre Konkurrenten aus dem Feld zu schlagen.

Die vielleicht interessanteste, allerdings noch weitgehend unbekannte Verschiebung wird sich in Gestalt veränderter Geschäftsmodelle zeigen, die von den führenden KI-Unternehmen übernommen werden. Das berüchtigtste Modell der Plattform-Ära stellen die Werbeplattformen dar, wie Facebook und Google sie verkörpern und die in Shoshana Zuboffs Konzept des »Überwachungskapitalismus« kritisiert werden. 9 Das Modell des Überwachungskapitalismus, das einen freien Zugang zu digitalen Diensten im Austausch für den Verkauf zielgerichteter Werbung an Nutzer bietet, ist natürlich nicht das einzige Geschäftsmodell von Plattformen – Amazon profitiert von einer monopolistischen Marktposition, Uber und Airbnb verlangen Transaktionsgebühren, und Netflix oder Spotify verfolgen ein Abonnementmodell –, aber es ist ein bestimmendes Element der Ära. Noch ist nicht klar, ob das Überwachungsparadigma einen ebenso großen Einfluss auf die neue Generation von KI-Unternehmen haben wird; Zuboff sah im Überwachungsaspekt eher ein Geschäftsmodell als eine neue Modalität des Kapitalismus. Technologieunternehmen erzielen auch mit anderen Methoden nur allzu gerne ihre Umsätze, solange sie sich als ebenso profitabel erweisen. Was genau im Entstehen ist, muss sich erst noch zeigen, doch erkennen wir erste Anzeichen, dass KI-Unternehmen mit Lizensierungsgeschäften, Abonnements, der Integration von KI in bestehende Dienste und dem Verleih von »KI as a Service« ihre Umsätze machen werden.

Und schließlich wird sich die KI-Ära vor dem Hintergrund eines extremeren und zunehmend instabileren geopolitischen Umfelds entfalten, das durch die Klimakrise, Ressourcenunsicherheit und Spannungen zwischen den Vereinigten Staaten und China gekennzeichnet ist. All dies wird die Entwicklung von KI prägen. Digitale Plattformen wurden immer mit Formen von Sicherheits-, Überwachungs- und Grenztechnologien in Verbindung gebracht. Der Unterschied zwischen KI und der ersten Generation von Social-Media-Anwendungen und Onlinemärkten ist der Grad, inwieweit Staaten sie als direktes Werkzeug zur Stärkung ihrer militärischen und wirtschaftlichen Macht wahrnehmen. Wir kehren zu einer weitaus feindseligeren Beziehung zwischen den Vereinigten Staaten und China zurück, in der – ähnlich wie im Kalten Krieg – Technologie als Zeichen zivilisatorischer Errungenschaften, als Mittel zur Entwicklung fortschrittlicher Waffensysteme und zur Erlangung wirtschaftlicher Wettbewerbsvorteile angesehen wird.

Diese geopolitische Rivalität muss sich auch mit der zunehmenden Bedeutung von Nachhaltigkeit auseinandersetzen, ein Anliegen, das von allen großen Tech-Konzernen zumindest auf dem Papier ernst genommen wird. In der Plattform-Ära wurde über die Umweltkosten digitaler Infrastruktur nicht so ausführlich berichtet wie heute. Nachhaltigkeitsbedenken beeinflussen auch den Zugang verschiedener Länder zu den kritischen Rohstoffen, die für die Entwicklung moderner KI-Chips benötigt werden, sowie die Rolle bestimmter geografischer Regionen für deren Gewinnung und Verarbeitung. All diese Faktoren werden Einfluss darauf haben, welche Formen der KI entwickelt und wie sie in einer zunehmend unsicheren Welt eingesetzt werden.

Es gibt aber auch tiefgreifende Kontinuitäten zwischen der Gegenwart und den vergangenen Jahrzehnten der technologischen Entwicklung. Wenn überhaupt, dann lassen sich gegenwärtige Trends am besten als verstärkte Bestrebungen der Tech-Giganten beschreiben, die Welt zu beherrschen und ihre Imperien weiter bis in unser Sozialleben und in die Hallen der politischen Macht hinein auszudehnen. KI beschleunigt diese Trends und macht diejenigen noch reicher, die ohnehin schon von der zunehmenden Machtkonzentration in den Händen amerikanischer Tech-Milliardäre profitiert haben. Für diejenigen, die ganz unten stehen, werden die Aussichten auf Gewinne hingegen gering sein. Hatten die Länder des globalen Südens bereits sehr wenig Einfluss darauf, wie digitale Überwachungsplattformen gebaut oder in ihren Städten eingesetzt wurden, so werden sie bei der Entwicklung von KI – einer geheimnisumwitterten Technologie, die gewaltige Ressourcen und Rechenleistungen benötigt – noch weniger zu sagen haben. Die Extraktionsmaschine wird diesen Ländern einiges abverlangen – es sind ihre Rohstoffe, ihre Daten, die deren unersättlichem mechanischem Kern einverleibt werden.

Wie kamen wir darauf, ein Buch über die Arbeitskräfte zu schreiben, die künstliche Intelligenz erst hervorbringen? Wir sind drei Forscher aus den Bereichen Technologie und Politik, die am Oxford Internet Institute der Universität Oxford zusammenarbeiten, und Teil von Fairwork for AI, einem Forschungsprojekt, das sich zum Ziel gesetzt hat, den Beitrag von Arbeitern am Aufbau von KI-Systemen besser zu verstehen und letztlich ihre Arbeitsbedingungen zu verbessern. Mark Graham ist Professor und Leiter des Projekts, Callum Cant und James Muldoon waren Forschungsmitarbeiter und sind nun Lehrende an der Universität Essex. Unsere unterschiedlichen Schwerpunkte umfassen Soziologie, Politikwissenschaften, Geografie, Geschichte, Jura und Philosophie, die alle in die Forschungsarbeit bei Fairworks und anschließend in dieses Buch eingeflossen sind.

Wenn Kommentatoren abstrakte Debatten darüber führen, was in den kommenden Jahrzehnten aus KI werden und welche möglichen gesellschaftlichen Schäden sie anrichten könnte, vergisst man leicht, wie wichtig die Menschen sind, die sie hier und heute schaffen. Spekulative Überlegungen zur existenziellen Bedrohung durch Terminator-ähnliche Systeme können zur Folge haben, dass die dringend notwendige Analyse und Kritik der mächtigen Interessen, die heute hinter KI stehen, in den Hintergrund geraten. Konzentrieren sich Studien auf die Gegenwart, gelingt es einigen bereits heute, die wahre Bedrohung durch verzerrte und diskriminierende Ergebnisse von KI-Systemen aufzudecken. Es gibt jedoch nur wenige Untersuchungen darüber, wie solche Systeme den Produktionsprozess durchdringen und welche negativen Auswirkungen das auf Frauen, Minderheiten und Arbeiter aus dem globalen Süden haben kann. Ebenso wenig Forschung gibt es über den Einsatz von KI-Systemen am Arbeitsplatz oder in der Gesellschaft.

Dieses Buch verbindet zum ersten Mal die folgenden zwei Elemente: eine gründliche wirtschaftliche und politische Analyse jener Arbeitssysteme, die künstliche Intelligenz produzieren, und eine umfassende ethnografische Beschreibung des Arbeitsalltags der Beschäftigten und von deren Beitrag zur Schaffung erweiterter Produktionsnetzwerke. Es ist nicht nur eine Untersuchung über Datenannotatoren und andere Arbeitskräfte, die Geschichten aus aller Welt enthält; es kritisiert und entlarvt ein System, das die globalen Ungleichheiten in der digitalen Wirtschaft unerbittlich aufrechterhält.

In Feeding the Machine schlagen wir einen Bogen von der technologischen Entwicklung heutiger KI-Systeme zurück zu früheren Formen von Arbeiterdisziplinierung in der industriellen Produktion. Wir argumentieren, dass die Praktiken, mit denen KI produziert wird, nicht neu sind. Tatsächlich ähneln sie früheren industriellen Systemen der Kontrolle und Ausbeutung von Arbeitskräften. Unser Buch vergleicht die prekären Bedingungen heutiger KI-Arbeiter mit älteren Geschichten von geschlechtsspezifischer und rassifizierter Ausbeutung – auf der Plantage, in der Fabrik und in den Tälern Kaliforniens. Wir knüpfen an Diskussionen über die Entwicklung von Überwachungstechnologien an, die von Technologieunternehmen eingesetzt werden, um ihre Arbeiter und Arbeiterinnen zu disziplinieren und zu kontrollieren. Um diesen Zusammenhang zu verstehen, müssen wir die Geschichte der Auslagerung von Arbeit an billigere und diszipliniertere Arbeitskräfte in den Schwellenländern bis in die 1990er-Jahre zurückverfolgen und auf die neuen Kontrolltechnologien eingehen, die dies ermöglicht haben.

Die entstandenen Netzwerke der KI-Produktion erinnern an die Kolonialgeschichte der Extraktion und Ausbeutung durch Plünderung und einseitige Handelsabkommen. Kolonialismus wird im Allgemeinen als territoriale Aneignung der Lebensräume und Arbeitskräfte einer Kolonie durch ein Imperium betrachtet. Doch lateinamerikanische Wissenschaftler, die sich mit Dekolonisation befassen, erinnern uns daran, dass die Auswirkungen des Kolonialismus auch nach der Befreiung durch eine sogenannte Struktur der »Kolonialität« fortbestehen – ein Machtsystem, das Kultur, Arbeit und Wissensproduktion nach älteren kolonialen Hierarchien definiert. 10 Um KI richtig zu verstehen, müssen wir ihre Produktion durch das Brennglas des kolonialen Erbes betrachten. 11

Kolonialität ist Teil der Strukturierungslogik künstlicher Intelligenz – sowohl in ihrer Produktions- als auch in ihrer Funktionsweise. KI wird mittels einer internationalen digitalen Arbeitsteilung produziert, die die einzelnen Aufgaben einer globalen Belegschaft zuweist, wobei die sichersten, am besten bezahlten und beliebtesten Jobs in den Großstädten der USA angeboten werden und die prekären, am schlechtesten bezahlten und gefährlichsten Jobs an Arbeitskräfte in den Peripherien des globalen Südens ausgelagert werden. Kritische Rohstoffe, die für KI und andere Technologien notwendig sind, werden an Orten des globalen Südens abgebaut und verarbeitet und anschließend in spezielle Fertigungszonen transportiert, wo sie in Technologieprodukte wie moderne KI-Chips eingebaut werden, die für große Sprachmodelle gebraucht werden. Diese Praktiken wiederholen nur allzu bekannte koloniale Muster westlicher Länder, die sich ihre wirtschaftliche Dominanz zunutze machen, um sich durch Ausbeutung von Bodenschätzen und Arbeitskräften in peripheren Regionen zu bereichern. Auch die Erzeugnisse einer generativen KI verfestigen alte koloniale Hierarchien, da ein Großteil der Datensätze und allgemeinen Vergleichswerte, mit denen diese Modelle trainiert werden, westliche Wissensformen privilegieren sowie schädliche Stereotype und Vorurteile gegenüber Minderheitengruppen reproduzieren können, die in den Daten ungenau oder falsch dargestellt werden.

Nirgendwo ist die Verbindung zwischen der kolonialen Vergangenheit und der Gegenwart so deutlich sichtbar wie in Mercys Zuhause in Kibera. Dem Viertel im Ballungsraum Nairobi gebührt die zweifelhafte Ehre, der größte Slum Afrikas zu sein. Aufgrund des informellen Charakters der Siedlung weiß niemand so genau, wie viele Menschen dort leben. Schätzungen reichen von 200 000 bis zu einer Million. Die meisten Bewohner verdienen ihren Lebensunterhalt in verschiedenen informellen Sektoren; sie arbeiten in kleinen Läden und verkaufen gebrauchte Kleidung, Haushaltswaren, Mobiltelefone oder Lebensmittel. Viele dieser Läden liegen an einer eingleisigen Eisenbahnstrecke, die Kibera in zwei Hälften teilt. Ein paarmal am Tag fahren Züge vorbei. Ansonsten laufen die Bewohner auch auf den Schienen, weil sie oberhalb der dichten, überfüllten Gassen des Slums entlangführen.

Als wir Mercy in ihrem Haus in Kibera besuchten, liefen wir eine Weile entlang dieser Gleise. Während wir über die alten hölzernen Bahnschwellen traten, die heute fast vollständig von harter Erde verdeckt sind, konnten wir die provisorischen Bauten des Slums überblicken. Die Gebäude waren aus trockenem Lehm, gelegentlich aus Betonplatten und aus Holzpfählen gebaut worden und waren mit Wellblechdächern bedeckt. Nur wenige Bewohner hatten sanitäre Anlagen in ihren Häusern, und der Gestank der offenen Kanalisation war überwältigend. Die Lebenserwartung ist niedrig, die Analphabetenrate hoch, und die dort lebenden Menschen kämpfen darum, aus dem Kreislauf der Armut auszubrechen.

Obwohl in Kibera keine Züge halten, ist die Geschichte des Slums eng mit der Eisenbahn verwoben. Nairobi selbst wurde erst 1899 als Versorgungsdepot an der Eisenbahnstrecke nach Uganda gegründet. Die Strecke wurde aus der britischen Staatskasse finanziert (nach heutigem Wert für etwa eine halbe Milliarde Pfund), um den Victoriasee mit dem Hafen von Mombasa am Indischen Ozean zu verbinden. Damals, während des »Wettlaufs um Afrika«, galt die Eisenbahn als unverzichtbar, um die Expansion anderer europäischer Mächte in der Region zu verhindern und neue wirtschaftliche Aktivitäten im Inneren des Kontinents anzubahnen. Als Nairobis Wirtschaft im 20. Jahrhundert wuchs, kamen zahlreiche Migranten auf der Suche nach Arbeit in die Stadt – viele von ihnen ließen sich im südlichen Teil, in Kibera, nieder. Aufgrund der billigen Arbeit, die ein Überschuss an Arbeitskräften leistete, konnten Unternehmen in ganz Nairobi expandieren. Die Eisenbahn war für die Verbindung des inneren Afrikas mit dem imperialen Großbritannien von entscheidender Bedeutung, weil sie den Export der Produkte dieser Unternehmen in das britische Empire ermöglichte. Daher war die Eisenbahn eine Extraktionstechnologie par excellence: Sie verband die wirtschaftliche Peripherie mit dem wirtschaftlichen Kernland und vertiefte die ungleiche Verteilung von Reichtum und Macht.

Heute gibt es auf etwa der gleichen Strecke von Mombasa nach Nairobi eine andere Verbindungstechnologie, die zu Veränderungen der regionalen Wirtschaft geführt hat. Im Jahr 2009 war Ostafrika der letzte große bewohnte Teil unseres Planeten, der noch nicht an das weltweite Netz von unterseeischen Glasfaserkabeln angeschlossen war. Das änderte sich, als das erste von vielen Glasfaserkabeln im Hafen von Mombasa verlegt wurde, unweit des Endbahnhofs der alten Mombasa-Uganda-Eisenbahnlinie. Von hier aus verbinden die Kabel heute ganz Ostafrika mit dem Internet und ermöglichen den Informationsaustausch zwischen der Region und dem Rest der Welt nahezu in Lichtgeschwindigkeit. In dieser Zeit entwarf die kenianische Regierung die kühne Vision, Zehntausende von Arbeitsplätzen im gerade entstehenden Outsourcing-Sektor des Landes zu schaffen. Englischsprachige Arbeitskräfte mit niedrigen Löhnen und geringen Chancen in der formellen Wirtschaft sollten den Sektor ankurbeln und kenianische Unternehmen in die Lage versetzen, mit ihren indischen und philippinischen Wettbewerbern um aus Europa und Nordamerika ausgelagerte Backoffice-Jobs zu konkurrieren.

Obwohl die Eisenbahn und das Internet Kenia auf sehr unterschiedliche Weise verändert haben, haben deren Effekte doch ein wesentliches Merkmal gemeinsam. In beiden Fällen werden Arbeiterinnen und Arbeiter aus Orten wie Kibera für globale Netzwerke rekrutiert, die Informationen und Werte über Kontinente hinweg übertragen. In jüngster Zeit hat die Extraktionsmaschine diese Netzwerke genutzt, um Datenannotatoren zu rekrutieren, die an KI-Datensätzen arbeiten und fertige Produkte zurück an die KI-Labore im globalen Norden schicken. Die Arbeitskräfte fühlen sich jedoch zu machtlos, um ihren Anteil an dem durch ihre Arbeit geschaffenen Wert einzufordern. Es sind vor allem große Unternehmen in Europa und den Vereinigten Staaten, die die Früchte der Arbeit ernten, die von einer der ärmsten Bevölkerungen geleistet wird. Das ist kein Fehler: Die Maschine ist so konstruiert, dass sie genau so funktioniert.

Wie wir am Beispiel Mercys gesehen haben, können Jobs, die Teile der Extraktionsmaschine gestalten, ausbeuterisch, ungerecht und grausam sein. Sie nehmen sehr viel von den Arbeiterinnen und Arbeitern und geben ihnen recht wenig zurück. Doch die Zukunft von KI muss nicht so aussehen. Wer die Extraktionsmaschine verändern will, muss sie zunächst verstehen. Eines der Hauptziele dieses Buches ist es, darüber aufzuklären, wie KI produziert und eingesetzt wird – dies soll Menschen ermutigen, diejenigen zu unterstützen, die bereits heute fairere Arbeitsbedingungen fordern. Je mehr wir mit den Arbeitern sprachen, desto klarer wurde uns, dass sie sehr wohl verstehen, wie sie ausgebeutet werden und welche Formen des Widerstands sich als wirkungsvoll erweisen können, um Veränderungen herbeizuführen. Die Kräfte, die gegen sie aufgeboten werden, sind massiv, doch wir trafen auf Beschäftigte, die am Arbeitsplatz, auf der Straße und vor Gericht gegen ihre Ausbeuter kämpften. Sie bauten Solidaritätsnetzwerke auf, um ihre Interessen zu verteidigen, und suchten weltweit nach Verbündeten. Dieses Buch dokumentiert die transnationalen Arbeiterbewegungen, die heute im Entstehen begriffen sind und in deren Rahmen Menschen für eine gerechtere KI- und Digitalwirtschaft kämpfen. 

Wir geben auch eigene Empfehlungen, um diesen Kampf zu unterstützen. Um eine fairere und gerechtere Zukunft der Arbeit zu erreichen, skizzieren wir fünf Schritte. Erstens ist es notwendig, Organisationen aufzubauen und miteinander zu vernetzen, die die kollektive Macht der Arbeiter und Arbeiterinnen ausüben. Hierzu gehört nicht nur die Institutionalisierung lokaler Gewerkschaften und Arbeitnehmerverbände, sondern auch die Unterstützung eines echten transnationalen Arbeitskampfes, der Arbeiter und Angestellte in den globalen Produktionsnetzwerken der KI zusammenbringt. Zweitens gibt es, da KI oft in Konsumgüter und Dienstleistungen eingebettet ist, wichtige Druckmittel, mit denen Zivilgesellschaften und soziale Bewegungen auf Unternehmen einwirken können. Unternehmen können dazu gebracht werden, Mindestlohnstandards und menschenwürdige Arbeitsbedingungen für alle Beschäftigten in der Lieferkette zu gewährleisten. Drittens ist, weil sich einige Unternehmen dem Druck der Verbraucher widersetzen werden, eine Regulierung e...