Konstantin Baehrens, August 2021
Technische Rationalisierung von Arbeitsprozessen bis hin zu technokratischem ‚Solutionismus‘ angesichts sozialökonomischer und ökologischer Probleme und Krisen, Schreckensszenarien von Massenerwerbslosigkeit oder Deregulierung von Arbeitsbedingungen mit Blick auf den „im Kern technikdeterministische[n] Begriff ‚Industrie 4.0‘“ (Butollo/Paiva Lareiro 2021, 363), Vorstellungen ausschließlich maschinengestützter Entscheidungen in kürzester Zeit an Aktienmärkten, in Atomkrieg oder Politik, eine besseres philosophisches Verständnis davon, was Bewusstsein und Denken heißt, oder gar der ‚conditio humana‘ – mit der Rede von ‚Künstlicher Intelligenz‘ (KI) sind oft große gesellschaftlich relevante Hoffnungen und Befürchtungen verbunden, die Gegenstand gesellschaftlicher Auseinandersetzungen sind. Es ist daher naheliegend, wenn im Historisch-kritischen Wörterbuch des Marxismus die Technologieentwicklung, die den gegenwärtigen Stand der Produktivkräfte mitkonstituiert, in historisch-kritischer Perspektive auf allgemein gesellschaftliche wie sozialökonomische, politische und kulturelle Rahmenbedingungen, Auswirkungen und Gestaltungsmöglichkeiten hin befragt wird. Die Thematik des Stichworts „Künstliche Intelligenz“ wird so nicht nur als „reine Ideengeschichte“ (Paul N. Edwards 1996, 239; zitiert im Artikel) darzustellen versucht, sondern begriffs- und sozialgeschichtlich situiert. Der jetzt ins Englische übersetzte Artikel von Christof Ohm behandelt etwa Konkurrenzverhältnisse und Aushandlungsprozesse verschiedener Theorieströmungen und Institutionen um die Bezeichnungen ‚KI‘ oder ‚Kybernetik‘, die Voraussetzungen staatlich-öffentlicher Finanzierung der Forschung in der Anfangsphase über Militäretats, oder auch politische Repressionen und gesellschaftliche Diskriminierung, denen der Mathematiker und Informatik-Wegbereiter Alan Turing aufgrund seiner sexuellen Orientierung ausgesetzt war.
Der Wörterbuchartikel über „Künstliche Intelligenz“ erschien 2012 auf Deutsch in Band 8/I des HKWM. Daneben finden sich in diesem Band u. a. thematisch benachbarte Einträge zu den Lemmata „Kybertariat“, „lebendige Arbeit“, „Leistung“, „Leitung“ und „Lernen“. In den letzten Jahren hat innerhalb gesellschaftlicher Praxis und Diskurse um KI der Technologiezweig und die Terminologie des Maschinellen Lernens (Machine Learning) weiter an Relevanz gewonnen. Die kritischen Befunde des Artikels lassen sich auch auf diese jüngere Entwicklung beziehen, um neue Anforderungen und Konflikte durch ihre Rekonstruktion begreifbar zu machen.
1
Wie Sebastian Höfer auch für Laien erklärt, „benötigt die erfolgreiche Anwendung maschinellen Lernens immer noch signifikantes Expertenwissen und menschliche Intervention“. Spezialisierte Fachkräfte müssen „große Datenmengen“ für die Trainingsdurchläufe zunächst semantisch ‚labeln‘, kontextualisieren und nach der Durchführung des Trainings bewerten, ob und inwiefern die Ergebnisse, die von der Maschine ausgeworfen werden, den Zielsetzungen gerecht werden, die diese Fachkräfte selbst für den Maschinellen Lernprozess festgelegt haben. Bei der Entwicklung von Maschinellem Lernen ist also ein großer Aufwand an menschlicher, lebendiger Arbeit erforderlich, daneben aber auch ein möglichst umfangreicher, bzw. stetig wachsender Satz an unterschiedlichen Daten, um ein sogenanntes ‚Overfitting‘ zu umgehen, das darin besteht, dass eine algorithmengestützte Maschine sehr gute Ergebnisse für die Daten liefert, mit denen sie ‚trainiert‘ wurde, diese Leistung aber nicht für neue Daten den Erwartungen entsprechend liefern, also ‚generalisieren‘ kann. Trotz der großen Datenmengen, die für das Training verwendet werden, so Höfer, „ist die Generalisierungsfähigkeit der gelernten Modelle in vielen Gebieten noch immer weit unter dem, was man intuitiv erwarten würde. Zudem ist die mangelnde Interpretierbarkeit vieler Methoden ein wichtiges praktisches Problem“, wobei „je nach Anwendungsfall“ auch „gesellschaftliche Fragen“ aufgeworfen werden, etwa im Kontext „mit sexistischen oder rassistischen Gesichtserkennungsmodellen, weil die genutzten Trainingsdaten vor allem weiße Männer abbilden“ (Höfer 2018). Gerade bei Einsätzen der Technologie in Polizeiarbeit und Überwachung kann dadurch struktureller Rassismus und Sexismus verfestigt werden. Donna Haraways Kritik von 1985 am „Militär-Dispositiv“ der KI, auf die Ohm im Artikel hinweist, sprach ein ähnliches Problem an.
Insofern sich die Anwendungsformen solcher KI „auf konkrete Aufgaben, wie etwa die Klassifizierung von Bildern, das Erkennen von Mustern in Daten, die Darstellung von Mensch-Maschine-Schnittstellen“ beschränken, hält Timo Daum fest: „Der Bau denkender Maschinen steht nach wie vor nicht auf der Tagesordnung – vielmehr geht es darum die datenextraktiven Geschäftsmodelle zu konsolidieren.“ (2019, 325) Denn „Algorithmen des maschinellen Lernens“ sind nicht nur allgemein „so wie alle früheren Technologien von ihren Entwicklern und deren Kultur geprägt“ (Wajcmann 2019, 28), sondern auch speziell die „anonymen Zwänge des Wertgesetzes […] bleiben zweckbestimmend“ (Schmiede 1996, zit. n. Meyer 2019, 126). Ihre Konsequenzen für Anwendungsfälle Maschinellen Lernens untersuchen und systematisieren mit Blick auf marxistische Fragestellungen in jüngerer Zeit neben Daum auch Wolfgang Fritz Haug, Sabine Nuss, Florian Butollo, Patricia de Paiva Lareiro, Matteo Pasquinelli und Judy Wajcman.
2
Daum unterscheidet zwischen historisch längerfristigen Entwicklungstendenzen und neueren Spezifika; „der stetig steigende Anteil kollektiven sozialen Wissens in der kapitalistischen Produktion einerseits und das ständige Bestreben des Kapitals, die Endprodukte dieses Prozesses zu privatisieren, andererseits – ziehen sich durch die gesamte Geschichte des Kapitalismus“ (2019, 319). Neu sei die Verwertungsweise „nicht entlohnter Userarbeit“ (321), durch die Trainingsdaten als Ressource bereitgestellt, gelabelt und kontextualisiert werden, um einerseits für Maschinelles Lernen genutzt, andererseits für „Anzeigenkunden“ (322) aufbereitet zu werden. Der letztgenannte Schritt sei zentrales Moment der Profitgenerierung innerhalb eines Konzerns (vgl. 323), wobei Daum in der „Monetarisierung der Aktivität der Kunden“ (325 f.) oder User zwischen „drei Mechanismen der Kapitalverwertung“ differenziert: 1) „Verwertung allgemeinen Wissens as a service“, 2) „Ausbeutung kostenloser Nutzerarbeit“, 3) „perpetuierte Innovation als Quelle des Profits“ (326).
Soweit dieser Profit in allen drei Fällen letztlich von anderem Kapital abgeschöpft wird, wird er präzisierend als Rente bezeichnet. Doch wenngleich innerhalb eines Konzerns, wie etwa bei Amazon, derzeit nicht profitable KI-Anwendung durch andere Bereiche querfinanziert werden, wird die Anwendungsweise der Technologie nicht bloß als unproduktiv bezeichnet, als ob sie nur andernorts produzierten Mehrwert abschöpfen würde. Auch wenn der „aktuelle Technologieschub“ in „einer langen Phase schwachen Wirtschaftswachstums“ erfolgt (Nuss/Butollo 2019, 16), das „im makroökonomischen Kontext einer strukturellen Überakkumulation des Kapitals“ steht (Butollo/Paiva Lareiro 2021, 359), mag es zwar primär, aber nicht allein um eine „Eroberung größerer Marktanteile eines insgesamt stagnierenden Marktes“ (373) und eine „Umverteilung zwischen Kapitalfraktionen“ (372) gehen. Beispielsweise Amazon fungiere, so Haug mit einem Zitat aus Karl Marx’ Aufzeichnungen zum zweiten Band des Kapitals, als produktivitätssteigernde Vermittlungsinstanz und sei insofern „als eine [KI-gestützte] Maschine zu betrachten, die nutzlosen Kraftaufwand vermindert oder Produktionszeit [derzeit zugunsten der Kapitalproduktivität] freisetzen hilft“ (MEW 24/133; zit. n. Haug 2020, 42). Das so bereitgestellte technische Potential der Rationalisierung gesamtgesellschaftlicher Produktion wird unter kapitalistischen Bedingungen durch die reale Konkurrenz privater Akteure konterkariert (vgl. 46).
Marx selbst entwickelte seine Theorie der polit-ökonomischen Rolle der Maschinerie unter anderem in Kritik der Auffassungen von Charles Babbage (1791-1871) über die Möglichkeiten einer „mechanisation of management via computation“ (Pasquinelli 2020, 124) zugunsten der Kapitalproduktivität. Mit den derzeitigen Anwendungsfällen und -formen von Machine Learning als KI befindet sich eine Maschine in der Entwicklung, deren Leistung der Koordination von Maschinen und Planungsermöglichung bei kapitalistischer Produktionsweise notwendigerweise privatisiert gehalten, also durch Regulierung und Besteuerung des Zugangs ‚verknappt‘ werden muss (vgl. dazu auch „general intellect“, HKWM 5, 236). Solche Privatisierung findet statt, wenn Konzerne wie Amazon und Uber ihre Koordinationsleistungen als Dienstleistungen auf dem Markt (bzw. zugleich als Marktplätze) anbieten. Die gesellschaftliche Arbeitsteilung, die durch Machine Learning-Anwendungen als sogenannte ‚Plattformökonomie‘ vermittelt wird, tritt als privatwirtschaftliche Dienstleistung auf, auch wenn die zur Entwicklung der genutzten Technologie erforderlichen Datenmassen durch quasi-öffentliches und unbezahltes, bzw. durch kostenlose Nutzungslizenz entgoltenes Userverhalten erhoben werden (bei gleichzeitiger gezielterer Schaltung von Werbeanzeigen und der Erstellung entsprechender Profile, die für Werbekunden wiederum als Waren eingesetzt werden oder auf andere Märkte gebracht werden können). Während etwa Plattform-Kooperativismus- und FLOSS-Bewegungen bisher eher marginal blieben (vgl. Kludas et al. 2019), zeigen sich hier Probleme mangelnder sozialökonomischer Demokratisierung wie auch bei der Algorithmenentwicklung oder der juristischen Behandlung von Technik, auf die zunehmend Entscheidungen delegiert werden. (Auf Kriegsführung mittels Drohnen weist Ohm in seinem Artikel hin.)
3
Nuss und Butollo halten fest, daß die Technologie nicht nur einen „Beitrag zur Rationalisierung der Produktion von Mehrwert“ bereitstellt, sondern auch „Strategien zur Erhöhung der Umschlagsgeschwindigkeit von Waren, der Diversifizierung des Angebots und der Verbesserung der Produktqualität – Maßnahmen, mit denen Konkurrenzvorteile bei der Realisierung des Mehrwerts erzielt werden sollen“ (2019, 13). Es bestehe zwar „gebrauchswertseitig“ ein Potential für „effektiveren Einsatz menschlicher Arbeit“, ihre „qualitative Verbesserung und eine Ausdifferenzierung des Angebots“, das aber „tauschwertseitig“ durch den Zwang, die Technologie „gewinnbringend einzusetzen“, „beschränkt“ wird (Butollo/Paiva Lareiro 2021, 372). In der Technik vergegenständlichte Arbeit produziert zugleich zusätzliche ‚industrielle Reservearmee‘ und drückt so den Preis lebendiger Arbeit. In der Frage nach ihrem „gesellschaftlichen Nutzen“ (Nuss/Butollo 2019, 17) ist zudem neben der rein quantitativ betrachteten Produktivität selbstverständlich auch die „Frage nach der Sinnhaftigkeit bzw. der Kritik, bspw. von neuen Möglichkeiten der Überwachung, von individualisierten Produkten, von der Erhöhung der Anzahl an Konsumartikeln“ (Butollo/Paiva Lareiro 2021, 372, Fn. 10) zu berücksichtigen. Auf die Problematik der Überwachungseffekte geht der Artikel von Ohm im Kontext des ‚Internets der Dinge‘ näher ein.
Als politisch relevant werden nicht nur die Auswirkungen der Technologien und ihrer Anwendungsweise angesehen, sondern auch weitere Ursachen dieser Auswirkungen (vgl. Wajcman 2019, 31), etwa die zum Monopol tendierende „Dominanz“ nur weniger Konzerne mit der erforderlichen Rechenkapazität (sowie den meisten Nutzerinnen und Nutzern, größten Datensammlungen und entsprechenden Kapitalmengen) und die „sich daraus ergebenden sozialen Folgen“ (26). Wird angesichts der „Masse von prekär beschäftigten und schlecht bezahlten Arbeitskräften, die das Räderwerk von Firmen wie Google, Amazon und Twitter antreiben“, politische Hoffnung auf ein „garantiertes Mindesteinkommen“ (31) gelegt, stellt sich das Problem eines möglichen Wegfalls staatlicher Sozialleistungen, die oft nicht rein monetär geleistet werden können. Die große Anzahl kaum bezahlter ‚crowdsourcing‘-Arbeitskräfte in Ländern des Globalen Südens bliebe von einem Grundeinkommen in den reichsten Industrieländern ohnehin ausgeschlossen. Demgegenüber benennt Ohm Hoffnungen, die mit einer „Vergesellschaftung der Automatisierungsdividende“ verbunden sind.
Auf sozialökologische Fragen im Zusammenhang der für Maschinelles Lernen benötigten Datenmengen weist Daum (2020) hin: Während „sich der Rechenaufwand für große KI-Modelle bereits alle dreieinhalb Monate verdoppelt“, so eine Studie der Forschungsgruppe OpenAI, sei aufgrund verbesserter Energieeffizienz zwar – bei gestiegenem „workload von Rechenzentren“, der sich seit 2010 „mehr als versechsfacht“ habe, – der absolute Energieverbrauch „weitgehend konstant“ geblieben. Doch steigere sich diese Effizienz derzeit fast sechsmal langsamer als das Wachstum des Rechenaufwands großer KI-Modelle.
4
Turings Modell einer universalen Rechenmaschine mag zwar potentiell jeden berechenbaren Prozess durchlaufen können, realiter aber wohl nicht alle: komplexitätstheoretische Überlegungen sprechen dafür, daß die gesamte Zeit des Bestehens des Universums dafür – und auch schon für enger begrenzte Probleme ab einem gewissen Komplexitätsgrad – nicht ausreichen dürfte. Fragen des benötigten Energie- und Materialaufwands spielen auch hier eine begrenzende Rolle.
Grundsätzlich beruht ein oft auftretendes Paradox der Reflexion über KI einerseits auf dem Anspruch, ihren Erfolg rein behavioristisch beurteilen zu wollen, andererseits der Neigung, (menschliche) Kognition nicht als reales Verhalten eines physisch, geschichtlich und sozial eingebundenen und handelnden Subjekts anzusehen, dessen Interpretieren notwendig auch ein Verändern umfasst, sondern letztlich nur als Rechenprozess im Sinne der Verarbeitung symbolischer Zeichensysteme (vgl. kritisch etwa Lake et al. 2017). Widersprüchlich komplementär dazu kennzeichnet Wajcman als verbreitete Haltung gegenüber KI, wenn Menschen in einer sich wandelnden Gesellschaft die von ihnen produzierte „Technologie verdinglichen und als eine neutrale, unaufhaltsame Kraft behandeln, die diese Veränderungen herbeiführt“ (2019, 30). Auch Nuss und Butollo problematisieren einen „Technikfetisch, der einer differenzierten Deutung des zeitgenössischen Kapitalismus, aus der sich politische Strategien ableiten ließen, im Wege steht“ (2019, 12; vgl. Haug 2020, 24). In der Terminologie von Georg Lukács formuliert, wird eine solche „Fetischisierung“ ermöglicht, indem ein reales Phänomen, etwa ‚Intelligenz‘, gesellschaftlich-geschichtlich unspezifisch aufgefasst wird und sein „abstrakter Begriff (zumeist nur einige Züge dieses abstrakten Begriffs) zum angeblich selbständigen Sein, zur eigenen Entität fetischisiert wird“ (1948/2021, 244; in einem späteren Interview lehnte Lukács explizit ab, „im Grunde genommen in der Kybernetik das Ideal des menschlichen Denkens“ zu sehen; 1970/2009, 409). Ein Verständnis der geistigen Produktion setzt eine Analyse der bestimmten historischen Form der materiellen Produktion voraus (vgl. Marx, Theorien über den Mehrwert, MEW 26.1/256 f.): „All work is both mental and manual“ (Pasquinelli 2020, 126; vgl. dazu „immaterielle Arbeit“, HKWM 6/I, 819-32).
Konstantin Baehrens ist Redakteur für internationale Zusammenarbeit im Projekt HKWM International
Bibliographie:
Florian Butollo, Sabine Nuss (Hg.), Marx und die Roboter. Vernetzte Produktion, Künstliche Intelligenz und lebendige Arbeit, Dietz, Berlin 2019.
Florian Butollo, Patricia de Paiva Lareiro, „Technikutopien und säkulare Stagnation. Der Kapitalismus als Treiber und Schranke des Digitalen“, in: Thomas Sablowski, Judith Dellheim, Alex Demirović, Katharina Pühl, Ingar Solty (Hg.), Auf den Schultern von Karl Marx, Westfälisches Dampfboot, Münster 2021, 359-75.
Timo Daum, „Künstliche Intelligenz als vorerst letzte Maschine des digitalen Kapitals“, in: Butollo/Nuss 2019, 311-26.
id., „Missing Link: Künstliche Intelligenz und Nachhaltigkeit – und ewig grüßt der Rebound Effekt“, in: www.heise.de, 22. März 2020.
Paul N. Edwards, The Closed World. Computers and the Politics of Discourse in Cold War America, MIT Press, Cambridge (MA) 1996.
Wolfgang Fritz Haug, „Online-Kapitalismus. Eine forschende Auseinandersetzung mit Staabs ‚Digitalem Kapitalismus‘“, in: Das Argument. Zeitschrift für Philosopie und Sozialwissenschaften, Nr. 335, Bd. 62 (2020), H. 2/3, 19-56.
Sebastian Höfer, „Algorithmen, Maschinelles Lernen und die Grenzen der künstlichen Intelligenz“, in: Jusletter, 26. November 2018.
Santje Kludas [et al.], „Alle Macht den Plattformen? Genossenschaften, Freie Software und die Möglichkeit einer sozial-ökologischen Plattformisierung“, in: Anja Höfner, Vivian Frick (Hg.), Was Bits und Bäume verbindet. Digitalisierung nachhaltig gestalten, oekom, München 2019, 120-23.
Brenden M. Lake [et al.], „Building machines that learn and think like people“, in: Behavioral Brain and Sciences, Bd. 40 (2017), e. 253.
Georg Lukács, „Von der Verantwortung der Intellektuellen“ (1948), in: ders., Werke, Bd. 3.1, Aisthesis, Bielefeld 2021, 239-45.
ders., „‚Das Rätesystem ist unvermeidlich‘ [1970]“, in: ders., Werke, Bd. 18, Aisthesis, Bielefeld 2009, 395-430.
Christian Meyer, „Vorwärts und nicht vergessen. Ein Blick in materialistische Technologiediskussionen“, in: Butollo/Nuss 2019, 113-29.
Sabine Nuss, Florian Butollo, „Einleitung der Herausgeber“, in: dies. (Hg.), Marx und die Roboter. Vernetzte Produktion, Künstliche Intelligenz und lebendige Arbeit, Dietz, Berlin 2019, 8-21.
Matteo Pasquinelli, „Artificial Intelligence as Division of Labour. Reading Marx and Babbage in the 21st Century“, in: Wolfgang Girnus, Andreas Wessel (Hg.), Lebendiges Denken. Marx als Anreger, Leipziger Universitätsverlag, Leipzig 2020, 117-27.
Rudi Schmiede, „Informatisierung, Formalisierung und kapitalistische Produktionsweise. Entstehung der Informationstechnik und Wandel der gesellschaftlichen Arbeit“, in: ders. (Hg.), Virtuelle Arbeitswelten. Arbeit, Produktion und Subjekt in der „Informationsgesellschaft“, edition sigma, Berlin 1996, 15-47.
Judy Wajcman, „Automatisierung: Ist es diesmal wirklich anders? Eine Sammelbesprechung“ [aus dem Englischen von Christian Frings], in: Butollo/Nuss 2019, 22-35.
