Schwächeln ist menschlich

Seit die Maschine mit uns spricht, ist das Thema der künstlichen Intelligenz wieder groß in Mode. Manche erwarten gar die Ablösung des Menschen durch eine Super-Intelligenz. Die Ideen sind alles andere als neu. Sie setzen darauf, dass wir vergessen, dass sich menschliches Leben und Zusammenleben nicht in Denken und Reden erschöpft.

Seit langem rechnen Computer schneller (und zuverlässiger) als der Mensch; genau dafür wurden sie erfunden. Das hat niemanden weiter beschäftigt: Zu kompliziert war die Bedienung mit Lochkarten und Magnetbändern, zu unhandlich waren die Großgeräte. Doch selbst als der IBM-Computer Deep Blue den damaligen Weltmeister Gary Kasparow 1996 im Schach besiegte, blieb die große Aufregung aus. Man hatte schnell verstanden, dass auch Schach nichts anderes ist als ein Optimierungsproblem in einem regelbasierten Umfeld. Deep Blue konnte in der Sekunde über 100 Millionen Stellungen analysieren und bewerten. Da kam der Weltmeister nicht mehr mit. Dass Deep Blues Nachfolger Watson 2011 sich im Spiel Jeopardy im amerikanischen Fernsehen gegen die Titelverteidiger durchsetzte, schaffte es nicht mehr auf die deutschen Titelseiten.

Doch jetzt, wo die Maschine Geschichten erzählt und Bilder malt, für Zeitungsartikel recherchiert und diese schreibt, Unternehmensdaten analysiert und die Unternehmensplanung erledigt, ist die Aufregung groß. Zeitungen geben wöchentliche Newsletter heraus, Unternehmen entwickeln KI-Strategien, und die Bewertung der Digitalunternehmen erfährt neue Höchststände. Es herrscht Goldgräberstimmung. Doch gleichzeitig verändert sich die Arbeitswelt der kulturellen und wirtschaftlichen Elite: Plötzlich ist man selbst Gegenstand des technologischen Fortschritts, den man bislang nur beschrieben oder gemanagt hat. Die Sorge vor dieser Hochrisikotechnologie ergreift auch die intellektuelle Elite, weil sie selbst nicht mehr versteht, was geschieht. Ein Großteil der Unruhe könnte damit zu tun haben.

Aber nicht nur. Wissen, Vernunft und Sprache sind geradezu die Definition des Menschseins. Wir sind der homo sapiens, der wissende Mensch. Wir sind das animal rationale, das vernünftige Lebewesen. Und wir sind nach einer Bestimmung, die schon älter ist als Aristoteles, das zoon logon echon, das Lebewesen, das Sprache hat. Sprache scheint der Kern dessen zu sein, was wir sind. Ohne Sprache bleiben unser Wissen und unsere Vernunft stumm. Mit der Sprache treten wir in Kontakt zur Welt und zum anderen Menschen.

Nun hat die Maschine es dank eines unglaublich großen Datensatzes und einer noch größeren Rechenleistung geschafft, Sprache als mathematisch-statistisches Phänomen zu reformulieren und uns mit seiner Auswertung zu beeindrucken. Wir hören sie sprechen. Und uns gefällt, was wir hören, reflektiert es doch alle digitalisierten Werken der Weltliteratur und die Erkenntnisse aus wissenschaftlichen Veröffentlichungen einer ganzen Generation: „Der Weltgeist aus der Maschine“, bemühte der Spiegel den Philosophen Hegel für das Titelthema im März 2023.

Wird die Maschine nun menschlich? Stehen wir kurz vor einer Intelligenz-Explosion? – Auch diese Frage ist alt. Schon 1965 erwartete der britische Mathematiker Irving John Good die Erfindung einer „ultra-intelligenten Maschine“, die dem Menschen in allen intellektuellen Fähigkeiten weit überlegen sei. Diese Maschine sei die letzte Erfindung, die der Mensch noch machen müsse, danach werde er nicht mehr gebraucht.

Vor zehn Jahren beschrieb der in London lehrende schwedische Philosoph Nick Bostrom die künstliche Intelligenz als den vielversprechendsten Weg zur Entwicklung einer solchen „Superintelligenz“. Als Transhumanist, der die Verbesserung oder Ablösung des Menschen durch eine technologisch optimierte Lebensform erwartet und begrüßt, begann Bostrom gar, darüber nachzudenken, ob und inwieweit Menschen verpflichtet wären, denkende Maschinen nach menschlich-moralischen Maßstäben zu behandeln und ihnen gegebenfalls zu Diensten zu sein.

Allein, die Debatte kommt einem manchmal so vor, als hätten die letzten einhundert Jahre philosophischer Reflexion nicht stattgefunden. Man startet beim mittlerweile über 200 Jahre alten Hegel’schen „Weltgeist“, der die Verwirklichung der Vernunft in der Weltgeschichte sein sollte, übersetzt ihn in ein logisch-mathematisches Problem und erwartet, dass die Algorithmen der Superintelligenz dasselbe eines Tages lösen werden.

Dabei wusste schon Ludwig Wittgenstein vor über 100 Jahren, dass die menschlichen Probleme nicht annähernd gelöst sind, wenn alle wissenschaftlichen Fragen beantwortet sind. Und wer den Philosophen des Existenzialismus, der kritischen Theorie, der Phänomenologie oder des Post-Strukturalismus in den vergangenen 50 Jahren nur ein bisschen zugehört hat, weiß, dass die Fragen nach der Vernunft, der Sprache und dem Menschen allesamt nicht einfach zu beantworten sind: Die menschliche Existenz erschöpft sich nicht in Intelligenz, und unser Zugang zur Welt ist mehr als Datenanalyse und -aufbereitung.

„Leiblichkeit“ nennt die Philosophie das Phänomen, dass der Mensch nicht nur zufällig einen Körper hat, sondern dass er dieser Körper ist. Die Existenz des Menschen ergibt sich nicht aus einer Kombination von Hard- und Software, sondern drückt sich aus in einem Leib, der empfindsam ist sowie räumlich und zeitlich begrenzt.

In unserer Empfindsamkeit begegnen uns die Welt und der andere, ohne dass wir uns ihrer erwehren könnten. „Der Mensch badet in den Elementen“, schrieb der französische Philosoph Emmanuel Levinas. Wir verstoffwechseln unsere Welt, lange bevor wir sie analysieren oder über sie sprechen. Wir haben keine Kontrolle über unser Genießen, noch weniger aber über unseren Schmerz. Im physischen Schmerz sind wir der Welt ausgesetzt und können uns von ihr nicht freimachen. Die Maschine würde einen nicht funktionierenden Sensor abschalten. Wir können das nicht. Wir altern. Kein Upgrade und kein Update möglich. Schon der simple Organersatz ist lebensgefährlich.

Die räumliche und zeitliche Begrenztheit unserer Existenz macht sie einzig. Niemand kann mich in meinem Leib ersetzen. Und ich kann niemanden in seinem Leib ersetzen. Jeder muss für sich sterben, jeder muss die Zerbrechlichkeit seiner eigenen Existenz aushalten, bis sie nicht mehr auszuhalten ist. Die Kopie der Software auf eine andere (identische) Hardware ist nicht möglich. Unser Leib trägt die Spuren unserer Existenz.

Dadurch erlangt die menschliche Existenz Bedeutsamkeit. In der Sorge um das Leben des anderen und im Einsatz des eigenen Lebens für ihn entsteht menschliche Gemeinschaft. Unser Leben nur einigen wenigen widmen zu können, ist kein Problem unserer begrenzten Rechenleistung, es ist die Schönheit und Tragik der menschlichen Existenz, die wir Liebe nennen. Die Maschine kann nicht lieben, weil sie nicht endlich ist, sie kann nicht leiden, weil sie keinen Leib hat, und sie kann nicht für den anderen sterben, weil sie nicht lebt. Sie mag denken und reden können; aber ob sie je verstehen wird, was lieben, leiden und sterben bedeutet? Wir verstehen es ja selbst kaum.

Die Gefahr der künstlichen Intelligenz besteht darin, dass wir auf die Maschine in all ihrer Eloquenz und Beredsamkeit hereinfallen, dass wir uns vorgaukeln lassen, alle Fragen seien lösbar und der Mensch sei ersetzbar, nur weil die Maschine manche Funktionalitäten unseres (beruflichen) Alltags schneller und genauer erfüllt, als wir es könnten. Wo wir den Menschen in unserer alltäglichen Interaktion durch die Maschine ersetzen, berauben wir uns jenes Überschusses an Menschlichkeit, der nicht für die ökonomische Transaktion gebraucht wird und nicht in Intelligenz oder Sprache aufgeht.

Das Büro ist nicht nur ein Ort, wo Quartalsabschlüsse, Konstruktionszeichnungen, Verträge oder Zeitungsartikel produziert werden. An den Schulen und Universitäten wird nicht nur Wissen vermittelt. Und in den Arztpraxen und Kliniken werden nicht nur Krankheiten behandelt. Überall begegnen wir Menschen in ihrer Individualität, mit all ihren Eigenheiten, ihren Stärken und Schwächen. Auch wenn Maschinen eines Tages die besseren Manager, Ingenieure, Anwälte, Journalisten, Lehrer oder Ärzte werden sollten, sie werden nicht die besseren Menschen. Sie könnten aber uns davon abhalten, es zu werden, weil die maschinelle Illusion von Perfektion uns Demut und Großzügigkeit im Umgang mit den Schwächen des anderen vergessen und verlernen lässt.

Der Beitrag erschien unter dem Titel »Schwächeln ist menschlich« in der WirtschaftsWoche N° 34 vom 16.08.2024

Demokratie und Wirtschaft – es passt nicht mehr

Vor fast 250 Jahren definierte Immanuel Kant die Aufklärung als den Ausgang des Menschen aus seiner selbst verschuldeten Unmündigkeit. Der Liberalismus als philosophische, politische und ökonomische Weltanschauung berief sich seither auf jene Mündigkeit des Individuums und prägte die westlichen Gesellschaften und ihre Wirtschaftsordnungen. Doch seine Strahlkraft lässt nach. In den Demokratien werden rechte und populistische Kräfte stark; gleichzeitig öffnen die totalitären Diktaturen zwar ihre Wirtschaft, nicht aber die Gesellschaft. Die gern geglaubte Gleichung »Freie Wirtschaft = Freie Gesellschaft« erweist sich zunehmend als falsch.

All das kommt nicht überraschend. So warnte Theodor W. Adorno schon in den 1950er Jahren davor, dass die ökonomische Ordnung auch nach dem Ende des Faschismus die Mehrheit der Menschen in Unmündigkeit halte. Es ging ihm weniger um das konkrete wirtschaftliche Wohlergehen und die fehlenden ökonomischen Mittel zur Selbstverwirklichung. Er sah vielmehr im Wirtschaftssystem einen Zwang angelegt, der der individuellen Autonomieerfahrung entgegensteht. Das gebrochene Versprechen auf Freiheit und Autonomie lasse die Menschen indifferent gegenüber der Demokratie werden und anfällig für die Versprechen des Totalitarismus.

Dieser Zwang, so wollen wir argumentieren, kam seit Adornos Diagnose als anonymes System gesellschaftlich vollends zum Vorschein – im Beruflichen, im Privaten und in der Politik – und ist nun mit dem Durchbruch der künstlichen Intelligenz geeignet, die Demokratie strukturell zu gefährden.

Die Berufswelt hat sich anonymisiert und bietet immer weniger soziale Heimat. Die ehemals inhabergeführten Geschäfte – Supermärkte, Drogerien, Baumärkte – sind den Filialen überregionaler Großunternehmen gewichen und haben die innenstädtische Lebenswelt der Bürger verlassen. Prozesse, Warenangebot und Arbeitskleidung sind standardisiert. Der verantwortliche Unternehmer wurde durch den nach Kennzahlen gesteuerten Filialleiter ersetzt. In den Großkonzernen sind lokale Strukturen durch funktionale ersetzt worden. Querschnittsaufgaben wurden zentralisiert, outgesourced oder offgeshored. Wer früher Kollege war, ist heute externer Dienstleister und kann morgen schon ausgetauscht werden. Und innerhalb des eigenen Unternehmens lösen agile Teams, Tele-Arbeit und Flex-Offices verbindliche Strukturen auf. Wer zur Arbeit kommt, wird ein Rädchen im Getriebe.

Das Privatleben hat sich verkompliziert und ökonomisiert. Dank der Liberalisierung ehemals öffentlicher Dienstleistungen muss der Bürger heute mehr ökonomische Entscheidungen treffen als je zuvor. Er hat die Wahl aus hunderten von Strom-, Gas- und Telekommunikationstarifen. Die Krankenkasse muss er wählen und sich nach Möglichkeit für eines der über 6.300 zertifizierten Riester-Renten-Produkte entscheiden. Die Lage ist unüberschaubar. Häufig entdeckt er nach Vertragsabschluss, dass er eine Sonderaktion versäumt, einen Bleibe- oder Wechselbonus nicht wahrgenommen oder ein kostenfreies Zusatzangebot nicht rechtzeitig gekündigt hat. 

Und die Politik greift ebenfalls verstärkt zu ökonomischen Instrumenten, um die Gesellschaft zu lenken: CO2-Abgabe und schadstoffausstoßabhängige LKW-Maut, Langzeitstudiengebühren und Bildungsgutscheine, Zigaretten- und Alkopopsteuer, die Liste ließe sich fortsetzen. Der Staat übt ökonomischen Druck aus, der vor allem bei der unteren Hälfte der Bevölkerung ankommt; die Wohlhabenden haben die finanziellen Mittel, um sich freizukaufen.

Man kann die Liberalisierung ehemals öffentlicher Dienstleistungen und die zielgerichtete Besteuerung unerwünschten Verhaltens als Antwort der liberalen Demokratie auf die von Hartmut Rosa beschriebene Beschleunigung der Moderne begreifen: Wo alle Lebensvollzüge kontinuierlich schneller werden, dauert demokratische Willensbildung und Kompromissfindung zu lange. Die ökonomische Logik ist schneller, aber auch liberaler, weil sie keine Vorschriften macht, sondern die Menschen entscheiden lässt, wie und wo sie ihr Geld ausgeben.

All diese Entwicklungen haben uns wirtschaftliche Vorteile gebracht: Längere Ladenöffnungszeiten, ein größeres Warenangebot, günstigere Produkte, weniger staatliche Verbote. Doch sie haben auch den Zwangscharakter eines anonymen Systems verstärkt. Es ist schwer, jemanden zu finden, der die Verantwortung trägt. Immer scheint es der anonyme Markt zu sein, dem wir nicht entkommen können. 1984 musste der Postminister dem Parlament noch Rede und Antwort stehen für die 6-monatigen Wartezeiten auf einen Telefonanschluss beim Fernmeldeamt Lübeck. Heute gibt es keinen Postminister mehr; und die Antwort auf die fehlenden Glasfaseranschlüsse oder die schlechte Netzabdeckung sind die ökonomischen Zwänge und „der Markt“, dem man Versagen unterstellt. Dabei zeigt er sich gerade darin effektiv, unrentable Vorhaben zu verhindern, so sehr sie politisch auch gewünscht sind.

Dass solche Wirkmechanismen des Marktes einen Zwang darstellen können, dafür ist der Liberalismus blind. Der Markt ist ihm die Summe der freien Entscheidungen mündiger Bürger. Doch während die liberalen Gesellschaften weiterhin versuchen, die Ökonomie in ihren Dienst zu nehmen, wird in der internationalen Tech-Szene und im Silicon Valley längstüber eine andere Zukunft nachgedacht. Accelerationism nennt sich eine Denkschule, der der Mensch zu unvollkommen ist und das Institutionengeflecht des demokratisch verfassten Staats zu langsam. Der Philosoph Nick Land propagiert die Organisation der Gesellschaft in der Form von Aktiengesellschaften mit den Bürgern als Anteilseignern und strebt eine umfassend technologisierte und de-humanisierte Wirtschaft an.

Jene ist seit dem Durchbruch der Generative Artificial Intelligence mit Händen greifbar. Die strukturellen Konsequenzen für das Verhältnis von Wirtschaft und Gesellschaft werden dabei bislang unterschätzt. So hat der deutsche Ethikrat in seiner detailreichen und differenzierten Stellungnahme zu Künstlicher Intelligenz zwar vier Felder näher untersucht – Medizin, Bildung, öffentliche Kommunikation und Meinungsbildung sowie öffentliche Verwaltung –, hebt dabei aber vor allem auf Einzelanwendungen ab. Dass Maschinen und Algorithmen einzelne Prozesse oder Prozessschritte in Unternehmen übernehmen, ist jedoch nicht neu; so findet ein Großteil des Börsenhandels schon heute automatisiert statt, und der Autopilot landet das Flugzeug ruhiger als der Mensch.

Neu ist die Möglichkeit der restlosen Vernetzung der Einzelprozesse und der Automatisierung des gesamten Unternehmens, von Einkauf über Mitarbeiterdisposition bis zum Vertrieb. Der chinesische Konzern Netdragon Websoft hat – wenn auch vermutlich als PR-Aktion – den CEO seiner Tochtergesellschaft Fujian im August 2022 durch eine künstliche Intelligenz ersetzt. Was uns bevorsteht, ist ein eigenständiges Computerprogramm, das als Unternehmen am Wirtschaftsgeschehen teilnehmen kann. Dabei geht es nicht primär um die Reduzierung von Kosten, wie die aktuelle Diskussion um die wegfallenden Arbeitsplätze glauben lassen möchte. Der weitaus größere Hebel der künstlichen Intelligenz ist die Steigerung des Umsatzes und der Marge; kurz: wir alle sollen mehr kaufen und mehr bezahlen.

Die ersten voll-digitalen Unternehmen werden wir daher vermutlich im Vertrieb von einfachen Verträgen sehen: Strom und Gas, Telefon und Internet, Bank- und Versicherungsdienstleistungen. Die Plattformen stehen längst, die Prozesse sind digitalisiert und laufen auf den Servern von Amazon, Google und Microsoft in der Cloud. Derzeit arbeiten noch letzte Menschen im Callcenter, in der Produktentwicklung und der Programmierung der Prozesse. Sobald der Computer zuverlässig eigenständig kommunizieren und programmieren kann, werden auch sie ersetzt. Und da der Computer über unsere verschiedenen Bedarfe hinweg ständig alle relevanten Daten präsent hat, durch Analyse seines menschlichen Gegenübers seine Verkaufsstrategie in Echtzeit anpassen kann und auch nach acht, zwölf oder 16 Stunden Einsatz nicht müde wird, wird er zum unwiderstehlichen Verkäufer und Verführer. Gilles Deleuze‘ Metapher vom Kapitalismus als Maschine wird Wirklichkeit.

Müssen wir angesichts der neuen technischen Wirklichkeiten wirtschaftliche Freiheit neu bestimmen? – Der Liberalismus verteidigt zu Recht die Freiheit des menschlichen Unternehmers. Eine freie Gesellschaft ohne freie Berufswahl und freies Unternehmertum ist schwer vorstellbar. Der Ökonom Friedrich August von Hayek ging so weit, die ökonomische Gesellschaft als Retterin der Demokratie vor sich selbst zu feiern. Demokratie habe eine Tendenz dazu, »zwangsläufig egalitär« zu werden, schrieb er. Mit der Rechtsfiktion der „juristischen Person“ gemäß Artikel 19 des Grundgesetzes erkennen wir Unternehmen sogar Grundrechte zu und sind bereit, diese gegen die Grundrechte von Menschen abzuwägen. Doch würden wir auch einem von Maschinen gesteuerten Unternehmen Grundrechte zuerkennen, wenn es ein von Menschen gesteuertes Unternehmen ersetzte? – Mit verbundenen Augen wird Justitia den Unterschied nicht sehen.

Aufklärung, die wie Kant meinte, „einzig Freiheit“ brauche, wird da nicht reichen. Er hielt unsere Unmündigkeit noch für selbstverschuldet durch „Faulheit und Feigheit“. Der Liberalismus ist mit dieser These weit gekommen: Wir leben heute vermutlich in der wohlhabendsten und freiesten aller Welten. Kant war zuversichtlich, dass in einer freien Gesellschaft einige wenige anfangen würden zu denken und so den Rest aufklären. Allein, sie werden es schwer haben gegen die Maschinen und ihre Verführungskunst. Der Maschine gegenüber werden wir zunehmend unmündig. Sie weiß mehr über uns als wir selbst, kennt unsere Schmerzgrenzen, wenn wir für sie arbeiten sollen, und unsere Schwachstellen, wenn sie uns etwas verkaufen will.

Wenn Adornos These stimmt, dass die mit dem ökonomischen System verbundenen Zwangserfahrungen den Rechten Auftrieb verleihen, – und diverse aktuelle Studien zeigen entsprechende Korrelationen zwischen der Unzufriedenheit mit der Demokratie und der Ablehnung der (ökonomischen) Globalisierung sowie dem Gefühl, nicht mehr zur Gesellschaft dazuzugehören – dann müssten wir uns Gedanken machen, wie wir die Menschen wieder in die Lage versetzen, Mündigkeit zu erfahren.

Wir müssten den individuellen Unternehmer gegenüber den anonymen Unternehmen stärken und den Menschen im Beruf wieder die Chance geben, in einem Umfeld zu arbeiten, das Autonomieerfahrungen ermöglicht.

Wir müssten die ökonomischen Entscheidungen im Privaten, die viele Menschen nicht überblicken können und die gesamtgesellschaftlich wenig Wert stiften, zurückdrängen. Niemand braucht die Vielzahl an Anbietern und Tarifen für den Bereich der (ehemals) öffentlichen Daseinsvorsorge.

Und wir müssten uns in der Politik wieder trauen, Entscheidungen politisch zu treffen, anstatt einen Marktmechanismus zu erfinden und dann darauf zu warten, dass die Klügsten und Schnellsten in dem neuen Markt gewinnen und die weniger Klugen und weniger Schnellen nach Subvention und Aufschub rufen.

All das würde bedeuten, dass unser gesellschaftlicher Wohlstand langsamer wächst, weil wir die wirtschaftliche Dynamik bremsen. Das macht Verteilungsfragen virulenter als heute und mag linke Gruppierungen stärken, muss aber für die liberale Gesellschaft nicht schädlich sein, waren es doch vor allem Arbeiterbewegungen und politisch Linke, die in Spanien und Griechenland in den 1970ern und auch in Osteuropa Ende der 1980er Jahre zum Sturz totalitärer Regime beitrugen. Die Wirtschaft hingegen wird uns im Zweifelsfall nicht gegen den Totalitarismus zu Hilfe eilen, sie lebt damit in anderen Teilen der Welt recht gut und ist auch in Deutschland in der Vergangenheit nicht als große Widerstandskämpferin aufgefallen.