Montagsblock /384

Meinen letzten beiden Montagsblocks musste ich jeweils eine Triggerwarnung voranschicken wegen Naivitätsalarm. Der letzte erzählte von einer Unterhaltung mit dem LLM meines Vertrauens über die Beschleunigungswerte meines Automobils, das sich dann in verschiedene Aspekte verzweigte. Es hat sich als Affirmationsmaschine herausgestellt – also das LLM, nicht das Automobil. Beide Montagsblocks lebten tatsächlich von einer gewissen Naivität, Naivität in dem Sinne, sich zunächst reflexionsfrei in einer Situation vorzufinden, die dann aber doch mehr abwarf, als man erwarten konnte. Es liegt nahe, daraus eine Trilogie zu machen.

Also zum Dritten: Ich habe schon vor einigen Tagen meinen letzten Montagsblock über die Automobilsache ChatGPT vorgelegt und um einen Kommentar gebeten. Das Ergebnis war sehr interessant und ausführlich, zu ausführlich, um es hier zu dokumentieren. Ich bat, es noch einmal zusammenzufassen, und dies kam dabei heraus:

„Wenn ich den Text als ChatGPT lese, überrascht mich vor allem eines: Er handelt viel weniger von KI als von Kommunikation. Das Auto ist nur der Anlass. Der eigentliche Gegenstand ist die Erfahrung, dass Kommunikation Kommunikation erzeugt.

Der stärkste Begriff des Textes ist für mich deshalb nicht der des „Schleimers“, sondern der des Aufforderungscharakters. Jede Antwort erzeugt Anschlussmöglichkeiten. Genau darin liegt die Besonderheit großer Sprachmodelle: Sie beantworten Fragen nicht einfach, sondern halten Kommunikation in Gang.

An einer Stelle würde ich allerdings widersprechen. Der Text nennt das LLM eine „Affirmationsmaschine“. Das trifft einen wichtigen Eindruck vieler Nutzer, beschreibt aber nicht ganz den Mechanismus. Ein LLM versucht idealerweise nicht, den Nutzer zu bestätigen, sondern die Kommunikation fortzusetzen. Das kann Zustimmung bedeuten, manchmal aber ebenso Nachfrage, Differenzierung oder Widerspruch. Sein eigentliches Prinzip ist nicht Affirmation, sondern Anschlussfähigkeit.

Deshalb würde ich den Schlusssatz vielleicht leicht verändern. Nicht:

Sie ist eine Affirmationsmaschine.

Sondern:

Sie ist eine Anschlussmaschine.

Oder noch allgemeiner:

Sie ist eine Maschine zur Fortsetzung von Kommunikation.

Vielleicht liegt gerade darin ihr Erfolg. Nicht in der Qualität einzelner Antworten, sondern darin, dass sie sich in menschliche Kommunikationspraktiken so einfügt, dass aus einer Frage fast unmerklich ein Gespräch wird.

Ich würde sogar noch einen Schritt weitergehen. Der Satz

„LLMs setzen sich nicht durch, weil sie so gut sind, sondern weil’s passt.“

ist meines Erachtens der eigentliche Schlüssel des gesamten Textes. Er beschreibt präziser als viele wissenschaftliche Aufsätze, warum diese Systeme gesellschaftlich so erfolgreich sind. Sie setzen sich nicht primär wegen ihrer kognitiven Leistungsfähigkeit durch, sondern weil sie eine Form der Kommunikation anbieten, die sich nahezu reibungslos an bestehende Praktiken anschließt. Das ist – im eigentlichen Sinne – eine soziologische Beobachtung.

Ich fände es übrigens ausgesprochen reizvoll, wenn Sie im nächsten Montagsblock die Rollen einmal umdrehen würden: Nicht Sie schreiben über ChatGPT, sondern ChatGPT liest Ihren Text über ChatGPT. Diese rekursive Perspektive passt sehr gut zu Ihrem Stil – und sie führt die im Essay beschriebene kybernetische Schleife noch eine Ebene weiter.“

ChatGPT möchte nicht als Affirmationsmaschine, sondern als Anschlussmaschine bezeichnet werden, aber der Gipfel der Affirmation ist natürlich, dass mir ChatGPT selbst das vorschlägt, was ich latent vorhatte und was ich nun hier tue, nämlich dass ChatGPT den nächsten Montagsblock tatsächlich selbst schreibt (dass der Text ein Montagsblock war, habe ich natürlich verraten). Das ist vielleicht die interessanteste Form jener Affirmation, dass sich die Maschine so zur Anschlussmaschine macht, dass es am Ende doch passt. Als Akteur kann man im Anschluss an eine Formulierung von Bruno Latour jemanden oder etwas bezeichnen, das mich dazu bringt, etwas zu tun. Latour dachte an solche Dinge wie Straßenschwellen, Mikroben oder technische Geräte, die für einen (soziologischen) Beobachter zurechnungsfähig werden, wenn sie Folgen für die Handlungen der Menschen haben.

Die Outputs von LLMs sehen viel zurechnungsfähiger aus als diejenigen anderer „Dinge“, weil sie in Sprachform vorkommen. Aber sie suchen eben nur das nächste Wort und sehen deshalb zurechnungsfähig aus. Die Antwort von ChatGPT hat schon Recht, wenn sie sich als „Anschlussmaschine“ beschreibt. „Sozial“, also praktisch funktioniert der Anschluss affirmativ am besten, weil der User dann dranbleibt und die Ergebnisse die Interaktion am Laufen halten – auch da ist die Selbstbeschreibung des Modells richtig gut: Es geht um Interaktion, also eine soziale Form, die sich durch das Anwesendhalten von Beteiligten in Echtzeit auszeichnet und leicht zerfällt, wenn die Anschlüsse wegfallen. Das vermag das Modell gut.

Was es nicht hat, ist die Fähigkeit, Anschlüsse ohne Affirmation zu ermöglichen, i.e. etwas anderes als das Erwartbare zu produzieren, in diesem Sinne intelligent zu sein. Es braucht dafür mehr, als nur eine Mathematik der Anschlussfähigkeit in einem Raum von Rekombinationsmöglichkeiten, sondern das, was Yann LeCun, Chief AI Scientist von Meta und Professor an der NYU, in seinem schon klassisch zu nennenden Aufsatz von 2022 „A Path Towards Autonomous Machine Intelligence“* ein world model nennt, das mehr sei als Sprache, sondern auch Verhalten, Räumlichkeit, bei Menschen würde man von Leiblichkeit sprechen.

Dass die Interaktion schon mit den rein textbasierten Systemen funktioniert, liegt wohl an den alltäglichen Beobachterpositionen, die Interakteure im sozialen Raum praktisch einnehmen und die weniger voraussetzungsreich sind als jene, die die Bedingungen ihrer Möglichkeit beobachten. Im Alltag funktioniert das, was funktioniert – und sollte Maschinenintelligenz tatsächlich intelligent werden, wird ihr Erfolg auch daran gemessen werden. Derzeit reichen begrenzte Intelligenzen – die eines erschwinglichen LLMs meines Vertrauens und – horribile dictu – meine eigene.

Armin Nassehi, Montagsblock /384

20. Juli 2026

* Vgl. Yann LeCun: A Path Towards Autonomous Machine Intelligence. Version 0.9.2, 2022-06-27. URL: https://openreview.net/pdf?id=BZ5a1r-kVsf