Montagsblock /219

Gerne möchte ich noch einmal auf den Kommentar oder den Einwand eingehen, den Sibylle Anderl in der vergangenen Woche zu meinem Montagsblock /216 formuliert hat. Gegenüber meiner These von der Demütigung durch KI-Sprachsysteme bringt Sibylle in Anschlag, dass solche Systeme womöglich mehr können als nur sprachliche Ereignisketten zu vervollständigen. Das mag stimmen, aber ändert womöglich nichts an meinem Argument. Sibylles Maßstab, der auch in der breiten Diskussion in KI-Reflexionen gesetzt wird, ist die Frage des „wirklichen“ Verstehens. Sie fragt: Woher kommen die Kategorien des Verstehens, wenn nicht aus dem Akt des Verstehens selbst?

Was ich mit der Demütigung meine, ist nicht nur, dass offensichtlich bestimmte Formen technischer Mustererkennung ausreichen, um Verstehen zu simulieren – nicht umsonst führt Sibylle das berühmte Gedankenexperiment des Chinesischen Zimmers an. Mein Argument beruht darauf, dass die Leistungsfähigkeit solcher KI-Systeme sich gerade nicht einem den Systemen immanenten Verstehensakt, gewissermaßen einem „wirklichen“ Verstehen verdankt, sondern Referenzen, die außerhalb jener Immanenz liegen. Erst hier werden sich natürliche und technische Verstehensformen ähnlich – nämlich dann, wenn man sie nicht aus dem Akt des „Denkens“, also psychologistisch, sondern logisch versteht.

Worauf ich hier anspiele, ist das, was zu Beginn des 20. Jahrhunderts als Psychologismus-Kritik diskutiert wurde, wie sie prominent von Edmund Husserl und Gottlob Frege diskutiert worden ist. Sehr vereinfacht formuliert, postulieren beide einen Vorrang der Logik vor dem Denken. Das bedeutet, dass das Denken auf eine Logik angewiesen ist, die es verwendet und nicht erzeugt. Und exakt das ist es, was solche KI-Systeme machen: Sie verwenden eine (sinnhafte) Logik, die in den sinnhaften Prozessen der Welt (in Daten-, also Zeichenform) vorliegen, wie das natürliche Bewusstsein und Denken seinerseits ohne die in den sozialen, sprachlichen, symbolischen, sinnhaften Formen aufbewahrte „Logik“ nicht denkbar wäre.

Wahrscheinlich wird es kaum gelingen, die Logik (sic!) von KI-Sprachsystemen nach einem psychologistischen Modell zu verstehen. Der Schlüssel liegt in jener Logik der Praxis, die in den entsprechenden Vorlagen vorzufinden ist – und diese ähnelt sich für alle sinnverarbeitenden Systeme, die auf sprachlichen Symbolen basieren, die bekanntlich spätestens seit de Saussure keine außersprachliche Welt repräsentieren, sondern durch einen internen Verweisungszusammenhang strukturiert sind, der sich gewissermaßen selbst im Gebrauch dynamisch stabilisiert.

Sibylle geht auch auf die manchmal vertretene These ein, KI-Sprachsysteme verfügten womöglich über so etwas wie „interne Repräsentationen“ der Welt, sonst könnten sie nicht mit überraschenden Rekombinationen aufwarten. Aber ähnlich wie die Figur des „wirklichen Verstehens“ ist diejenige der „internen Repräsentation“ ein psychologistisches Argument, das kaum erklären kann, was denn da repräsentiert wird. „Interne Repräsentation“ und interne Verarbeitungsregeln kann man aber psychisch wie technisch stets nur als Funktion einer logischen Ordnung verstehen, die den Prozessen selbst vorgeordnet ist. Dass solche „Repräsentation“ mit internen Verweisungszusammenhängen und Rekombinationsmöglichkeiten sinnhaft erfolgt, bestätigt nur den Vorrang der Logik vor den psychischen Prozessen.

So ist übrigens auch zu erklären, dass Erwartungen an sinnverarbeitende KI-Systeme, objektiver, weniger stereotypisierend, weniger vorurteilsbeladen, weniger biased zu sein als sinnverarbeitende soziale und psychische Prozesse, im Grunde naiv sind. Ihr einziger Vorteil könnte darin liegen, dass sie mehr gleichzeitig verarbeiten können. Ob (und wie) sich Skalierung auf Qualität auswirkt, wäre dann eine weitere Frage.

Überhaupt dient eine Reflexion der sinnverarbeitenden Formen durch digitalisierte Technik auf unterschiedlichen Gebieten dazu, die Mechanismen des natürlichen Bewusstseins besser zu verstehen – das gilt etwa für die Frage der Wahrnehmung der eigenen Umwelt, für die Frage der Rekombinationsfähigkeit von Sinn und offensichtlich auch für die Frage des Vorrangs der Logik vor dem logischen Denken.

Der schönste Satz in Sibylles Block lautet: Der KI „Weltmodell enthält latente Dimensionen“. Dem ist unbedingt zuzustimmen – denn latent bleiben für alle sinnhaften Prozesse die nicht selbst kontrollierbaren Bedingungen der eigenen Prozesse. Vielleicht ist das die Theoriestelle, an der in der Psychologismus-Kritik der Begriff der Logik steht und an der jene Demütigung versteckt liegt, wie wenig wir – also die Maschine und wir – die Logik der Logik selbst in der Hand haben.

Armin Nassehi, Montagblock /219

01. Mai 2023