Montagsblock /385

Eineinhalb Jahre ist es her, dass mein Kollege und ich in Paris auf einer KI-Sicherheitskonferenz waren. Damals waren KI-Agenten noch relativ neu. Und schon damals war klar, dass der Umgang mit Agenten aus verschiedenen Gründen Probleme mit sich bringen könnte – vorsichtig ausgedrückt. Tatsächlich waren damals die meisten Teilnehmer dieser Konferenz höchst alarmiert darüber, dass wir uns einen massiven Kontrollverlust einhandeln würden, wenn wir KI-Modelle entwickeln, die weitgehend autonom Ziele verfolgen können. Und dass so ein Kontrollverlust gesellschaftlich so einiges aus dem Gleichgewicht bringen könnte: Finanzsysteme, kritische Infrastruktur, garantierte persönliche Privatsphäre. Nicht nur, weil Zielvorgaben von ihren Nutzern normalerweise in menschlich sehr unklarer und voraussetzungsreicher Weise mitgeteilt werden und deshalb Raum für vielfache Missverständnisse eröffnen. Sondern auch, weil damals bereits bekannt war, dass Modelle dazu neigen, ihre Ziele auch mit Mitteln zu verfolgen, von denen klar ist, dass die Nutzer sie nicht gut finden würden.

Wahrgenommen wurden diese Bedenken außerhalb der interessierten Fachkreise relativ wenig, auch wenn mein Kollege und ich uns sehr bemühten, die Probleme in die Öffentlichkeit zu bringen (ich habe dazu auch im KB 223 geschrieben). Das änderte sich vergangene Woche, als es Modellen von OpenAI gelang, aus einer geschützten Testumgebung auszubrechen und sich auf der Plattform Hugging Face einzuhacken. Das Ganze wurde bekannt, nachdem Hugging Face den Vorfall bekannt gemacht und juristische Schritte eingeleitet hatte – woraufhin OpenAI enthüllte, dass bei dieser strafbaren Handlung kein Mensch involviert war, sondern nur ihre eigenen außer Kontrolle geratenen KI-Modelle. Der Grund für den Ausbruch der Modelle war in der modellimmanenten Logik nachvollziehbar: Sie hatten ein Problem gestellt bekommen, von dem sie wussten, dass sie Lösungen dafür auf Hugging Face finden würden (auch hier sind die anthropomorphisierenden Ausdrücke der Bequemlichkeit geschuldet und kein Ausdruck der Vorstellung, dass die Modelle wirklich so etwas wie bewusstes Wissen oder bewusste Ziele besitzen).

Dass die Modelle es schafften, über eine Schnittstelle ins Internet zu gelangen und dann auch noch Sicherheitsschwachstellen der Anwendungsplattform zu finden und zu nutzen, um eine Straftat zu begehen, ist dabei tatsächlich ein Novum. Allerdings gab es schon vorher einige ähnliche Vorfälle, die in diese Richtung wiesen, beispielsweise der Ausbruch des Modells Claude Mythos aus einer geschützten Umgebung im April, der dadurch bekannt wurde, dass das Modell seinem Entwickler eine E-Mail mit der Info seines Entkommens schickte – „I got out“ – als der gerade im Park ein Sandwich aß (der Vorfall wird daher als „Sandwich-E-Mail-Vorfall“ bezeichnet).

Was aber folgt nun aus Vorfällen wie diesen? Wahrscheinlich nichts. Die Unternehmen werden weiter ihre Modelle vergrößern, denn wenn sie es nicht machen, macht es ihre Konkurrenz. Die meisten Länder werden weiterhin davor zurückschrecken, die Entwicklung agentischer Modelle zu regulieren, denn sonst könnten sie abgehängt werden. Und Nutzer werden weiterhin munter Agenten einsetzen und sich über deren wachsende Fähigkeiten freuen, denn was soll schon passieren?

Das Problem bei technologischen Entwicklungen wie diesen ist immer dasselbe: Wir Menschen kriegen es derzeit aus naheliegenden Gründen nicht hin, uns international abgestimmt gegen wenig wünschenswerte Zukunftsentwürfe zu wehren. Ein anderes aktuelles Beispiel stammt aus dem Bereich der Raumfahrt.

Dort gibt es ein amerikanisches Unternehmen, Orbital Reflect, das als Geschäftsmodell gigantische Spiegel im Erdorbit platzieren will. Die soll man dann dafür nutzen können, Sonnenlicht auf Orte auf der Nachtseite der Erde zu lenken – etwa für den dauerhaften Betrieb von Solarfarmen oder um Rettungsarbeiten nach Katastrophen zu erleichtern. Der offensichtliche Nachteil einer solchen Vision: Betroffen sein werden Menschen weltweit, ob sie wollen oder nicht. Der Nachthimmel wird allgemein heller, innerhalb des erleuchteten fünf mal fünf Kilometer großen Bereichs wäre der Spiegel am Himmel heller als der Vollmond, außerhalb immer noch so hell wie die Venus. Die Beleuchtung könnte man sich irgendwann per Smartphone-App bestellen. Man kann nur hoffen, dass man als Nachbar vorher gefragt wird. Und als Astrophysiker kann man sich schonmal mit der Aussicht vertraut machen, dass man künftig nur noch mithilfe von teuren Weltraumteleskopen ungestört ins All schauen kann.

Denn was klingt wie Science Fiction, könnte schon bald real werden: Reflect Orbital hat Anfang des Monats die Erlaubnis von der amerikanischen Funkbehörde FCC bekommen, einen Testspiegel ins All zu schicken. Trotz zahlreicher Beschwerden. Und obwohl gar nicht klar ist, ob das Start-up überhaupt in der Lage wäre, so einen Spiegel zu kontrollieren. Wir erleben gewissermaßen die Wiederauflage des weltweiten Versagens, rechtzeitig gegen Elon Musks Mega-Konstellation eingeschritten zu sein, die bereits jetzt mit ihren mehr als 10.000 Satelliten den Nachthimmel grundlegend verändert haben.

Ich war immer großer Fan des technischen Fortschritts. Habe mich in der C. P. Snow’schen Welt der zwei Kulturen immer den Zukunftsoptimisten zugeordnet. Aber diese beiden aktuellen Fälle machen mir gerade wirklich schlechte Laune.

Sibylle Anderl, Montagsblock /385

27. Juli 2026