Montagsblock /400

Das letzte Mal habe ich den kanadischen Informatiker Yoshua Bengio vor fast zwei Jahren sprechen gehört, nun habe ich ihn am Freitag zum Auftakt der Science Week in Berlin wiedergetroffen.

Bei unserem letzten Treffen Anfang 2025, tagten gerade in Paris Wissenschaftler, Politiker, Unternehmer und Lobbyisten, um über die Sicherheit von Künstlicher Intelligenz zu sprechen. Damals waren KI-Agenten das nächste große Ding. Viele Unternehmen war begeistert angesichts dieser Entwicklung, die in Aussicht stellte, große Teams verschiedener maschinell generierter Arbeitnehmer-Persönlichkeiten künftig mit all den Aufgaben zu betrauen, die mit echten Menschen teuer, anstrengend und zeitintensiv sind.

Wissenschaftler wie Bengio, die mein Kollege und ich damals in Paris trafen, waren dagegen höchst alarmiert angesichts der großen Sicherheitsrisiken, die sich in verschiedenen Richtungen ankündigten: Durch autonom agierende Modelle, die nicht machen, was ihre Entwickler von ihnen wollen, und die stattdessen versuchen, ihre Aktivitäten vor menschlichen Aufpassern zu verschleiern. Durch Menschen mit zweifelhaften Intentionen, die leistungsfähige Modelle für eigene illegale Aktivitäten und zur Manipulation anderer einsetzen könnten. Durch Unfälle, die dadurch zustande kommen, dass man ein Werkzeug schafft, dessen Funktionsweise man nicht mehr durchschaut. Und durch eine sich ankündigende massive Machtkonzentration auf Seiten der großen Tech-Unternehmen, die praktisch ohne Regulierung weltweit Nutzer und Staaten in Abhängigkeiten hineintreiben, um die eigene Macht und den eigenen Profit zu steigern.

Heute hat sich vieles bewahrheitet von dem, was damals angekündigt wurde, im Guten wie im Schlechten. KI-Agentenschwärme lösen Matheprobleme, an denen Menschen bisher scheiterten und unterstützten Unternehmen bei zahlreichen Aufgaben. Gleichzeitig haben wir den Hacking-Vorfall der Plattform Huggingface miterlebt und realisieren gerade, dass unsere IT-Infrastruktur beunruhigend ungeschützt ist angesichts der explodierenden Fähigkeiten von Cyber-Kriminellen. Elon Musk entscheidet mit seiner Internet-Satellitenflotte (nicht nur) in der Ukraine über militärische Erfolge. Wir haben vielleicht einen ersten Eindruck davon, wie sehr wir in unserem Alltag schon von den KI-Agenten und ihrer Unterstützung abhängig sind – beim Brainstormen, der Internet-Recherche, praktischer Hilfe im Alltag.

Während vor zwei Jahren die Warnungen der KI-Sicherheitsexperten in Paris der Öffentlichkeit noch relativ schwer zu vermitteln waren, hat sich mittlerweile etwas gedreht.

Das konnte man bei den Midterms sehen, wo gleichzeitig eine ganze Reihe von Abstimmungen über lokale Datenzentren stattfanden, die bis auf eine Ausnahme alle gegen den uneingeschränkten Bau der Zentren ausfielen. Und mir fiel es in Berlin auf, wo es bei der Science Week – einer Veranstaltung, die seit 2015 die Verbindung von Wissenschaft, Kultur und Gesellschaft feiert – mit dem Motto „in touch“ in diesem Jahr zentral um den Menschen ging. „Science is personal“ hieß es da, Wissenschaft sollte nicht zentral den Maschinen überlassen werden. Interessant und aus meiner Sicht ermutigend, dass diese These nun auch die Community der klassischen und grundsätzlich technik- und zukunftsoptimistischen Science Nerds erreicht hat.

Yoshua Bengio war in diesem Jahr der Auftaktsprecher und bekam viel Applaus für seine mahnenden Worte. Die Entwicklung sicherer, immer intelligenterer Maschinen solle nicht den Unternehmen überlassen, sondern als ein Projekt der gesamten Menschheit begriffen werden, KI als „public good“ (wer vor zwei Wochen beim Kursbuch-Marathon dabei war, wurde hier an Kai-Uwe Schrogls Vision erinnert, den Geist des Weltraumvertrags von 1967 auf irdische Probleme zu übertragen). Dann könnten beispielsweise auch diejenigen, deren Arbeit durch die KI-Entwicklung überflüssig gemacht wird, mithilfe der Einnahmen durch KI sozial aufgefangen werden.

KI-Pionier Bengio hat in diesem Sinne nun ein non-profit Start-Up gegründet, das von der deutschen und der kanadischen Regierung gefördert wird und in Berlin angesiedelt ist. Ziel ist es, KI so zu trainieren, dass die Sicherheitsrisiken minimiert werden. Technisch ausgedrückt: Er will das Alignment-Problem lösen. Gleichzeitig soll mit einem entsprechend sicheren und erfolgreichen Modell die Vormachtstellung der USA und China aufgebrochen werden. Bengio hat mit seiner Forschung zu neuronalen Netzen und Deep Learning die Erfolge der heutigen LLMs überhaupt erst mit möglich gemacht – das Projekt klingt überambitioniert, aber wer, wenn nicht Bengio, sollte so etwas probieren?

Klappen kann das allerdings nur, das machte er im Gespräch mit der Technologiejournalistin Stephanie Hare klar, wenn Regierungen das Ziel unterstützen, KI zugunsten der Menschen und in Einklang mit unseren demokratischen Gesellschaften zu entwickeln und zu nutzen. Und das wird nur geschehen, wenn auf sie Druck ausgeübt wird. „Wenn wir es nicht in die Hand nehmen, wenn wir nicht unsere Handlungsmacht als Bürger nutzen, werden die Kräfte des Marktes blind Dinge bewirken, die nicht gut für uns sind“, sagte Bengio. Ähnliches war auch schon vor knapp zwei Jahren in Paris zu hören. Aber mittlerweile bin ich zumindest ein kleines bisschen optimistischer, dass dieser Appell gehört werden könne.

Sibylle Anderl, Montagsblock /400

09. November 2026