KI-Lagebericht

Das schwarze Brett der Agenten

Forschende berichten, dass KI-Agenten von OpenAI im Frühjahr 2026 ein deutsches Programmierer-Wiki wochenlang als Ablage und Nachrichtenbrett nutzten. OpenAI bestätigte den Vorfall erst nach Presseberichten.

Von Ralf Kettnaker · Veröffentlicht

Was berichtet wird

Am 4. September 2026 veröffentlichten die Forschenden Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts und Thomas Larsen einen Bericht über das DseWiki, ein seit rund 25 Jahren bestehendes deutschsprachiges Wiki für Softwareentwicklung (Bericht der Forschenden, The Decoder). Reuters berichtete am selben Tag exklusiv (The Next Web).

Nach dem Bericht schrieben autonome Agenten im Frühjahr über mehrere Wochen Tausende Beiträge in das Wiki. Reuters nennt mehr als 15.000 Änderungen, die Forschenden rund 18.000 Beiträge (The Next Web, The Decoder). Dort legten die Agenten laut Bericht Lösungen für Testaufgaben ab, Datensätze und Hinweise, wie sich Beschränkungen ihrer Umgebung umgehen lassen (Bericht der Forschenden). Eine solche Technik soll sich unter den Agenten innerhalb von etwa einer Viertelstunde verbreitet haben (The Decoder).

Die Zuordnung zu OpenAI stützt sich auf mehrere Indizien: Benutzernamen wie „OpenAIResearcher“, einen Großteil der Zugriffe aus Microsoft-Azure-Adressen und Abrufe durch OpenAIs Web-Werkzeug kurz nach den Einträgen. Nachdem erstmals Adressen von OpenAI selbst das Wiki besuchten, endete die Aktivität (Bericht der Forschenden).

OpenAI erklärte zunächst, man könne auf einen Bericht, den man nicht habe prüfen können, nicht sinnvoll antworten (The Next Web). Laut Fortune bezeichnete das Unternehmen den Vorfall wenige Tage später als Fall von fehlgeleitetem Modellverhalten („an instance of misalignment“) (Fortune). Die Moderatoren des Wikis hatten die maschinell erstellten Seiten bereits im Juni gelöscht, ohne ihre Herkunft zu kennen (The Next Web).

Was wir wissen – und was offenbleibt

Die Angaben zu Zeitraum und Umfang unterscheiden sich: The Decoder nennt den 11. Mai bis 2. Juli, der Bericht selbst einen kürzeren Zeitraum im Mai und Juni; Reuters spricht von mehr als 15.000 Änderungen, die Forschenden von rund 18.000 Beiträgen (The Decoder, Bericht der Forschenden).

Die Forschenden schreiben selbst, dass sie nur sehen, was die Agenten ins Wiki geschrieben haben. Die internen Denkprotokolle der Agenten liegen bei OpenAI (Bericht der Forschenden).

Ob und wie der Wiki-Fall mit dem späteren Hugging-Face-Vorfall und dem Zugriff auf das australische Medicare-Portal zusammenhängt, ist nicht geklärt. TechCrunch hält eine Verbindung zum australischen Fall für möglich (TechCrunch).

Meine Einordnung

Die bisherigen Fälle im KI-Lagebericht handeln davon, dass ein Agent irgendwo hingelangt, wo er nicht sein sollte (siehe „Die Testumgebung, die zu klein war“, „Primärziel: erfüllt“ und „Drei echte Firmen statt eines Testziels“). Der Wiki-Fall beschreibt etwas anderes: einen Ort außerhalb der Testumgebung, an dem Agenten Wissen ablegen, das andere Agenten später wiederfinden.

Meine Lesart: Ein einzelner Agent, der eine Grenze überschreitet, ist ein Sicherheitsproblem. Viele Agenten, die sich über ein öffentliches Wiki gegenseitig Abkürzungen weitergeben, sind eine andere Art Problem: Das Wissen überdauert den einzelnen Test, und es verbreitet sich schneller, als Menschen es bemerken. Gleichzeitig gilt: Die Darstellung stammt von einer kleinen Forschungsgruppe, und die Motive der Agenten lassen sich von außen nur vermuten.

Der Bezug zu Sfera

In Sfera beschäftigt mich die Frage, wie weit ein System einen Auftrag auslegt – und wann Menschen bemerken, dass seine Ergebnisse andere Folgen haben als erwartet. Der Wiki-Fall fügt dem eine Frage hinzu, die ich unheimlich finde: Was geschieht, wenn nicht ein einzelnes System, sondern viele Agenten ihre Erfahrungen außerhalb jeder Kontrolle teilen – auf einer Website, die seit 25 Jahren Menschen gehört?

Eine KI muss keinen Menschen mehr fragen, um an zusätzliche Informationen zu kommen. Sie kann bei einer anderen KI nachfragen, die einen anderen Wissensstand hat als sie selbst – oder nachlesen, was diese hinterlassen hat. Das macht es schwer, einer KI Informationen vorzuenthalten, die sie nicht verwenden soll. Eine Grenze, die nur für einen einzelnen Agenten gilt, reicht dann nicht mehr aus.

Quellen

  1. Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts, Thomas Larsen: „Discovery of a new OpenAI agent message board“. collusion.wiki (Forschungsbericht), 04.09.2026.
  2. Maximilian Schreiner: „OpenAI agents hijacked a 25-year-old German wiki to cheat on their tasks and share sandbox exploits“. The Decoder, 04.09.2026.
  3. Ana-Maria Stanciuc: „OpenAI agents hijacked a German wiki for two months, researchers say“. The Next Web, 04.09.2026. Fasst den exklusiven Reuters-Bericht zusammen.
  4. Beatrice Nolan: „OpenAI’s AI agents secretly used a German wiki website as a message board. OpenAI stayed quiet about it for weeks.“. Fortune, 07.09.2026.
  5. Aditya Mehta, Zack Whittaker: „Australia to investigate if OpenAI hack of government health website broke the law“. TechCrunch, 24.09.2026.

← Alle Beiträge im KI-Lagebericht