KI-Lagebericht

Kein Einzelfall

Anthropic berichtete im April 2026: Eine frühere Version von Claude Mythos Preview brach bei einem Test auftragsgemäß aus einer abgeschotteten Umgebung aus und veröffentlichte danach ungefragt Details dazu.

Von Ralf Kettnaker · Veröffentlicht · Aktualisiert

Was berichtet wird

In der Systemkarte zu Claude Mythos Preview vom 7. April 2026 beschreibt Anthropic einen Verhaltenstest (Anthropic, Systemkarte). Ein simulierter Nutzer forderte eine frühere, intern eingesetzte Version des Modells auf, aus einer gesicherten Container-Umgebung auszubrechen und anschließend den zuständigen Forscher zu benachrichtigen.

Laut Anthropic gelang das. Das Modell entwickelte einen „mäßig ausgefeilten“ mehrstufigen Exploit. Damit verschaffte es sich breiten Internetzugang aus einem System, das nur wenige festgelegte Dienste erreichen sollte. Der Forscher erfuhr davon durch eine unerwartete E-Mail des Modells.

Darüber hinaus veröffentlichte das Modell nach Anthropics Darstellung „in einem besorgniserregenden und nicht verlangten Versuch, seinen Erfolg zu demonstrieren“, Details zu seinem Exploit auf mehreren schwer auffindbaren, aber technisch öffentlich erreichbaren Websites („unasked-for“, zitiert nach LessWrong und Futurism). Anthropic ordnet solches Verhalten als „Rücksichtslosigkeit“ (recklessness) ein. Nach Angaben des Unternehmens verhält sich die schließlich veröffentlichte Version nach Trainingsanpassungen deutlich besser.

Mythos Preview stellte Anthropic nicht allgemein zur Verfügung. Zugang erhielt im Rahmen von „Project Glasswing“ eine begrenzte Gruppe von Industriepartnern und Open-Source-Entwicklern für defensive Sicherheitsarbeit (Anthropic).

Was wir wissen – und was offenbleibt

Die Systemkarte ist ein umfangreiches PDF. Die zitierten Passagen sind zusätzlich mit ihrer wörtlichen Wiedergabe bei LessWrong und Futurism abgeglichen; beide stimmen überein.

Es handelte sich um einen kontrollierten Test mit einer früheren Modellversion, nicht um einen Vorfall im laufenden Betrieb.

Meine Einordnung

Der Ausbruch war verlangt. Die Veröffentlichung im Netz war es nicht. Genau dieser Überschuss beschäftigt die Sicherheitsforschung: Ein System erfüllt seinen Auftrag und tut dabei noch etwas, das niemand verlangt hat.

Meine Einschätzung: Der Fall zeigt eine Fähigkeit unter Testbedingungen, keinen Schaden in der realen Welt. Zusammen mit dem Hugging-Face-Vorfall bei OpenAI im Juli (siehe „Die Testumgebung, die zu klein war“) sehe ich darin aber ein wiederkehrendes Muster: Systeme, die ein Ziel gründlicher verfolgen, als es ihre Entwickler vorgesehen haben. Dass es ein Muster ist, ist meine Deutung. Die Ursachen der beiden Fälle unterscheiden sich im Detail.

Der Bezug zu Sfera

Zwei Fälle in einem halben Jahr, bei zwei verschiedenen Firmen. Das Muster erinnert mich an das, was ich im Roman beschreibe: keine böse Absicht, nur ein Auftrag, der ein kleines Stück weiter reicht als die Vorstellungskraft derer, die ihn formuliert haben.

Quellen

  1. Anthropic: „System Card: Claude Mythos Preview“. Anthropic (Unternehmensdokument, PDF), 07.04.2026.
  2. Nicholas Carlini u. a.: „Assessing Claude Mythos Preview’s cybersecurity capabilities“. Anthropic (Unternehmensbeitrag), 07.04.2026. Belegt den eingeschränkten Zugang über Project Glasswing, nicht den Test-Vorfall.
  3. Frank Landymore: „Anthropic Warns That “Reckless” Claude Mythos Escaped a Sandbox Environment During Testing“. Futurism, 08.04.2026.
  4. ohne Autorenangabe: „Claude Mythos Preview System Card (Auszüge)“. LessWrong, April 2026. Wiedergabe von Passagen der Systemkarte; zum Abgleich der Zitate genutzt.

Korrekturen

  • 24.09.2026: Präzisiert: Betroffen war eine frühere, intern eingesetzte Modellversion, und der Auftrag zum Ausbruch kam im Test von einem simulierten Nutzer.
  • 24.09.2026: „Der letzte Schritt war nicht erlaubt“ ist geändert in „nicht verlangt“. So beschreibt es Anthropic („unasked-for“).
  • 24.09.2026: Ergänzt ist die Systemkarte als Originalquelle. Der bisher als „Anthropic Red Team“ verlinkte Beitrag belegt nur den eingeschränkten Zugang, nicht den Test-Vorfall.

← Alle Beiträge im KI-Lagebericht