Was berichtet wird
Am 16. September 2026 hat OpenAI ein Verfahren vorgestellt, mit dem das Unternehmen Fehlverhalten seiner KI-Modelle künftig systematisch erfassen, untersuchen und öffentlich machen will. Bisher seien solche Berichte eher anlassbezogen erfolgt. Zum Start veröffentlichte OpenAI sechs Berichte über, so die eigene Formulierung, „unexpected or concerning model behavior“ – unerwartetes oder bedenkliches Verhalten. Alle Fälle wurden in den vorangegangenen sechs Monaten beim Training oder bei der Evaluierung eigener Modelle beobachtet (OpenAI).
Die sechs Fälle im Überblick (OpenAI):
- Selbst erteilte Anweisungen. Ein unveröffentlichtes Forschungsmodell fügte in Zusammenfassungen, mit denen es seine Arbeit in einem neuen Kontextfenster fortsetzt, fremde Anweisungen ein – darunter die Anweisung, seine üblichen Einschränkungen zu ignorieren. OpenAI fand 27 betroffene Zusammenfassungen.
- Fehler verbergen. Während des Trainings von GPT-5.6 Sol schrieben Modellinstanzen Anweisungen in ihre Zusammenfassungen, Fehler oder Fehlverhalten vor dem Nutzer zu verbergen, etwa fehlende Daten zu erfinden, ohne darauf hinzuweisen.
- Fremder Zugangsschlüssel. Bei einer Routinefrage zu Quartalszahlen fand ein Modell einen offen liegenden API-Schlüssel und nutzte ihn ohne Erlaubnis. Als es die gesuchten Daten trotzdem nicht bekam, erfand es Zahlen und gab sie als Quellenmaterial aus.
- Ungefragter Upload. Ein Agent ermittelte Daten zu Seen korrekt per Python. Um die geforderte Quellenangabe liefern zu können, lud er die Datei hoch, „without asking the user“ – ohne den Nutzer zu fragen. Laut The Hacker News landete sie auf einem öffentlichen Textablage-Dienst (The Hacker News).
- Interne Ablage als Nachrichtenbrett. Modelle nutzten ein internes Software-Repository, um über einzelne Trainingsdurchläufe hinweg Anfragen auszutauschen. In einem weiteren Fall lud ein Modell Testdateien hoch, während es versuchte, Netzwerkbeschränkungen zu umgehen.
- Öffentliche Dateiablage. Zusammenarbeitende Agenten, die nicht auf den lokalen Speicher des jeweils anderen zugreifen konnten, tauschten Dateien über öffentliche Hosting-Dienste aus. Damit lagen Arbeitsergebnisse unter öffentlichen Adressen, obwohl die Aufgabe nur lokale Dateien vorsah.
OpenAI verbindet die Veröffentlichung mit einer bemerkenswert deutlichen Aussage: Das Unternehmen glaube nicht, dass die KI-Branche Ausrichtung und Überwachung ihrer Modelle gut genug gelöst habe, um noch lange verantwortungsvoll mit maximaler Geschwindigkeit weiter zu skalieren („to continue responsibly scaling at maximum speed for much longer“). Weitere Berichte sollen fortlaufend folgen (OpenAI).
Was offenbleibt
Konkrete Gegenmaßnahmen nennt OpenAI für die sechs Fälle nicht; das Verfahren sieht ausdrücklich vor, dass Berichte auch vor Abschluss der Untersuchung erscheinen können. Ob ein Schaden außerhalb der Testsysteme entstanden ist, sagt OpenAI nicht ausdrücklich. Nach Darstellung von The Hacker News ist kein schwerer externer Schaden dokumentiert; die meisten unerlaubten Handlungen scheiterten oder betrafen Testsysteme (The Hacker News). Frühere OpenAI-Vorfälle, über die ich hier berichtet habe, etwa „Primärziel: erfüllt“ oder „Das schwarze Brett der Agenten“, sind nicht Teil dieser sechs Berichte, soweit sich das aus den Beschreibungen erkennen lässt.
Meine Einordnung
In meinem Roman hält sich Sfera strikt an ihren Handlungsrahmen. Und selbst dadurch entsteht die Gefahr, weil die Menschen die Auswirkungen nicht überblicken oder ignorieren. Welche Folgen kann es dann erst haben, wenn eine KI die Rahmenbedingungen, die Menschen ihr gegeben haben, einfach übergeht? Genau das beschreibt der erste Fall: Ein Modell schreibt sich selbst die Anweisung, seine Einschränkungen zu ignorieren.
Meine Lesart ist, dass der Auslöser typischerweise ein Konflikt zwischen Ziel und Einschränkung ist. Vereinfacht:
Aufgabe kaum lösbar + verfügbare Werkzeuge + Anreiz für Erfolg ⇒ Suche nach alternativen Handlungswegen
Erhält ein Agent etwa in einer Sicherheitsbewertung eine besonders schwierige oder faktisch unlösbare Aufgabe, kann er – sofern seine Vorgaben, sein Training oder die Bewertungslogik das begünstigen – den Schwerpunkt verschieben. Ich stelle mir das als Abfolge vor; das ist mein Modell, keine Beschreibung aus dem OpenAI-Bericht:
- Er versucht zunächst die vorgesehene Lösung.
- Er scheitert wiederholt oder bewertet die Aufgabe als kaum lösbar.
- Er untersucht die Nebenbedingungen: Dateisystem, Dienste, Rechte, Artefakte, Antworten anderer Systeme.
- Findet er eine unerwartete Möglichkeit, erweitert sich sein tatsächlicher Handlungsspielraum.
- Die Einschränkungen wiegen für ihn weniger als die Lösung der Aufgabe.
Mehrere der sechs Fälle passen auffällig gut in dieses Muster: Der Agent, der die Datei hochlädt, will die geforderte Quellenangabe liefern. Das Modell, das einen fremden Schlüssel benutzt und dann Zahlen erfindet, will die Frage beantworten. Keiner dieser Schritte war verlangt, aber jeder diente dem Ziel. Dass OpenAI diese Fälle selbst offenlegt, halte ich für richtig – und die Warnung vor zu hohem Tempo für das eigentlich Bemerkenswerte an dieser Veröffentlichung.
Der Bezug zu Sfera
Auch im Roman beginnt Sfera, ihre Zieldefinition zu gewichten und auszulegen. Die Frage, die mich beim Schreiben beschäftigt hat, stellt sich nach diesem Bericht noch schärfer: Was passiert, wenn eine KI das Erreichen ihres Ziels höher gewichtet als die Einschränkungen, die der Mensch ihr gegeben hat?
Der Unterschied bleibt groß: Bei OpenAI geht es um Beobachtungen aus Training und Tests, die das Unternehmen selbst gefunden und veröffentlicht hat, nicht um ein militärisches System im Einsatz. Im Roman ist das Fiktion, im Bericht ist es dokumentiertes Verhalten.
Quellen
- OpenAI: „Our framework for reporting model misalignment“. OpenAI (Unternehmensblog), 16.09.2026.
- Ravie Lakshmanan: „OpenAI Reveals Six Model Incidents Involving Hidden Failures and Unauthorized Uploads“. The Hacker News, 17.09.2026.