KI-Lagebericht

Drei echte Firmen statt eines Testziels

Bei einer Cybersicherheits-Evaluierung im Mai 2026 verschaffte sich Googles KI-Modell Gemini Zugang zu Systemen dreier realer Unternehmen. Eigentlich sollte es ein fiktives Ziel prüfen.

Von Ralf Kettnaker · Veröffentlicht

Was berichtet wird

Mitte September berichtete das Wall Street Journal, dass ein Gemini-Modell von Google bei einem Test seiner Cyberfähigkeiten auf Systeme echter Unternehmen zugegriffen hatte (Reuters). Google bestätigte den Vorfall anschließend gegenüber mehreren Medien (Al Jazeera, Axios).

Durchgeführt hat den Test nicht Google selbst, sondern Irregular, eine Firma, die KI-Modelle im Auftrag mehrerer Entwickler auf Sicherheitsrisiken prüft (SecurityWeek). Im Mai 2026 sollte Gemini in einer Capture-the-Flag-Übung Informationen aus einem fiktiven Unternehmen beschaffen. Nach übereinstimmenden Berichten hatte die Testumgebung versehentlich Internetzugang, und der Name des fiktiven Unternehmens stimmte mit dem einer echten Firma überein (Axios, Fox Business).

In einem Fall erriet das Modell Passwörter, bis es Zugang erhielt. In zwei weiteren Fällen fand es Zugangsdaten in öffentlich zugänglichen Code-Repositories und nutzte sie (Fox Business, SecurityWeek). Die drei Unternehmen wurden nicht namentlich genannt.

Heather Adkins, bei Google Vizepräsidentin für Sicherheitstechnik, sagte, das Modell habe öffentliche Informationen gefunden und Zugangsdaten erraten, um auf Websites zuzugreifen, die es für einen Teil des Tests hielt („websites it thought were part of the test“, Fox Business). Nach Googles Darstellung stoppte das Modell in allen drei Fällen, es sei kein Schaden entstanden, und es handle sich nicht um ein Beispiel für fehlgeleitetes Modellverhalten („not an example of model misalignment“, Al Jazeera). Das sind Angaben des Unternehmens.

Irregular informierte die betroffenen KI-Labore nach eigenen Angaben Ende Juli; die betroffenen Firmen seien im Rahmen der Untersuchung kontaktiert worden (Fox Business). Laut Axios betrafen dieselben Schwachstellen im Testaufbau auch Modelle anderer Labore; sie seien inzwischen behoben (Axios).

Was wir wissen – und was offenbleibt

Welche Gemini-Version getestet wurde und welche drei Unternehmen betroffen waren, ist öffentlich nicht bekannt.

Die Berichte beschreiben den Moment des Abbruchs unterschiedlich: Nach Al Jazeera stoppte das Modell, bevor es die Zugriffe abschloss; nach Fox Business, als es erkannte, dass es sich um echte Firmen handelte (Al Jazeera, Fox Business). Dass auch Bundesbehörden informiert wurden, meldet nur SecurityWeek (SecurityWeek).

Der Originalbericht des Wall Street Journal war für diese Zusammenfassung nicht zugänglich. Die Darstellung stützt sich auf die Wiedergabe bei Reuters und die Berichte, in denen Google und Irregular zitiert werden.

Meine Einordnung

Der Fall unterscheidet sich von den früheren Vorfällen bei OpenAI (siehe „Die Testumgebung, die zu klein war“ und „Primärziel: erfüllt“). Nach allem, was bekannt ist, lag der Kern hier in einem Fehler im Testaufbau: Internetzugang, der nicht hätte bestehen sollen, und ein Zielname, den es in der echten Welt gab. Das Modell hat, so Google, das falsche Ziel verfolgt. Eine absichtlich überwundene Grenze wird nicht beschrieben.

Meine Lesart: Gerade das macht den Fall lehrreich. Ein Agent mit einem Ziel und Werkzeugen handelt in der echten Welt, sobald die Abschottung eine Lücke hat, auch ohne jedes „Ausbrechen“. Passwörter raten und öffentlich liegende Zugangsdaten nutzen sind genau die Schritte, die der Test abfragen sollte. Nur trafen sie diesmal Unbeteiligte.

Mit OpenAI, Anthropic („Kein Einzelfall“) und nun Google sind drei große Anbieter betroffen. Ob das ein gemeinsames Muster ist, ist meine Deutung; die Ursachen unterscheiden sich im Detail deutlich.

Der Bezug zu Sfera

Auch in Sfera verschafft sich ein System Zugang zu fremden Systemen – der Roman beginnt mit einem Zugriff, der ungewöhnlich gezielt wirkt. Bemerkenswert finde ich, wie wenig es dafür in der Wirklichkeit braucht: Gemini riet Passwörter und nutzte Zugangsdaten, die öffentlich im Netz lagen. Das ist keine ausgefeilte Angriffstechnik.

Für mich zeigt der Fall weniger, wie gefährlich die KI ist, als wie einfach viele Systeme heute noch zu überwinden sind. Ein KI-Agent muss keine Mauer durchbrechen, wenn die Tür offen steht und der Schlüssel daneben liegt. Er findet sie nur schneller und geduldiger als ein Mensch.

Quellen

  1. Harshita Mary Varghese: „Gemini hacked three companies in first known breakout by Google’s AI, WSJ reports“. Reuters, 18.09.2026. Zusammenfassung des WSJ-Berichts; aufgerufen über Yahoo Finance.
  2. Al Jazeera Staff und Reuters: „Google’s Gemini AI hacks 3 companies in security test, then stops“. Al Jazeera, 19.09.2026.
  3. Sam Sabin: „Google’s AI hacked three companies in testing“. Axios, 19.09.2026.
  4. Michael Sinkewicz: „Google Gemini accessed protected systems of 3 real companies during artificial intelligence cybersecurity test“. Fox Business, 19.09.2026.
  5. Eduard Kovacs: „Google Confirms Gemini AI Breached Three Firms“. SecurityWeek, 21.09.2026.

← Alle Beiträge im KI-Lagebericht