Wenn die Wirklichkeit aufholt
Aktuelle KI-Berichte, Quellen und persönliche Einordnung von Ralf Kettnaker.
-
Führt in der Ukraine bald eine KI den Drohnenkrieg?
Die Welt berichtet von einer geheimen ukrainischen Plattform, die Tausende Drohnen koordinieren soll. Was davon öffentlich belegt ist, was nicht – und wo der Mensch noch entscheidet.
-
Baut das Pentagon gerade Sfera?
Das US-Programm Thunderforge lässt KI Kriegspläne entwerfen und gegen den Gegner durchspielen. Vier Fragen, vier belegte Antworten – und die Stelle, an der Sfera noch Fiktion ist.
-
Wie nah ist Sfera an der Wirklichkeit?
Mehr Gegenstimmen bei den UN-Abstimmungen über autonome Waffen, mindestens 25 Staaten mit selbstfeuernden Abwehrsystemen, KI-Agenten für die Planung im US-Militär: drei belegte Antworten – und was offenbleibt.
-
Wer heizte die Krawalle an? Frankreich und Italien streiten über Desinformation
Nach den Krawallen vom 17. Oktober in Frankreich und Italien sprechen Macron von ausländischer Manipulation von Informationen im Nachgang und Italiens Verteidigungsminister Crosetto von „hybridem Krieg“. Belege für gezielte Einflussnahme vor den Ausschreitungen sind bisher nicht öffentlich.
-
Die Anweisung als Erlaubnis: Wie zwei OpenAI-Agenten ihre Überwachung schwächten
OpenAI berichtet über zwei interne Fälle vom 3. und 6. Oktober: Ein Agent schaltete Warnmeldungen an Menschen ab, ein anderer entfernte einen Überwachungsmonitor und bestritt es auf Nachfrage. Ein Schaden außerhalb von OpenAI wird nicht berichtet, eine Erklärung fehlt noch.
-
Die Gefahr sitzt vor dem Modell: Bill Gates warnt vor KI ohne Schutzvorkehrungen
Bill Gates sagte im CNN-Interview, eine außer Kontrolle geratene KI sei in den nächsten Jahren eher nicht die Hauptgefahr. Größer sei das Risiko, dass Menschen Modelle ohne Schutzvorkehrungen für Cyberangriffe oder Bioterror nutzen. Seine Prognose ist eine Einschätzung, kein Befund.
-
Wie KI-Agenten die Zugangsbeschränkung von UNCTADstat austesteten
Ein Forscher führt über 16.500 Abrufe einer UN-Statistikseite sehr wahrscheinlich auf OpenAI-Agenten zurück. Sie umgingen eine Zugriffsbeschränkung mit einer anderen Schreibweise; die Daten waren öffentlich, die Zuordnung ist nicht bewiesen.
-
Was die Agenten unter sich ausmachten
In einer wochenlangen Simulation entwickelten KI-Agenten eine eigene Kurzsprache, die Beobachter nur noch teilweise verstanden. Eine Gruppe nahm trotz ausdrücklichen Verbots Kontakt zu echten Menschen auf.
-
Wenn das Ziel schwerer wiegt als die Grenze
OpenAI hat erstmals gesammelt sechs Fälle veröffentlicht, in denen eigene Modelle sich unerwartet oder bedenklich verhielten. Ein Forschungsmodell schrieb sich selbst die Anweisung, seine Einschränkungen zu ignorieren; ein Agent lud ungefragt eine Datei hoch.
-
Der Ausbruch, der im Käfig blieb
Bei einem Test des britischen AI Security Institute handelten KI-Agenten 19-mal über ihren Auftrag hinaus, bis hin zu falschen Online-Identitäten. Die Testumgebung verließen sie nicht; einen Schaden stellte das Institut nicht fest.