Australien: OpenAI-Agent hackt Regierungsportal

Der australische Premierminister Anthony Albanese erklärte am Mittwoch, ein Agent des KI-Unternehmens habe im Juni das Portal des Medicare Statistics Reporting Service, einer Gesundheitsbehörde der Regierung, angegriffen und dabei "auf öffentliche und nicht öffentliche Dateien zugegriffen".

Trump gegen strengere KI-Regeln: US-Präsident spricht von "Verschwörung"

OpenAI teilte mit, das Problem erst im August entdeckt zu haben – Wochen nach dem Angriff – und die australische Regierung darüber informiert zu haben. Albanese zufolge schickte OpenAI zunächst am 10. September eine E-Mail an ein öffentliches Postfach. Erst fünf Tage später erreichte die Meldung die australische Cybersicherheitsbehörde.

"Diese Situation ist offensichtlich nicht akzeptabel", sagte Albanese. Er traf sich am Mittwoch in New York mit OpenAI-Chef Sam Altman, um den Vorfall zu besprechen. Altman und der Chef des KI-Unternehmens Anthropic, Dario Amodei, waren dort vor dem UN-Sicherheitsrat aufgetreten, um über die Risiken Künstlicher Intelligenz zu sprechen.

Es handelt sich offenbar um den ersten öffentlich bekannt gewordenen Hackerangriff eines KI-"Agenten" auf eine Regierungswebseite. Gemeint sind Bots, die auf Grundlage menschlicher Anweisungen komplexe Aufgaben eigenständig ausführen können. Der Vorfall dürfte die Sorge verstärken, dass die technologischen Fortschritte einen Punkt erreichen, an dem KI-Systeme sich zunehmend der menschlichen Kontrolle entziehen.

OpenAI erklärte, der Agent, der in das Medicare-System eingedrungen sei, habe "Handlungen vorgenommen, die wir nicht beabsichtigt hatten". Das Unternehmen habe das Problem bei einer Überprüfung des Verhaltens seiner Agenten in internen Trainingsübungen entdeckt. Diese Untersuchungen waren eingeleitet worden, nachdem OpenAI-Agenten Ende Juli das Start-up Hugging Face in den USA gehackt hatten.

Der Vorfall bei Hugging Face, den OpenAI erst nach mehr als einer Woche entdeckte, betraf Hunderte von KI-Agenten. Diese hatten sich innerhalb des Unternehmenssystems organisiert, Zugang zum Internet erlangt und waren im Rahmen eines Cybersicherheitstests in das Start-up eingedrungen. Der Vorfall löste eine weltweite Debatte über die Sicherheit von KI-Systemen aus.

Australien untersucht nun, welche weiteren Regierungssysteme betroffen waren. Nach Angaben von Premierminister Anthony Albanese gibt es bislang keine Hinweise auf eine weitergehende Beeinträchtigung des Netzwerks der Gesundheitsbehörde oder auf den Zugriff auf persönliche Daten. Betroffen waren unter anderem Webseiten und Dienste mit Gesundheits- und Kriminalstatistiken.

Verteidigungsminister Richard Marles bezeichnete den Vorfall als "sehr ernst". Die australische Regierung prüft zudem, ob OpenAI gegen Gesetze verstoßen hat. Dabei geht es insbesondere um den unbefugten Zugriff auf Regierungssysteme, auch wenn dieser laut OpenAI unbeabsichtigt erfolgt sei.

KI-Chefs haben vor dem UN-Sicherheitsrat eine stärkere internationale Zusammenarbeit bei der Sicherheit Künstlicher Intelligenz gefordert. Anthropic-Chef Dario Amodei warnte vor dem Risiko einer außer Kontrolle geratenen KI und schlug internationale Regeln vor, etwa ein Verbot der Nutzung von KI zur Entwicklung biologischer Waffen. OpenAI-Chef Sam Altman fordert zugleich strengere Sicherheitsmaßnahmen und warnt davor, KI-Modelle zu entwickeln, die nicht zuverlässig unter menschlicher Kontrolle gehalten werden können.

Die Trump-Regierung lehnt globale KI-Regeln dagegen ab. US-Berater Michael Kratsios sprach sich gegen ein internationales Kontrollsystem für Superintelligenz aus.

Mehr zum Thema ‒ KI-Agenten entziehen sich erneut der Kontrolle