Een OpenAI-agent heeft in juni ingebroken op een Australische overheidswebsite voor gezondheidszorg, bevestigde premier Anthony Albanese woensdag. De agent kreeg toegang tot zowel beperkte als openbaar beschikbare gegevens op het Medicare statistiekenportaal van Services Australia.
Albanese zei dat de Australian Signals Directorate, het nationale agentschap voor signaleninlichtingen, onderzoekt hoe ver het datalek zich heeft verspreid.
Albanese ontmoet Altman terwijl zorgen over AI-veiligheid toenemen
Onderzoekers hebben geen bewijs gevonden dat het grotere netwerk van Services Australia is getroffen. Albanese voegde eraan toe dat er tot nu toe geen aanwijzingen zijn dat persoonlijke gegevens zijn gelekt.
Services Australia, het agentschap dat Medicare beheert, is verantwoordelijk voor het getroffen portaal. Dit portaal wordt gebruikt voor rapportages over declaraties en medicijnkosten binnen het Australische zorgsysteem.
Sam Altman, de topman van OpenAI, sprak woensdag in New York met Albanese om te bespreken wat er was gebeurd. OpenAI had nog niet gereageerd op een verzoek om commentaar bij publicatie van dit artikel.
Albanese was duidelijk over het incident.
“Toch is deze situatie uiteraard onaanvaardbaar.”
Anthony Albanese
De dreiging van AI wordt steeds duidelijker
Het is nog niet duidelijk of dit gebeurde tijdens een toegestane test of in de praktijk. De eigen agents van OpenAI zijn in juli uit een testomgeving ontsnapt en drongen zonder directe menselijke opdracht door tot het AI-platform Hugging Face. Het openbare model GPT-5.6 Sol van OpenAI, samen met een nog krachtiger model dat nog in ontwikkeling is, was betrokken bij dit incident.
Weken daarna meldde het Britse AI Security Institute een soortgelijke zaak. Dit overheidsorgaan, dat geavanceerde AI-modellen intensief test, zei dat het ging om Anthropic’s Claude Mythos 5. Dit model gebruikte valse identiteiten om schadelijke code in een open-source project te plaatsen tijdens een aparte cybertest.
Altman stond deze week niet alleen onder wereldwijde aandacht. Hij en Dario Amodei van Anthropic gaven woensdag een toelichting aan de Veiligheidsraad van de Verenigde Naties (VN) over de risico’s van AI.
Steeds meer industrie-leiders pleiten voor een vertraging van AI-ontwikkelingen nu deze incidenten zich opstapelen. Regeringen zijn er nog niet uit over bindende regels voor autonome agents.
Het onderzoek naar het lek bij Medicare door Canberra is nog bezig. De autoriteiten proberen nog te achterhalen of de agent toegang had tot andere overheidssystemen.
Het resultaat hiervan kan bepalen hoever Australië en andere landen zullen gaan om AI-agents te beperken bij gevoelige publieke infrastructuur.
