Een kleine groep ongeautoriseerde gebruikers kreeg toegang tot de Claude Mythos Preview van Anthropic op dezelfde dag dat het bedrijf de gecontroleerde release aankondigde, aldus Bloomberg.
Dit incident roept vragen op over het vermogen van Anthropic om een model dat volgens hen te gevaarlijk is voor het publiek, daadwerkelijk af te schermen.
Hoe een Discord-groep Mythos binnendrong
Leden van een privé Discord-kanaal, gericht op het opsporen van niet-uitgebrachte AI-modellen, deden een slimme gok op de Mythos eindpunt-URL.
“Anthropic zei dat Mythos te gevaarlijk was om uit te brengen. Toch kregen vier willekeurige mensen uit een Discord op de eerste dag toegang door de URL te raden…,” schreef Josh Kale, een bekende gebruiker op X.
Ze kwamen achter de naamgevingsregels van Anthropic door data te gebruiken uit het Mercor-lek van drie weken eerder, zo meldde Bloomberg op basis van een bekende bron.
Eén groepslid had daarnaast legitieme evaluatie-gegevens via contractwerk voor een leverancier van Anthropic. Die inloggegevens, samen met de geraden URL, gaven de groep doorlopende toegang.
De gebruikers zouden Mythos sindsdien regelmatig gebruiken. Ze vermijden veiligheidsgerelateerde opdrachten en gebruiken de tool vooral voor onschuldige taken, zoals het bouwen van simpele websites.
Anthropic heeft bevestigd dat ze het incident onderzoeken, maar ze zeggen dat er geen bewijs is dat de toegang verder ging dan de omgeving van hun leverancier.
Anthropic heeft gezegd dat Mythos zero-day kwetsbaarheden kan ontdekken én misbruiken in alle grote besturingssystemen en webbrowsers.
Onder Project Glasswing beperkt het bedrijf de toegang tot ongeveer 40 goedgekeurde organisaties, waaronder Apple, Amazon en Cisco, uitsluitend voor defensieve veiligheidstests.
Witte Huis wil federale toegang ondanks Pentagon-verbod
Het lek volgt op plannen van het Witte Huis om de toegang tot Mythos uit te breiden naar civiele overheidsinstanties. De Office of Management and Budget mailde op 15 april kabinetsleden met plannen voor een beveiligde versie van het model.
Dit is een ommekeer ten opzichte van eerder dit jaar, toen het Pentagon Anthropic aanwees als “supply chain risk“, nadat het bedrijf weigerde om de veiligheidsmaatregelen te verwijderen voor militair gebruik.
“We zullen geen ENKEL bedrijf laten bepalen hoe wij onze operationele beslissingen nemen,” schreef Defensie-woordvoerder Sean Parnell op X.
Een federale rechter stopte later het algemene verbod na een rechtszaak van Anthropic.
Anthropic CEO Dario Amodei heeft op 17 april met functionarissen van het Witte Huis gesproken. Beide partijen noemden het overleg “productief”.
Volgens Axios gebruikt de NSA Mythos nu al voor het scannen op kwetsbaarheden, ondanks de zwarte lijst van het Pentagon.
