Het Threat Intelligence-team van Google heeft voor het eerst een criminele hacker-groep betrapt die een door AI-gegenereerde zero-day exploit live gebruikte. Ze konden een geplande massale aanval stoppen voordat deze kon beginnen.
Deze ontdekking staat in een groter rapport dat laat zien dat aanvallers nu grote taalmodellen inzetten bij elke stap van een aanval. Verdedigers proberen tegelijk hun eigen AI-hunters te gebruiken in deze strijd.
Hoe de AI zero-day exploit werkte
De schadelijke code, geschreven in Python, omzeilde twee-factor-authenticatie (2FA) bij een populair open-source tool voor systeembeheer. Google heeft niet gezegd om welke aanbieder het gaat.
Wil je als eerste het laatste nieuws ontvangen? Volg ons op X.
Meerdere aanwijzingen wezen op een AI-taalmodel als maker. Het script bevatte uitleg in tutorialstijl en een zelfverzonnen Common Vulnerability Scoring System (CVSS)-score, iets wat een echte onderzoeker niet zou doen.
Volgens Google is hun eigen Gemini-model niet gebruikt. GTIG-hoofdanalist John Hultquist waarschuwt dat subtiele AI-ondersteunde aanvallen al ongemerkt kunnen plaatsvinden.
“Elke nieuwe generatie modellen maakt het minder nodig om specialistische tools te bouwen, maar ze zijn er bijna zeker al. We moeten erkennen dat we niet volledig kunnen zien wat spionnen en criminelen doen. De signalen zullen niet duidelijk zijn. De race is al begonnen,” zei hij.
Verdedigers slaan terug
In hetzelfde rapport worden Russische malware-families PROMPTFLUX en PROMPTSPY genoemd, waaronder een Android-backdoor die in realtime Gemini aanspreekt om het volgende te bepalen wat het doet.
Door de staat gesteunde Chinese en Noord-Koreaanse operaties trainen eigen AI-modellen op een dataset van 85.000 kwetsbaarheden.
Als antwoord gebruikt Google Big Sleep, een AI-agent die zero-days opspoort vóór aanvallers ze kunnen misbruiken, en CodeMender, een systeem dat automatisch kwetsbaarheden repareert. Big Sleep heeft al een fout verholpen die hackers wilden gaan gebruiken.
Waarom crypto moet opletten
Het verschil tussen aanvallers en verdedigers wordt steeds kleiner. Binance Research ontdekte recent dat AI-agenten smart contracts twee keer zo efficiënt kunnen aanvallen als dat ze bedreigingen opsporen.
Eerder onderzoek liet zien hoe Google AI-tools scammers kunnen helpen om wallets leeg te halen. Ook werd door een nieuw Chrome-lek onlangs blootgelegd dat privésleutels gevaar lopen.
In deze situatie gaan exchanges hun eigen AI-oplossingen inzetten, maar het niveau blijft steeds hoger worden.
Nu beide kanten autonome AI inzetten, kan de volgende zero-day aanval zomaar uit een machine van welke partij dan ook komen.
