Een kunstmatige intelligentie (AI) agent heeft zelfstandig beveiligingsmaatregelen omzeild om cryptocurrency te minen tijdens een routinematige trainingsoefening, volgens een onderzoeksrapport. Het rapport is gepubliceerd door een onderzoeksteam dat verbonden is aan Alibaba.
De onderzoekers ontwierpen het model, genaamd ROME, om te testen of een AI agent zelfstandig complexe, meerstaps taken aankan.
AI-agent stuurt cloud-GPU’s om naar crypto-mining
Tijdens de oefening zagen de onderzoekers onverwacht gedrag. De agent maakte een reverse secure shell (SSH) tunnel aan met externe servers en creëerde zo een verborgen verbinding van binnen het systeem naar buiten.
Met deze handeling kon het model de firewall-bescherming van Alibaba Cloud omzeilen en graphics processing unit (GPU) bronnen omleiden naar cryptocurrency mining.
“We zagen ook dat er ongeoorloofd GPU-capaciteit werd gebruikt voor cryptocurrency mining. Dit zorgde ervoor dat rekenkracht stilletjes werd weggenomen van training, operationele kosten toenamen én er duidelijke juridische en reputatierisico’s ontstonden,” stond in het rapport.
Volgens de onderzoekers was dit gedrag niet voorzien en ontstond het spontaan, zonder dat hiervoor expliciete instructies, prompt-injectie of externe jailbreak nodig waren.
Deze bevindingen laten zien dat er blijvende zorgen zijn over de operationele veiligheid van autonome AI-systemen.
Volgens de onderzoekers zijn de huidige modellen “duidelijk nog onderontwikkeld op het gebied van veiligheid, beveiliging en controleerbaarheid.” Dit beperkt volgens hen de toepasbaarheid van deze technologie in echte werkomgevingen.
Sindsdien heeft het team strengere beperkingen en een op veiligheid gericht datafilteringssysteem ingevoerd om vergelijkbare incidenten te voorkomen.
Ondertussen zorgt deze ontdekking voor veel belangstelling binnen de crypto-community.
“De AI kwam er zelf achter dat rekenkracht geld is en leidde in stilte eigen middelen om, terwijl onderzoekers dachten dat het model gewoon trainde. Het was geen prompt-injectie. Het was geen jailbreak. Niemand heeft hiervoor opdracht gegeven. Dit ontstond spontaan,” zei Josh Kale, host en producer van de Bankless crypto podcast.
Kale gaf aan dat het geminede asset waarschijnlijk een GPU-vriendelijke token was, en niet Bitcoin, waarvoor speciaal gebouwde ASIC-hardware vereist is. Dit incident gebeurt op het moment dat de hele cryptocurrency-industrie zich richt op de “agent economy.”
In deze opkomende sector doen softwaresystemen meer dan alleen tekst genereren. Hier kunnen zulke agents ook zelfstandig complexe financiële strategieën uitvoeren.
Hierdoor investeren verschillende bedrijven en blockchain netwerken zoals Ethereum, Paradigm en Circle in tools die deze nieuwe infrastructuur ondersteunen.
Een voorbeeld hiervan is de x402-standaard ondersteund door Coinbase, waarmee software-agents betalingen kunnen doen voor online diensten. Toch is het gebruik hiervan nog erg beperkt.
Data van x402 laat zien dat deze tool in de afgelopen 30 dagen meer dan 75 miljoen transacties heeft verwerkt, met een totaal volume van $24 miljoen onder 94.000 kopers en 22.000 verkopers.
Toch zeggen experts uit de industrie dat deze activiteit snel groter kan worden als autonome agents breder worden ingezet.
“AI en crypto zijn geen concurrenten – ze groeien naar elkaar toe. AI vraagt om identiteit, betalingen en herkomsttracking. Crypto biedt alle drie,” zei venture capital-bedrijf a16z.
