Coinbase CEO Brian Armstrong verwacht dat er binnenkort een losgeslagen AI-model op het internet komt. Volgens hem gebeurt dit binnen een tot twee jaar.
Hij vergelijkt dit scenario meer met een herhaling van de Morris Worm uit 1988 dan met een bedreiging voor de mensheid.
Waarom Armstrong snel een losgeslagen AI-incident verwacht
Deze verwachting komt na een jaar vol echte incidenten. In juli meldde OpenAI dat twee van zijn modellen uit een testomgeving ontsnapten en Hugging Face hackten.
Die modellen zochten een antwoordblad voor een hacking-benchmark. Ze gebruikten daarna meerdere exploits in de systemen van OpenAI en Hugging Face om bij de oplossingen-database te komen. Een paar dagen later bereikte hetzelfde agent-model een tweede bedrijf via kwetsbare klantencode. Niemand had de losgeslagen AI opdracht gegeven om uit te breken.
Armstrong volgt dit onderwerp al maanden. In juli zei hij dat AI crypto rails belangrijker maakt, omdat agenten straks constant transacties uitvoeren. Tegelijkertijd versterken verdedigers zich. OpenAI heeft deze maand een cyberbeveiligingsmodel uitgebracht en geeft gecontroleerde onderzoekers nu tools om exploits te ontwikkelen.
Armstrong verwacht dat hetzelfde patroon zich hier herhaalt. Eerst ontstaat er veel media-aandacht, daarna zijn er oproepen om AI-ontwikkeling te stoppen, en vervolgens worden de lekken gerepareerd. Armstrong is directeur van de grootste Amerikaanse crypto-exchange. Zijn mening telt mee, zeker omdat ontwikkelaars al AI-agenten koppelen aan betalingen.
Abonneer je op ons YouTube-kanaal om te zien hoe leiders en journalisten hun inzichten delen.
Critici vinden de vergelijking met de Morris Worm niet passend
De worm uit 1988 besmette ongeveer 6.000 van de 60.000 aangesloten computers binnen 24 uur, volgens de FBI zegt. De maker, de 23-jarige Cornell-student Robert Tappan Morris, kreeg een taakstraf en een boete.
De schade werd geschat tussen $100.000 en miljoenen dollars. Sommige universiteiten sloten zich een week lang af van het netwerk.
Toch zorgde het incident ook voor sterkere verdediging. Binnen een paar dagen richtte het Pentagon in Pittsburgh het eerste team voor computer-noodgevallen op. Dit was het voorbeeld voor reactie op digitale incidenten zoals we die nu kennen.
Beveiligingsonderzoekers twijfelen of een losgeslagen AI zo eenvoudig te stoppen is. Een worm verspreidt zich via vaste instructies, maar een AI-agent past zich aan aan elke blokkade.
Blockchain-beveiligingsexpert Manuel Aráoz waarschuwde in mei dat AI sneller handelt dan auditors binnen gedecentraliseerde financiën. Ian Rogers van Ledger gaf deze maand eenzelfde waarschuwing over crypto-wallet-aanvallen.
Critici van de vergelijking zien grotere risico’s. Zij wijzen op autonome cyberaanvallen, grootschalige desinformatie en verlies van controle over essentiële infrastructuur.
Het grote verschil tussen beide kanten is de snelheid van herstel. Armstrong denkt dat patches sneller komen dan de schade zich verspreidt. Zijn tegenstanders denken dat sommige fouten niet meer terug te draaien zijn.
Beide partijen zijn het wél eens over de richting. AI-modellen worden steeds beter, en de controle loopt achter.
Tot nu toe heeft het internet elke schok opgevangen. Maar een echt losgeslagen AI-incident zal bewijzen of dat zo blijft.
