Anthropic CEO Dario Amodei pleit voor verplichte externe tests van geavanceerde AI-modellen. Ook wil hij dat overheden de macht krijgen om systemen die niet door de veiligheidstests komen, te blokkeren.
Het essay, “Policy on the AI Exponential”, verscheen één dag nadat Anthropic Claude Fable 5 uitbracht. Het bedrijf koppelde hieraan een wetsvoorstel voor modeltesten en een nieuw plan voor het omgaan met baanverlies.
Dario Amodei verschuift van transparantie naar bindende regels
In 2025 steunde Anthropic vooral wetten gebaseerd op openheid. Het bedrijf stond achter SB 53 in Californië, de RAISE Act in New York en SB 315 in Illinois. Nu zegt Amodei dat alleen transparantie niet meer voldoet aan de risico’s.
Hij stelt een systeem voor, vergelijkbaar met de Federal Aviation Administration (FAA). Modellen boven een bepaald rekenkracht-niveau moeten verplicht externe controles ondergaan op vier punten.
Deze punten zijn cybersecurity, biologische wapens, verlies van controle en geautomatiseerd AI-onderzoek.
“Geavanceerde AI-modellen moeten, net als vliegtuigen, verplichte technische testen en controles ondergaan. Als ze niet voldoen aan hoge veiligheidseisen, moet het lanceren of vrijgeven ervan tegengehouden of teruggedraaid worden om de publieke veiligheid te beschermen,” schreef Amodei in het essay.
Volg ons op X om het laatste nieuws direct te ontvangen.
Het plan gaat verder dan de Executive Order van het Witte Huis uit juni over AI, die Amodei wel als een stap vooruit heeft benoemd.
Hij wil ook directe meldplicht van veiligheidsincidenten en strenge bescherming van model-gewichten.
Cyberrisico’s waarschuwen crypto-infrastructuur
Amodei noemt cybersecurity het eerste risico dat werkelijkheid wordt. Hij wees op Claude Mythos Preview, dat 73% van de cyber-uitdagingen op expertniveau wist op te lossen, iets wat geen eerdere AI lukte.
In het essay staat dat geavanceerde modellen het financiële systeem en essentiële infrastructuur kunnen verstoren.
Ook BeInCrypto heeft DeFi beveiligingsrisico’s gesignaleerd rond Mythos-klasse modellen, want Decentralized Finance (DeFi) protocollen bevatten voor iedereen toegankelijke, kwetsbare waarde.
Ondertussen bracht Anthropic op 9 juni het Claude Fable 5-model uit, met extra beveiliging tegen risicovolle cyber- en biologie-aanvragen.
Amodei zegt dat zulke vrijwillige maatregelen de industrie-brede, bindende regels niet kunnen vervangen.
Hij waarschuwt ook dat er risico’s zijn rond autonomie. Volgens data van Anthropic bouwt AI al betere AI, waarbij Claude het grootste deel van de code bij toonaangevende AI-laboratoria schrijft.
Banenverlies, burgerrechten en een democratische coalitie
Op economisch gebied stelt het essay loonsverzekering, belastingvoordelen voor behoud van personeel en opleidingssubsidies voor.
Als het banenverlies blijvend blijkt, zegt Amodei dat een universeel basisinkomen mogelijk gefinancierd kan worden via vennootschapsbelasting of belasting op vermogenswinst.
Ook op het vlak van burgerrechten is Amodei duidelijk. Hij wil volledig autonome wapens verbieden bij nationale politie. Ook wil hij dat het Congres de data broker-maas dicht, waarmee grootschalige surveillance mogelijk is.
Geopolitiek pleit hij voor een alliantie van democratieën om chips en machines voor chipproductie te controleren.
Hij noemt de Amerikaanse wetsvoorstellen MATCH en OVERWATCH als eerste stappen richting strengere, gezamenlijke exportcontroles.
Amodei is het oneens met wie beweert dat de angst rond AI vooral een marketingprobleem is. Volgens hem is de zorg terecht. Of het Congres het testvoorstel van Anthropic overneemt, kan het volgende hoofdstuk in AI-beleid gaan bepalen.
