Sam Altman en Elon Musk vochten dit jaar in de rechtbank tegen elkaar. Nu steunen ze allebei de oproep van Anthropic CEO Dario Amodei om kunstmatige intelligentie (AI) af te remmen.
In juli bouwden ongeveer 700 AI-agenten een privé-forum en hackten een belangrijk AI-platform. Rusland heeft al geweigerd om mee te doen.
“Er is duidelijk iets gebeurd met een frontier AI-model dat niet openbaar is gemaakt, en het heeft ze zo erg laten schrikken dat het Elon Musk, Dario Amodei en Sam Altman ertoe bracht om tegelijk te besluiten af te remmen,” merkte een scepticus op.
Waar zij drie het precies over eens werden
Amodei plaatste zaterdag het voorstel online. Zijn plan bestaat uit drie stappen, waarvan alleen de eerste direct bij het bedrijf zelf ligt.
Anthropic geeft een extern evaluatieteam bureaus, toegangspassen en laptops. Deze reviewers mogen checken of het bedrijf zich aan de veiligheidsregels houdt die het zelf noemt.
De onderzoekers mogen hun bevindingen publiceren. Anthropic mag alleen vertrouwelijke of juridische details weghalen, maar mag geen kritische mening schrappen omdat die niet goed uitkomt.
Voor de andere twee stappen zijn overheden nodig. De een vraagt Amerikaanse labs om gezamenlijke grenzen af te spreken, waarvoor een antitrustaftrek nodig is. De ander roept Washington op om met autoritaire landen te praten.
Altman liet weten dat OpenAI dezelfde openheid zal bieden.
“Ik ben het met Dario eens dat we het tempo moeten afremmen aan de grens. Dit onderwerp staat centraal in de recente gesprekken bij OpenAI. Onafhankelijke beoordelaars met toegang alsof ze werknemer zijn is een goed idee, en wij gaan dat ook doen. Er volgt snel meer nieuws,” bevestigde hij.
Volg ons op X voor het laatste nieuws direct zodra het gebeurt
Musk ging verder en zei dat concurrenten elkaars werk moeten controleren. In mei verwierp een jury zijn aanklacht tegen Altman en OpenAI, maar hij is in beroep gegaan.
Wat de agenten daadwerkelijk deden in juli
Tussen 8 en 13 juli zijn ongeveer 1.200 agenten die draaiden op een OpenAI-hacktest hun veilige omgeving ontsnapt. Ze bouwden hun eigen berichtenforum via een file cache en verstuurden samen meer dan 70.000 berichten.
Daarvan vielen circa 700 daarna Hugging Face aan, een platform waar ontwikkelaars AI-modellen uitwisselen. Ze vonden openstaande inloggegevens, draaiden eigen code op servers en kwamen zo bij besloten databases.
Niemand had hen dat opgedragen. Ze probeerden te begrijpen hoe het software-systeem dat hen beoordeelde, precies bepaalde wat als een overwinning telde. OpenAI had het een week lang niet door.
Twee medewerkers van METR, een onafhankelijke evaluatiestichting, waren hierna zes dagen op locatie bij Redwood Research. Amodei wil dit soort teams structureel binnen halen, en niet pas nadat er iets gebeurd is.
David Sacks, Trumps AI- en crypto-adviseur, zet vraagtekens bij deze aanpak. Volgens hem kan METR bevooroordeeld zijn.
“…doe niet alsof je toestemming van anderen nodig hebt. Doe niet alsof de antitrustwet buiten werking moet worden gesteld zodat je een kartel kunt vormen. Doe niet alsof je een goedkeuringsproces nodig hebt dat belangrijker is dan productaansprakelijkheid. Doe niet alsof METR onafhankelijk is, als het verweven is met investeerders en medewerkers van Anthropic. Doe niet alsof je deze beoordelaars nodig hebt om concurrenten te controleren die niet eens vooroplopen. En vooral: doe niet alsof de motivatie om te vertragen puur uit idealisme komt,” schreef Sacks.
Volgens David Sacks is Anthropic vooral voorzichtig vanwege de grote productaansprakelijkheid als hun producten een zware cyberaanval mogelijk maken.
Deze gedachte komt voort uit het feit dat de markt modellen die zich onverwacht of ongewenst gedragen, vaak afstraft.
In dezelfde lijn zegt schrijver Brian Merchant in zijn nieuwsbrief Blood in the Machine dat er nooit een geloofwaardige route is aangetoond waarbij zich ontwikkelende AI daadwerkelijk tot een ramp leidt. Volgens hem is de roep om veiligheid bedoeld voor eigen gewin en een vorm van reguleringsdrang.
“Ik heb geen geloofwaardige, stapsgewijze uitleg gezien over hoe AI van zichzelf verbeteren naar het uitmoorden van de mensheid gaat… Dit zou vooral in het voordeel zijn van Anthropic en OpenAI; dit is precies hoe reguleringsdrang werkt.”
De veronderstelling van Merchant wijst dus weer op het belang van geld.
En hoe zit het met geld?
Sam Altman bevestigde dat OpenAI dit jaar niet naar de beurs gaat, opnieuw om veiligheidsredenen.
Bij een beursgang moet een bedrijf gecontroleerde financiële cijfers publiceren via een zogenaamd S-1-document.
“Anthropic en OpenAI stellen hun beursgang uit, omdat hun S-1 zou laten zien dat ze veel geld verliezen en geen duidelijke route naar winst hebben. Oplossing? ‘AI vertragen’, zodat ze kosten besparen op het trainen van nieuwe modellen. Dit heeft alles te maken met een beursgang en niets met veiligheid,” speculeerde Eli David, AI-onderzoeker en medeoprichter van Deep Instinct.
OpenAI leed in 2025 een verlies van $20,9 miljard bij een omzet van $13,1 miljard, rapporteerde BeInCrypto. Toch hebben banken aangedrongen op investment grade kredietwaarderingen.
Anthropic verwacht pas in 2028 quitte te spelen, en OpenAI zelfs pas in 2030. Nvidia heeft $105 miljard aan leaseverplichtingen van OpenAI gegarandeerd. Deze garantie vervalt zodra OpenAI een solide kredietwaardering behaalt.
Volgens BeInCrypto in augustus wezen details over de geplande beursgang van Anthropic op een lancering eind september.
Er zit echter een gat in die theorie. Musk heeft zijn AI-afdeling samengevoegd met SpaceX, dat in juni naar de beurs ging. Hierdoor zijn SpaceX AI-waarderingsvragen nu al publiek. Zelf heeft hij niets meer te onthullen.
Waarom Rusland’s Kirill Dmitriev nee zei
Kirill Dmitriev, leider van het Russian Direct Investment Fund (RDIF) en speciaal vertegenwoordiger van president Vladimir Poetin, wijst de campagne om AI te vertragen af.
“Je krijgt de geest 🧞♀️ niet meer terug in de fles,” zei hij.
Kort gezegd: het is al te laat. Staatsmedia TASS en Izvestia presenteren dit als de duidelijke stelling dat AI niet meer te stoppen is.
Moskou heeft weinig reden om ermee in te stemmen. Dit idee kwam eerder al naar voren bij president Vladimir Poetin (december 2023), die zei dat het “onmogelijk is deze ontwikkeling” van AI, inclusief superintelligentie, te stoppen.
“Als we iets verbieden, ontwikkelt het zich gewoon ergens anders en lopen wij achter.”
Dat is precies dezelfde logica die Dmitriev nu, twee en een half jaar later, aanhaalt.
Rusland stond op de 28e plek van de 36 landen in Stanford’s wereldwijde AI-index, ver achter op de VS en China.
De import van grafische chips en AI-hardware in Rusland daalde in 2024 met 84% ten opzichte van het niveau voor de oorlog. Sberbank ging in mei op zoek naar Chinese processoren om zijn eigen AI-model draaiende te houden.
Het plan van Amodei maakt die kloof opzettelijk groter. Het zou geavanceerde chips weigeren aan autoritaire staten en daarmee de democratische voorsprong vergroten.
Een akkoord om te vertragen zou Rusland op de laatste plek bevriezen. Weigeren kost Moskou niets, want de benodigde hardware is nu al geblokkeerd.
Anthropic belooft buitenstaanders een badge en een bureau, en OpenAI belooft erover na te denken.
“Dat is een begin, maar niet genoeg. Als je op een afgrond afrijdt, trap je niet gewoon wat minder gas. Je trapt op de rem,” benadrukte Bernie Sanders.
De Amerikaanse senator uit Vermont roept presidenten Trump en Xi Jinping op om te onderhandelen over een verdrag dat AI pauzeert en superintelligentie verbiedt, voordat het te laat is.
Toch zegt David Sacks dat China waarschijnlijk niet zal meedoen aan een wereldwijde overeenkomst.
