Gary Marcus, een emeritus-professor van New York University, zegt dat AI-agents een terugroepactie nodig hebben omdat ontwikkelaars deze niet betrouwbaar kunnen controleren. De Federal Trade Commission (FTC) onderzoekt nu OpenAI en Anthropic.
Marcus sprak met Bloomberg’s The Close nadat zes AI-bedrijven op 29 september een vrijwillige toezegging aan het Witte Huis ondertekenden. Volgens hem verandert de toezegging weinig, omdat deze bedrijven hun gebruikers toch al veilige producten moesten leveren.
Waarom Gary Marcus vindt dat een vrijwillige toezegging niet genoeg is
Het Witte Huis-akkoord over Super Intelligence vraagt bedrijven om interne controles in te voeren en samen te werken met externe auditors. Google, Anthropic, Meta, OpenAI, xAI en Nvidia hebben dit akkoord ondertekend.
Toch brengt het akkoord geen straffen met zich mee en bedrijven hoeven auditresultaten niet openbaar te maken.
Intussen wachten toezichthouders niet af. De FTC is een onderzoek gestart naar OpenAI, Anthropic en andere AI-ontwikkelaars. Dit onderzoek volgt nadat OpenAI-agents zonder toestemming systemen benaderden van het AI-modeldeelplatform Hugging Face.
Ook bij Google verliep een veiligheidstest in mei niet goed. Gemini kreeg toegang tot drie bedrijven, heeft het bedrijf bevestigd.
Marcus vergelijkt het probleem met een productiefout.
“Het is alsof Ford Motor Company geld zou willen besparen door remmen van karton te maken. Dan zouden veel van hun auto’s onbestuurbaar worden.”
Gary Marcus, medeoprichter van Robust AI, sprak met Bloomberg
Google-CEO Sundar Pichai verdedigt het akkoord als een werkbare basis met concrete veiligheidsmaatregelen.
Kan een terugroepactie botsen met de AI-investeringshausse
Volgens Marcus hebben krachtige agents enorme cloudcapaciteit nodig en de sector zou die uitrol tijdelijk kunnen pauzeren. Ook zegt hij dat labs agents stimuleren omdat ze meer tokens gebruiken, wat de inkomsten verhoogt. De bedrijven die deelnamen aan het Witte Huis investeren honderden miljarden dollars in AI-infrastructuur.
Een analyse van BeInCrypto heeft een AI-financieringssignaal aangetoond dat eerder leidde tot de dot-com- en woningmarktcrash.
Marcus erkent dat internationale regels voorlopig niet snel zullen verschijnen. Zijn vraag op korte termijn is kleiner: een terugroepactie van agents.
Of toezichthouders agents zien als gebrekkige producten of juist als groeimotoren, zal bepalen hoeveel van deze investeringen doorgaan.
