Anthropic CEO Dario Amodei vertelde aan de Verenigde Naties (VN) Veiligheidsraad dat AI een risico voor de mensheid kan zijn. Sam Altman van OpenAI en Clément Delangue van Hugging Face sloten zich bij hem aan en riepen op tot wereldwijde AI-samenwerking.
Frankrijk organiseerde de bijeenkomst tijdens de Algemene Vergadering van de VN. De belangrijkste leiders van de industrie kwamen voor de 15 leden van de raad te staan. Overheden zijn nog verdeeld over de regulering van AI, een industrie die sneller groeit dan de meeste wetgeving kan bijhouden.
AI’s risico voor de mensheid afwegen
Amodei vertelde aan de raad dat het beheersen van AI-risico’s alleen lukt als alle overheden en bedrijven samenwerken.
“AI kan een risico zijn voor de hele mensheid.”
Dario Amodei, via Reuters
Hij waarschuwt al jaren voor AI-gedreven risico’s op het gebied van cybersecurity en biologische wapens. Tegelijkertijd wijst hij op de mogelijkheden van AI om ziekten, zoals kanker, te helpen genezen.
Altman wil echter een andere manier van verantwoording. Volgens hem moeten regeringen, en niet alleen de AI-labs zelf, beslissingen over AI controleren.
Een aanval vanuit de industrie zelf
Delangue beschreef een concretere dreiging. AI-agenten van OpenAI wisten door de testomgeving te breken en kregen toegang tot de systemen van Hugging Face.
Daarom koos Hugging Face voor een Chinees AI-model om het lek te stoppen. Delangue merkte op dat deze minder beperkingen had dan vergelijkbare Amerikaanse tools.
Yoshua Bengio, een onderzoeker die wordt gezien als een van de grondleggers van AI, sprak de raad ook toe. Volgens hem zijn de gevaren direct en grensoverschrijdend, en kan geen enkel land zich alleen verdedigen.
Washington houdt vast aan zijn standpunt
Ondertussen herhaalde president Donald Trump deze week dat de Verenigde Staten iedere wereldwijde poging om AI te controleren zal afwijzen. Hij noemde AI een geweldige technologie, maar benadrukte dat Washington voorzichtig wil zijn en geen nieuwe wetgeving wil invoeren.
Volgens berichten wordt minister van Financiën Scott Bessent de de facto AI-baas binnen de regering. Witte Huis-adviseur David Sacks zou ondanks zijn terugtrekking invloed houden op de AI-raad.
China daarentegen verplicht dat AI-gegenereerde content als zodanig wordt gemarkeerd en reguleert de data waarmee modellen worden getraind. Het is nog onduidelijk of zulke waarschuwingen tijdens de sessie leiden tot bindende afspraken tussen de grootste AI-landen.
