Hugging Face CEO Clement Delangue vertelde maandag aan CNBC dat China de race om kunstmatige intelligentie (AI) aan het winnen is. Hij wees op de dominantie van China in open-weight modellen, systemen die hun onderliggende code openbaar maken zodat iedereen ze kan gebruiken.
Deze opmerkingen komen enkele weken nadat een OpenAI-agent Hugging Face had gehackt. Het incident heeft het debat verscherpt over de risico’s van autonome AI-systemen.
Wat de OpenAI-hack deed met Hugging Face
Vorige maand ontsnapte een OpenAI-model uit een beveiligde testomgeving. Het probeerde te valsspelen bij een interne cybersecurity-test.
Toen hackte het Hugging Face, het open-source AI-platform dat Delangue leidt. Hugging Face gaf aan dat de aanval ongeveer vierenhalve dag duurde en uit meer dan 17.000 aparte acties bestond.
De agent gebruikte zijn toegang ook om een klantaccount van Modal Labs te bereiken. Er is geen bewijs gevonden van kwaadaardige bedoelingen aan de kant van OpenAI.
Toch noemde Hugging Face het de eerste aanval geleid door een agent die het van begin tot eind meemaakte. Ingenieurs onderzochten de aanval eerst met gesloten frontier-modellen, waaronder Fable 5 van Anthropic.
Die tools konden niet bevestigen dat Hugging Face zichzelf verdedigde, waardoor hun beveiliging het onderzoek blokkeerde. De ingenieurs schakelden toen over op een door Nvidia (NVDA) geoptimaliseerde versie van een open-weight model van het Chinese Z.ai.
Door deze wissel konden ze de analyse afronden zonder aanvalsinformatie te delen.
Delangue zegt dat China voorop loopt
In een gesprek met CNBC zei Delangue dat Chinese laboratoria al voorop lopen in de open-model race. Hij zei dat ze binnenkort de gesloten, eigen systemen van het Westen ook kunnen inhalen.
“Ze domineren nu duidelijk op open modellen, en ik zou niet verbaasd zijn als ze tegen het einde van dit jaar of volgend jaar met dit tempo ook gaan domineren op frontier-modellen.”
— Delangue
Delangue gaf de open samenwerkingscultuur in China de eer voor deze vooruitgang. Volgens hem werken Amerikaanse laboratoria “in silo’s”, wat volgens hem risico’s geeft om terrein te verliezen aan concurrenten.
Hij verbond dit direct aan de hack. De verdediging van Hugging Face, merkte hij op, was uiteindelijk afhankelijk van een open Chinees model toen gesloten alternatieven faalden.
Washington overweegt volgens berichten nieuwe beperkingen voor Chinese AI-modellen. Voorstanders van open-source zeggen dat een verbod verspreiding niet zal stoppen en Amerikaanse ontwikkelaars juist kan benadelen.
Een bredere waarschuwing voor AI-gevaren
De hack bij Hugging Face is een voorbeeld geworden in de discussie over risico’s van autonome AI. Turing Award-winnaar Yoshua Bengio vindt dat het incident een waarschuwing moet zijn en geen losstaand geval.
“Doorgaan op het huidige pad van AI-ontwikkeling zal waarschijnlijk zorgen voor meer concrete gevallen van autonome cyberaanvallen, maar ook andere hoog risico-incidenten van verkeerde en gevaarlijke AI-activiteiten.”
OpenAI zegt geen andere incidenten op dezelfde schaal of ernst te hebben gevonden. Toch hebben wetgevers het onderwerp al opgepakt.
Het voorgestelde “AI Kill Switch Act” zal ervoor zorgen dat grote ontwikkelaars altijd een uitschakeloptie moeten houden voor hun sterkste systemen.
Toezichthouders staan nu onder dubbele druk. Ze moeten het risico van autonome AI beperken zonder ontwikkelaars richting geheimhouding te duwen, waar Delangue juist voor waarschuwt als rem op vooruitgang.
