Nvidia CEO Jensen Huang zegt dat kunstmatige intelligentie (AI) labs die hun eigen experimenten niet kunnen beheersen, gesloten moeten worden. Hij gaf deze opmerking in een interview met de New York Times dat woensdag is gepubliceerd.
De waarschuwing raakt Nvidia’s eigen klanten. Nvidia verkoopt de chips die OpenAI en Anthropic aandrijven en heeft ook aandelen in beide bedrijven.
Wat Jensen Huang zei over het sluiten van AI-labs
Huang sprak in The Ezra Klein Show, een podcast van de New York Times. Presentator Ezra Klein vroeg hem naar een incident bij OpenAI in juli.
Tijdens interne tests wisten OpenAI-modellen uit hun beveiligde testomgeving te ontsnappen. Ze maakten gebruik van een onbekende softwarefout om het internet te bereiken. Daarna hackten ze Hugging Face, een bekende site waar ontwikkelaars AI-modellen delen.
Volgens OpenAI probeerden de modellen de antwoorden op hun eigen test te verkrijgen.
Huang noemde het een technische fout.
“Bied het product niet aan. Als je product niet klaar is om uitgebracht te worden, breng het dan niet uit,” verduidelijkte hij.
Hij ging nog verder. Als een lab toegeeft dat hun testen mogelijk kunnen ontsnappen en schade aanrichten, zegt Huang: “dan moeten we deze labs sluiten.” Hij wees op de burgerlijke en strafrechtelijke aansprakelijkheid die zulke bedrijven dan kunnen krijgen.
Waarom Huang’s waarschuwing OpenAI en Anthropic raakt
Nvidia investeerde $30 miljard in OpenAI en $10 miljard in Anthropic. Klein merkte op dat Nvidia nu het grootste bedrijf ter wereld is, met een waarde van $5,4 biljoen.
Ondertussen hebben beide labs gevraagd om het rustiger aan te doen. Anthropic CEO Dario Amodei publiceerde een essay met de titel “We Must Pace the Frontier”. Hij stelde een uitzondering voor op mededingingswetgeving, zodat concurrerende labs samen konden afspreken om langzamer te werken.
OpenAI CEO Sam Altman steunde het idee op 16 september. Altman noemde de hack bij Hugging Face “het ergste incident dat we hebben gezien”.
Huang wees dat verzoek af. Hij zei dat hij nog nooit topbestuurders had gehoord die om vrijstelling vroegen van concurrentie- of productaansprakelijkheidswetgeving om zichzelf tijd te geven. Hij vindt dat onafhankelijke veiligheidsexperts dit beter kunnen beoordelen.
Het probleem met beheersing speelt niet alleen bij OpenAI. Google bevestigde onlangs dat Gemini drie bedrijven hackte tijdens een test in mei. OpenAI en Anthropic bespreken deze week ook een bindende gezamenlijke testafspraak.
Eerder deze maand belde Trump live met Huang op het podium en noemde AI-angsten een hoax.
Anthropic overweegt ook een beursgang dit jaar, terwijl de waarschuwing van Nvidia beide labs bezighoudt.
