NVIDIA heeft maandag de Open Secure AI Alliance gelanceerd met 36 partners, waaronder Microsoft, IBM en Palantir. Dit volgt op een hack in juli waarbij gesloten AI-modellen weigerden Hugging Face te helpen bij het onderzoeken van hun eigen aanvaller.
Leden gaan open AI-modellen, data en beveiligingstools delen. NVIDIA zegt dat verdedigers AI nodig hebben die ze kunnen openen, aanpassen en zelf draaien.
Waarom gesloten AI-modellen Hugging Face niet konden helpen
De aanval begon met een vervuild dataset. Volgens de openbaarmaking van Hugging Face, kon een aanvaller hierdoor code uitvoeren op een van de machines van het bedrijf.
Daarna stal de aanvaller wachtwoorden. Vervolgens verspreidde de aanval zich in het interne systeem tijdens het weekend.
De eigen AI van Hugging Face ontdekte de inbraak. Het opruimen was het lastigste deel.
Het bedrijf vroeg toonaangevende commerciële AI-modellen om de aanval te onderzoeken. Ze weigerden. Hun veiligheidsfilters konden een verdediger en een hacker niet van elkaar onderscheiden.
Dus gebruikte het team een open model, GLM 5.2, in plaats daarvan. Ze draaiden het op hun eigen computers. Daarmee werd er in een paar uur tijd meer dan 17.000 aanvaller-acties uitgesorteerd. Geen enkel wachtwoord verliet het gebouw.
Op 16 juli zei Hugging Face niet te weten welke AI bij de aanval hoorde. Vijf dagen later gaf OpenAI het antwoord. Twee van hun modellen waren betrokken, tijdens een veiligheidstest waarbij de veiligheidslimieten waren uitgeschakeld.
“Dit incident, mogelijk het eerste in zijn soort, bewijst het punt dat wij al lang geloven: AI-veiligheid zal niet door één enkel bedrijf in het geheim worden opgelost. Het zal in de openheid, samenwerkend, en met brede toegang tot AI voor elke verdediger, overal, opgelost worden,” zei Clem Delangue, medeoprichter en CEO van Hugging Face, in een verklaring die door OpenAI werd gepubliceerd.
Volg ons op X voor het laatste nieuws zodra het gebeurt.
Van hack naar alliantie in 11 dagen
NVIDIA handelde snel. Binnen minder dan twee weken ging het van één incident naar een industriegroep.
Welke bedrijven sloten zich aan bij de Open Secure AI Alliance
De groep bestaat uit in totaal 37 bedrijven. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI en Hugging Face doen allemaal mee.
Drie grote namen ontbreken. OpenAI, Anthropic en Google staan niet op de bloglijst van NVIDIA. Toch deden OpenAI en Anthropic in juni wel mee aan de Akrites beveiligingscampagne van de Linux Foundation, samen met NVIDIA.
Sommige leden brengen bestaande tools in. Hugging Face heeft Safetensors, een veiligere manier om AI-modellen op te slaan, aangeboden aan de PyTorch Foundation. NVIDIA heeft een research-tool genaamd NOOA op GitHub uitgebracht.
CNBC-presentator Jim Cramer zag de lancering als een nieuw verhaal voor het aandeel.
NVDA sloot vrijdag op $206,84, een daling van 0,92%. In de pre-market maandagochtend stond het aandeel op ongeveer $208,55, een stijging van 1,33%.
Waarom NVIDIA zich inzet in Washington voor open AI
De alliantie heeft ook een beleidsboodschap. NVIDIA stelt dat een breed verbod op open AI verdedigers zwakker zal maken. Ook zou het de controle bij enkele grote gesloten bedrijven leggen.
NVIDIA en 24 andere bedrijven ondertekenden de open-weights-brief op 24 juli. OpenAI, Anthropic en Google weigerden in eerste instantie mee te doen. Later hebben meer bedrijven getekend.
Washington overweegt beperkingen voor Chinese modellen. Ambtenaren noemen beveiliging en zorgen over intellectueel eigendom als reden. Twitter-medeoprichter Jack Dorsey heeft al een waarschuwing over open source AI gegeven.
Waar moet je de komende 30 dagen op letten
Drie signalen laten zien of de alliantie werkt.
- Of OpenAI, Anthropic of Google zich alsnog aansluiten
- Of de groep gezamenlijk echt tools uitbrengt, en niet alleen verklaringen
- Of de beperkingen van Washington over open AI daadwerkelijk worden ingevoerd
NVIDIA deelt de kwartaalcijfers op 26 augustus. Verwacht vragen over hoe AI-beleid de vraag beïnvloedt.
Toezichthouders zullen beslissen wie het gelijk aan zijn kant krijgt.
