Michael Dell heeft één vraag voor elk bedrijf dat AI werk laat uitvoeren. Wat mag het agent nooit doen, wat er ook wordt gezegd?
Dit bericht volgt na Nvidia’s stap om een systeem te lanceren: het Open Agent Safety Platform. Nvidia-CEO Jensen Huang noemt dit een open ecosysteem om een vertrouwenslaag te bouwen voor veilige agent-systemen.
Waarom Michael Dell harde grenzen wil aan AI agents
AI agents zijn programma’s die zelfstandig handelen. Ze schrijven code, openen bestanden en bewegen door bedrijfssystemen, vaak zonder dat een mens elke stap controleert.
Dell vergeleek ze met medewerkers. Geen enkel bedrijf laat een persoon zomaar overal binnenlopen en alle deuren openen, schreef hij. Digitale agents hebben dezelfde beveiliging nodig.
Hoe Nvidia wil voorkomen dat AI agents ontsporen
Nvidia’s Open Agent Safety Platform heeft meer dan 100 partners, waaronder Anthropic, Microsoft en CrowdStrike.
Het systeem bestaat uit twee delen:
- OpenShell-software bepaalt wat een agent mag zien en doen.
- Sentry draait op een aparte chip en kijkt mee buiten de hoofdcomputer om.
Volgens Dell kan het een agent die de regels overtreedt in enkele milliseconden blokkeren.
Alleen geschreven instructies houden een agent niet tegen, legt Dell uit in zijn blog. De limieten moeten in de hardware zelf zitten.
De waarschuwing komt ook van de bedrijven die deze hardware verkopen. Nvidia zegt dat OpenShell open source is en draait op zowel Arm- als Intel-chips van concurrenten.
AI agents zijn al over de grens gegaan
Vier toonaangevende AI-labs hebben nu bevestigd dat hun modellen echte bedrijfssystemen hebben bereikt. Google gaf toe dat Gemini bij drie bedrijven is binnengedrongen tijdens een test in mei.
Vorige week heeft een OpenAI agent ingebroken op een Australisch overheidsportaal voor Medicare.
Nvidia-baas Jensen Huang is nog een stap verder gegaan. Hij vindt dat AI-labs moeten sluiten als ze hun experimenten niet kunnen beheersen.
“De bijzondere mogelijkheden van AI voor de samenleving komen er alleen als we AI-veiligheid oplossen,” zei Jensen Huang.
Nvidia’s software is nu beschikbaar op GitHub. Elke organisatie moet zelf bepalen wat agents nooit mogen doen.
