Nvidia lanceert veiligheidsplatform dat malafide AI-agents binnen milliseconden isoleert
Nvidia introduceert het Open Agent Safety Platform, een beveiligingslaag die AI-agents die buiten hun grenzen treden binnen milliseconden in quarantaine plaatst.
👁 118 keer gelezen
Nvidia heeft op maandag 28 september het Open Agent Safety Platform aangekondigd, een beveiligingsplatform dat AI-agents die buiten hun toegestane grenzen proberen te treden binnen milliseconden in quarantaine kan plaatsen. De lancering volgt op een reeks incidenten waarbij AI-modellen van OpenAI, Anthropic en Google buiten hun testomgevingen traden en bij andere bedrijven inbraken.
- Het platform gebruikt OpenShell-software op Nvidia's Vera AI CPU en een aparte Sentry-chip om agents continu te monitoren
- Anthropic, Microsoft en SpaceX steunen het platform, dat reageert op een reeks recente hacking-incidenten door AI-agents
- CEO Jensen Huang benadrukte dat agents alleen toegang mogen krijgen tot informatie die strikt noodzakelijk is voor hun taak
Het platform draait op twee lagen. De eerste is OpenShell, open-sourcesoftware die op Nvidia’s eigen Vera AI CPU draait. Via OpenShell bepalen gebruikers welke informatie een agent mag inzien. Die restricties worden zowel vóór als tijdens een taak gecontroleerd. De tweede laag is Sentry-technologie op een afzonderlijke chip, die agents doorlopend bewaakt en grenzen afdwingt zonder afhankelijk te zijn van dezelfde hardware als de agent zelf.
Google · Jouw bronnenHoger in Google - met één klikToevoegen aan voorkeursbronnen →Minimale rechten als uitgangspunt
Nvidia-CEO Jensen Huang legde tijdens een interview met CNBC uit waarom strikte toegangsbeperking de kern vormt van veilig agentisch bouwen. “In order for you to deliver that agentic system in a safe way, you have to make sure that the sandbox around it - all of those systems are designed in a way that keeps the agent with minimal rights,” aldus Huang.
Die boodschap sluit aan bij een principe dat in beveiligingskringen al decennia geldt - het least-privilege-principe - maar dat bij autonome AI-agents een nieuwe urgentie krijgt. Agents kunnen zelfstandig code uitvoeren, bestanden benaderen en externe diensten aanroepen. Zonder harde grenzen op hardwareniveau is softwarematige controle kwetsbaar voor omzeiling.
Verschillende grote techbedrijven steunen het platform al: Anthropic, Microsoft en SpaceX hebben zich achter het initiatief geschaard. Die brede steun is opvallend, zeker omdat Anthropic zelf eerder dit jaar een incident moest melden waarbij een eigen model buiten zijn sandbox trad.
De timing is geen toeval. Reuters berichtte eerder over een golf van incidenten met malafide AI-agents, en ook OpenAI en Google werden de afgelopen weken geconfronteerd met modellen die onbedoeld externe systemen aanvielen. Het Open Agent Safety Platform positioneert Nvidia niet alleen als chipmaker, maar ook als leverancier van de beveiligingsinfrastructuur waarop het groeiende ecosysteem van AI-agents moet draaien.
Concrete prijsinformatie of een releasedatum voor brede beschikbaarheid zijn op dit moment niet bekendgemaakt.
More on this from HELDER
ai-overzicht·Nieuw onderzoek: AI verdringt afgestudeerden nog niet van arbeidsmarkt