Nvidia laat AI-agents alleen doen wat mag, en controleert de regels vooraf met wiskunde

AI-agents zijn AI-programma's die zelf taken uitvoeren: ze zoeken iets op, schrijven code, sturen een bestand door of halen gegevens uit een database. Hoe meer ze zelf mogen, hoe nuttiger ze worden. Maar dan wil een bedrijf ook zeker weten dat zo'n agent niet bij gegevens komt die hij niet nodig heeft.

Nvidia heeft daarvoor op 21 oktober 2026, op zijn conferentie GTC in Berlijn, een complete bouwtekening gepresenteerd. De kern is OpenShell: software die elke agent in een afgeschermde ruimte laat werken. Het uitgangspunt is volgens Nvidia simpel: een agent kan zichzelf niet bewaken. Dat moet dus iets buiten de agent doen.

Een afgesloten werkplaats met een portier

Vergelijk het met een werkplaats met een portier bij de deur. De agent werkt binnen, in een afgesloten ruimte die ontwikkelaars een sandbox noemen (een zandbak). Daar mag hij alleen de bestanden en programma's gebruiken die hem zijn toegewezen.

Wil de agent iets buiten die ruimte doen, bijvoorbeeld een website bezoeken of een andere dienst aanroepen, dan gaat dat verzoek langs een apart onderdeel. Dat onderdeel controleert of het mag. Ook wachtwoorden en toegangssleutels blijven buiten de werkplaats: de agent krijgt ze nooit zelf in handen.

OpenShell is open source, onder een vrije licentie (Apache 2.0). Iedereen kan de software dus gratis gebruiken en bekijken, ook op hardware van andere merken.

De regels vooraf controleren met wiskunde

Het bijzondere zit in de controle van de regels zelf. Een beveiligingsexpert legt vast wat een agent maximaal mag: welke programma's, welke gegevens, welke verbindingen. Bij complexe regels sluipt er makkelijk een fout in, zodat een combinatie van rechten ineens meer toestaat dan bedoeld.

OpenShell gebruikt daarom formele verificatie: een rekenprogramma controleert met wiskundige logica of er een situatie bestaat waarin de regels die grens overschrijden. Vindt het zo'n situatie, dan krijgt de expert een voorbeeld te zien en gaan de regels niet live tot de fout is hersteld.

Zo'n bewijs gaat over de regels zoals ze zijn opgeschreven. Het zegt niet dat een agent altijd verstandig handelt. Nvidia zegt dat zelf ook in zijn documentatie: de controle laat zien dat de regels binnen de grens blijven, en goede regels opstellen blijft werk voor mensen.

Een bewaker in de chip

Voor grote datacenters gaat Nvidia nog een stap verder. In de bouwtekening draaien de AI-modellen op Nvidia's Vera Rubin-systemen en de agents op aparte Vera-processors. Alle verkeer tussen agent en model loopt door een netwerkchip, de BlueField-4.

Op die chip draait een eigen bewaker, Sentry. Die kijkt mee zonder dat de agent daar iets voor hoeft te doen, en zonder dat de agent hem kan uitzetten. Probeert een agent buiten zijn grenzen te gaan, dan zet Sentry hem volgens Nvidia binnen milliseconden in quarantaine. Omdat het controlewerk op die aparte chip gebeurt, zouden de servers volgens Nvidia tot 20 procent meer agents tegelijk aankunnen. Dat getal komt van Nvidia zelf.

Veel bekende bedrijven werken mee. Nvidia noemt onder meer modelmakers als Anthropic, Google, Meta en OpenAI, beveiligers als CrowdStrike, Palo Alto Networks en Zscaler, en banken als BBVA en Santander, die de aanpak verkennen. ServiceNow gebruikt OpenShell al in zijn eigen agentplatform.

Wat nog komt

De software is nu beschikbaar, maar staat nog aan het begin: het gaat om de eerste versies. Sentry is geen open source; het is een ontwerp met open koppelingen dat Nvidia samen met partners verder uitwerkt. De komende tijd moet blijken hoe bedrijven het in de praktijk inzetten en hoe de cijfers van Nvidia standhouden bij onafhankelijke metingen.

Wat betekent dit voor de weg naar de singulariteit?

Agents die zelfstandig werken, zijn een van de grote stappen richting slimmere AI. Maar bedrijven geven ze alleen echte verantwoordelijkheid als ze erop kunnen vertrouwen dat een agent binnen de lijntjes blijft. OpenShell maakt dat vertrouwen controleerbaar: niet alleen beloven dat het veilig is, maar het met wiskunde nagaan en met hardware afdwingen.

Mooi is dat AI zelf hier ook kan helpen. Regels opstellen voor honderden agents is precies het soort puzzel waarbij een taalmodel voorstellen kan doen en een wiskundige controle daarna onverbiddelijk nagaat of ze kloppen. Die combinatie, een creatieve AI met een strenge rekenaar ernaast, kan agents straks meer vrijheid geven zonder dat de veiligheid inlevert.

Wat is de technologische singulariteit? Lees de uitleg →