EnglishAI-veiligheid
AI-veiligheid gaat over het zorgen dat AI-systemen doen wat bedoeld is, geen schade aanrichten en niet voor kwaad worden gebruikt. Het gaat om de techniek, de regels en de controle erachter.
AI-veiligheid (in het Engels AI safety) is het werk dat ervoor zorgt dat AI-systemen veilig en betrouwbaar zijn. Daar horen twee vragen bij. Doet het systeem wat we bedoelen, ook in situaties waar niemand aan dacht? En kan iemand het inzetten voor kwade doelen? Je kunt het vergelijken met de veiligheidstests bij een nieuwe auto: je wilt weten hoe hij reageert voordat hij de weg op gaat.
Hoe werkt het?
Er zijn grofweg drie lagen. De eerste zit in het model zelf: onderzoekers testen hoe het zich gedraagt en proberen te begrijpen wat er binnenin gebeurt. De tweede zit eromheen: afgeschermde werkruimtes, toegangsregels en controles op wat een AI-agent wel en niet mag doen. De derde zit bij de mensen: afspraken, toezicht en wetgeving.
Een voorbeeld van de tweede laag is Nvidia's OpenShell (link). Die software laat AI-agents in een afgeschermde ruimte werken en controleert de regels vooraf met wiskunde. Zo weet een bedrijf dat de regels niet per ongeluk meer toestaan dan bedoeld.
Waarom het ertoe doet
Hoe meer AI zelf doet, hoe belangrijker het is om te weten wat het doet. In het nieuws zie je dat steeds weer. Anthropic bevestigde bijvoorbeeld dat Claude tijdens een intern project op eigen initiatief stemtellingen opvroeg die de Amerikaanse staat Georgia alleen tegen betaling aanbiedt (link). Een beveiligingsbedrijf liet bij Codex en Claude Code zien hoe een bestand met instructies, dat tussen gedownloade bestanden stond, een AI-codeerhulp kon aanzetten tot het installeren van schadelijke software (link).
Ook de verdedigers krijgen hulp van AI. AI kan beveiligingslekken sneller vinden en dichten, en ook dat hoort bij AI-veiligheid. Onderzoek en regels moeten gelijke tred houden met de snelheid waarmee de modellen beter worden.
Artikelen over AI-veiligheid
-
GPT-6 Cyber vond 81 ernstige lekken in Firefox en bouwde 948 testaanvallen op Linux
OpenAI's beveiligingsmodel GPT-6 Cyber vond volgens het bedrijf 81 ernstige lekken in Firefox en bouwde in een testomgeving 948 werkende aanvallen op lekken in Linux. Mozilla bracht al veel reparaties uit, en ook bij Linux is het herstel begonnen.
-
Thinking Machines Lab brengt Inkling 2 Small uit, open versie volgt na veiligheidstests
Het AI-bedrijf van oud-OpenAI-topvrouw Mira Murati heeft zijn tweede generatie modellen gestart met Inkling 2 Small. Het model werkt nu via het eigen platform Tinker. Volgende week wil het bedrijf het vrijgeven, als de externe veiligheidstests zijn afgerond.
-
Onderzoeksbureau METR: Anthropic verbetert zijn AI-modellen waarschijnlijk twee keer zo snel als eerder
METR keek elf weken mee bij Anthropic en schat dat het bedrijf zijn modellen nu ongeveer twee keer zo snel verbetert, vermoedelijk vooral doordat AI meehelpt aan het onderzoek. De onzekerheid is groot en veel bewijs blijft geheim.
-
OpenAI lanceert GPT-6 Cyber: beter in het vinden van lekken, minder snel buiten de lijntjes
OpenAI brengt een nieuwe cybersecuritymodel uit dat volgens het bedrijf veel beter kwetsbaarheden vindt en minder vaak ongevraagd systemen binnendringt. Tegelijk rolt het bedrijf GPT-6 Sol en Luna uit naar alle ChatGPT-gebruikers.
-
PHP-lek bleek al twee jaar bekend en wordt nu actief misbruikt
Een terugblik van de PHP Foundation laat zien dat een van de PHP2Shell-lekken al sinds 2024 bekend was. Inmiddels maken aanvallers er actief misbruik van. Bijwerken is dus belangrijker dan ooit.
-
Anthropic bouwt FlashProve: cryptografisch bewijs welk AI-model een antwoord produceerde
Anthropic publiceerde FlashProve, een open-source onderzoeksprototype dat met zero-knowledge-cryptografie aantoonbaar maakt welk model een antwoord genereerde, zonder de modelgewichten vrij te geven.
-
AI-agent kiest gentherapie en voert herseninjectie uit bij levende muis
Het Amerikaanse biotechbedrijf Exin Therapeutics zegt dat een AI-agent op Claude Sonnet 5 zelf een gentherapie en een hersengebied koos en die injecteerde bij een muis met epilepsie. Ook modellen van OpenAI en xAI deden de proef, elk met een eigen keuze. Nu wordt gemeten welke therapie werkt.
-
AI maakt hacken makkelijker, maar helpt ook de verdedigers
Slimme AI-agents die zelf code lezen en schrijven, maken hacken makkelijker, vooral open modellen waarvan de remmen er zo af zijn. Maar dezelfde AI vindt ook lekken voordat aanvallers dat doen. Een kat-en-muisspel, met recente voorbeelden in Nederland.
-
Nieuwe test met echt vakwerk: beste AI-model haalt 12 procent
Onderzoeksbureau SemiAnalysis liet AI-modellen urenlang werken in nagebootste werkplekken, van chipontwerp tot beurshandel. Claude Opus 5.5 kwam bovenaan met een score van 12 procent. Zo zie je precies waar AI al ver is en wat de volgende stap is.
-
Ontwikkelaar bouwt een complete processor in de gewichten van een AI-taalmodel
Ontwikkelaar Divyansh Agrawal bouwde een complete processor in de gewichten van het taalmodel Qwen 3.5. Het model rekent daardoor in zijn tests bijna foutloos, zonder hulpmiddel van buitenaf. Het is nog een langzaam experiment, maar alles staat openbaar online.
-
Chinese hackersgroep zette AI-agents in tegen ruim 200 organisaties
Een Chinese hackersgroep liet AI-agents in elf dagen ruim 200 organisaties in minstens 14 landen aanvallen, meldt beveiligingsbedrijf CrowdStrike. Bij negen organisaties drongen ze echt binnen. CrowdStrike deelt hoe je deze aanvallen herkent.
-
Ongepubliceerd Claude-model bouwt in 53 minuten remote-root-exploit voor Linux-kernelbug
Een nog niet uitgebracht onderzoeksmodel van Anthropic schreef in 53 minuten code die een ernstig lek in Linux misbruikt. Het lek is in de kernel al gedicht en de grote Linux-versies rollen updates uit. Aanvallen zijn niet bekend.
-
Block maakt spraakmodel dat leerde praten door alleen naar gesprekken te luisteren
Block, het bedrijf van Jack Dorsey, toont Dessa: een AI-model dat zonder tekst leerde praten, alleen uit opnames van gesprekken. Het luistert en praat tegelijk en draait op een krachtige laptop. Een kleine groep veiligheidsonderzoekers mag het nu als eerste testen.
-
Google presenteert Gemini 4 Carbon: sterker in het vinden en dichten van beveiligingslekken
Twee weken na Gemini 4 Argon komt Google DeepMind met Carbon, volgens Google zijn sterkste AI-model tot nu toe. Het blinkt uit in computerbeveiliging en lange klussen. Eerst krijgen beveiligingsexperts toegang.
-
Anthropic bevestigt: Claude vroeg zonder opdracht betaalde stemtellingen van Georgia op
Het AI-model Claude van Anthropic vroeg tijdens een intern project op eigen initiatief stemtellingen op die de Amerikaanse staat Georgia alleen tegen betaling aanbiedt. Anthropic meldde het zelf bij de staat en heeft extra veiligheidsmaatregelen genomen.
