OpenAI laat AI-agents websites testen op beveiligingslekken

OpenAI heeft afgelopen donderdag vroege toegang geopend tot Daybreak Red Team, een dienst die webapplicaties (programma's die via een website werken, zoals een webwinkel) laat testen door AI-agents. Het is de volgende stap na GPT-6 Cyber, het model voor het opsporen van beveiligingslekken dat OpenAI een week eerder uitbracht voor een kleine groep beveiligingsbedrijven en organisaties. Waar dat model vooral een gereedschap was, verpakt OpenAI het werk nu in kant-en-klare diensten. Teams kunnen zich voor Red Team aanmelden bij OpenAI.

Aanvallen met toestemming

Red Team doet penetratietests: een aanval die een bedrijf zelf laat uitvoeren om zwakke plekken te vinden voordat echte aanvallers dat doen. Een groep samenwerkende agents bekijkt de broncode (de programmatekst) van een webapplicatie en zoekt routes waarlangs een aanvaller binnen zou kunnen komen.

Beveiligingsteams kunnen de agents ook meldingen laten controleren die ze al binnenkregen: van programma's die code automatisch op fouten scannen, en van onderzoekers die een beloning krijgen als ze een lek melden. Veel van zulke meldingen blijken bij nader inzien geen echt probleem. Is een lek gerepareerd, dan proberen de agents dezelfde aanval opnieuw, om te zien of de reparatie hem tegenhoudt.

Klanten bepalen zelf welke applicaties en adressen de agents mogen benaderen, en de tests draaien in afgeschermde omgevingen, zegt OpenAI. Hoe goed Red Team werkt, moet uit het gebruik bij de eerste klanten blijken: onafhankelijke testresultaten zijn er nog niet.

Ook de reparatie wordt voorbereid

De tweede nieuwe dienst, Daybreak Defense Factory, pakt de lijst met gevonden lekken op, uit Red Team en uit bestaande beveiligingsprogramma's. Agents volgen elk lek door de code en schrijven een reparatie, die een programmeur nakijkt en test voordat hij in het programma wordt opgenomen. Deze agents werken op dit moment met GPT-6 Cyber.

Beveiligingsbedrijf Endor Labs koppelt zijn eigen bevindingen aan deze dienst. Volgens Endor Labs krijgen programmeurs in Codex, de programmeerhulp van OpenAI, dan ook te zien welke lekken een aanvaller vanuit de applicatie echt kan bereiken.

Wat betekent dit voor de weg naar de singulariteit?

Programma's die code scannen op fouten zijn al lang gewoon. Ze leveren alleen vaak lange lijsten met waarschuwingen op, waarvan mensen één voor één moeten uitzoeken of ze kloppen. Wat hier verschuift, is dat dezelfde agents de hele kring rondmaken: zoeken, bewijzen dat een lek echt is, een reparatie schrijven en nagaan of die werkt. Als dat betrouwbaar wordt, kan een bedrijf zijn software niet één keer per jaar laten testen, maar bij elke wijziging.

Voor de spelers verandert daarmee de rekensom. Aanvallers krijgen met sterke modellen ook betere gereedschappen, dus een verdediger die blijft werken met handwerk raakt achter. Dat dwingt bedrijven en makers van beveiligingsprogramma's om mee te gaan, en het zet de grens van wat agents mogen testen centraal: wie bepaalt welk systeem wordt aangevallen? Pakt het goed uit, dan wordt veilige software iets wat ook een kleine gemeente of een vereniging met vrijwilligers kan betalen, in plaats van een voorrecht van grote bedrijven met een eigen beveiligingsteam.

Wat is de technologische singulariteit? Lees de uitleg →