What A Time To Be Alive
Taal kiezen: Nederlands

Google ziet aanvallers met AI-agents zelfstandig lekken opsporen en misbruiken

Google vond een aanvalssysteem van AI-agents dat software-updates vergeleek, de gerepareerde fout zocht en daar zonder menselijke hulp een aanval voor bouwde. Voor verdedigers betekent dat vooral: updates sneller installeren.

Geschilderde middeleeuwse stadsmuur bij nacht: links een gat dat net is dichtgemetseld met lichte nieuwe stenen, met een lantaarn en troffel ervoor; lichtjes trekken langs de muur naar drie gaten verderop die nog open zijn.

Het beveiligingsteam van Google, de Google Threat Intelligence Group, zag in de afgelopen maanden voor het eerst aanvallers die het hele traject van een aanval aan AI overlieten: van het vinden van een zwakke plek in software tot het misbruiken ervan, zonder dat er een mens aan te pas kwam. Dat staat in een rapport dat Google publiceerde.

Het systeem kreeg van Google de naam exploit_agent. Het bestaat uit meerdere samenwerkende AI-agents: programma's die met een taalmodel zelfstandig taken uitvoeren. Het kan verschillende taalmodellen gebruiken, zowel grote modellen via internet als modellen die de aanvallers zelf draaiden. Welke modellen precies, zegt Google niet.

Hoe het werkte

Als een softwaremaker een beveiligingsfout repareert, verschijnt er een update. Wie de oude en de nieuwe versie naast elkaar legt, kan zien wat er is veranderd, en dus waar de fout zat. Dat werk deed exploit_agent automatisch bij populaire webprogramma's, zoals een veelgebruikte uitbreiding voor WordPress. Daarna schreef het systeem een aanval op die fout en voerde die meteen uit, op websites die de update nog niet hadden geïnstalleerd.

Google vond het systeem op een slecht beveiligde testserver van de aanvallers. Daar stonden ook gegevens die al bij slachtoffers waren buitgemaakt, en scripts om wachtwoorden te raden en verder in te breken. De aanvallers hadden het volgens Google vooral gemunt op Franse websites van media, entertainment en onderwijs.

Gereedschap dat iedereen kan downloaden

Aanvallers gebruiken ook vrij beschikbare programma's die eigenlijk bedoeld zijn om de eigen beveiliging te testen, zoals ARTEX, CAIRN, CyberStrikeAI en HexStrike AI. Die laten AI-agents zelf zwakke plekken zoeken en uitproberen. Ze zijn wel snel, maar ook luidruchtig: ze laten veel sporen na, waardoor een goed bewaakt netwerk ze kan opmerken.

Over ARTEX waarschuwde de Amerikaanse federale politie FBI . Het programma wordt sinds ten minste augustus 2026 misbruikt tegen bedrijven en overheden in verschillende landen, onder meer in de financiële sector, de technologie en de zorg. Sommige aanvallers kwamen zo in minder dan drie uur van het kiezen van een doelwit tot beheerdersrechten op een systeem. De maker haalde het programma in oktober van GitHub, een site waar programmeurs hun code delen, maar kopieën zijn nog steeds in omloop. Begin november stonden er volgens het beveiligingsbedrijf Censys meer dan 1.600 bedieningspanelen van ARTEX open op internet.

Wat organisaties kunnen doen

De les is vooral dat de tijd tussen een update en een aanval korter wordt. De FBI raadt aan om bij te houden welke eigen programma's en die van leveranciers vanaf internet bereikbaar zijn, en beheerschermen alleen open te zetten voor vertrouwde netwerken. Daarnaast helpt het om inlogpogingen en cloudgebruik te bewaken, accounts niet meer rechten te geven dan nodig, en vooraf af te spreken hoe je een verdacht systeem snel afsluit en wachtwoorden intrekt. Ook Google zet zelf AI in om fouten eerder te vinden en automatisch te repareren.

Wat betekent dit voor de weg naar de singulariteit?

Dat AI-agents zelfstandig lekken vinden, is niet nieuw: beveiligingsbedrijven gebruiken ze al om hun eigen software te testen, zoals OpenAI met zijn testagents voor websites. Nieuw is dat aanvallers het hele traject nu ook automatisch doen. Daarmee wordt de wedloop tussen aanvallers en verdedigers een wedloop tussen machines. Wie een update pas na een week installeert, heeft straks geen week meer, omdat een aanval op die fout binnen uren klaarstaat.

Als die lijn doorzet, moeten updates net zo automatisch worden als de aanvallen: software die zichzelf controleert, repareert en bijwerkt zonder te wachten op een beheerder. Dat is goed nieuws voor kleine organisaties zonder eigen beveiligingsteam, want zij krijgen dan dezelfde bescherming als grote bedrijven. Het vraagt wel dat die automatische reparaties betrouwbaar zijn, want een foute update kan ook schade doen. Lukt dat, dan wordt software over een paar jaar juist veiliger dan nu, omdat fouten sneller verdwijnen dan aanvallers ze kunnen gebruiken.

Wat is de technologische singulariteit? Lees de uitleg →

Bronnen

  1. Google
  2. Clickx
  3. NeoTeo
  4. Google Threat Intelligence Group: AI Threat Tracker
  5. Google Threat Intelligence Group: ARTEX
  6. The Record: FBI-waarschuwing over ARTEX