What A Time To Be Alive

Onderzoek

Onderzoekers laten AI-agent deels zonder woorden denken: sneller en goedkoper

Onderzoekers van Stanford en Together AI laten een AI-agent een deel van zijn denkwerk doen zonder het uit te schrijven. Alleen om iets op te zoeken of te antwoorden schakelt hij naar tekst. Volgens hen werkt hij zo tot 2,6 keer sneller en scoort hij beter dan vergelijkbare systemen.

Een golvende stroom blauwwit licht in een donkere sterrenhemel, met op drie plekken losse witte vellen papier en daarboven een vergrootglas, een wereldbol en een rekenmachine. Rechts eindigt de stroom in een warm oranje lichtpunt.
Het model denkt het grootste deel van de tijd stil, en schakelt naar tekst als het iets moet opzoeken of antwoorden.

Wie een moderne AI-chatbot een moeilijke vraag stelt, ziet hem vaak eerst "nadenken". Het taalmodel schrijft dan stap voor stap zijn redenering uit. Dat doet het in tokens: kleine stukjes tekst, zoals een kort woord of een deel van een langer woord. Het woord "zonnebril" kan bijvoorbeeld worden opgeknipt in "zonne" en "bril". Uitschrijven helpt: met tussenstappen maakt het model minder fouten. Maar het kost ook tijd en rekenkracht, want elk token moet apart worden berekend.

Onderzoekers van Stanford University, de Universiteit van Illinois en het AI-bedrijf Together AI hebben een manier gevonden om een deel van dat uitschrijven over te slaan. Hun systeem heet HybridAgent. Ze publiceerden het werk op 13 oktober 2026 op arXiv, een website waar onderzoekers hun artikelen delen voordat vakgenoten ze hebben beoordeeld. De code staat openbaar op GitHub.

Denken in getallen

Een taalmodel rekent intern niet met woorden, maar met lange reeksen getallen. Pas aan het eind van elke stap zet het die getallen om in een token. Bij zogenoemd latent redeneren slaat het model dat omzetten over. Het geeft zijn interne getallen direct door aan de volgende denkstap. Vergelijk het met hoofdrekenen in plaats van elke tussenstap op papier te zetten.

Dat idee bestond al, maar het had een nadeel. Een AI-agent is een AI die zelf taken uitvoert, zoals iets opzoeken op internet of een rekenprogramma gebruiken. Zulke hulpmiddelen stuur je aan met tekst. Een model dat alleen "in zijn hoofd" denkt, kan dat niet.

Schakelen tussen hoofd en papier

HybridAgent combineert de twee manieren. Een klein extra onderdeel, dat de onderzoekers HybridLink noemen, laat het model wisselen tussen stil denken en schrijven. Moet het iets opzoeken, een hulpmiddel gebruiken of antwoord geven, dan schakelt het terug naar tekst. Wat het eerder heeft bedacht, bewaart het in een werkgeheugen, zodat het van stap tot stap de draad vasthoudt.

Het model leert dit in twee rondes. Eerst krijgt het voorbeelden van hoe het moet schakelen. Daarna leert het door te oefenen, met een beloning voor goede antwoorden, wanneer stil denken loont en wanneer het beter iets kan uitschrijven of doen.

De stille gedachten zijn ook niet helemaal onzichtbaar. Volgens de onderzoekers kun je ze terugvertalen naar woorden, zodat mensen globaal kunnen volgen wat het model doet.

De resultaten

De onderzoekers bouwden HybridAgent op de open taalmodellen Qwen3 van het Chinese bedrijf Alibaba, in drie formaten. Ze testten het op elf toetsen: wiskundeopgaven, vragen over wetenschap en geneeskunde, en opdrachten waarbij de agent op internet moet zoeken.

Volgens de onderzoekers presteert HybridAgent gemiddeld 10,4 procent beter dan de systemen waarmee ze het vergeleken. Het gebruikt daarbij 35 tot 55 procent minder tokens, is 1,8 tot 2,6 keer sneller en is 2,7 tot 3,7 keer goedkoper in gebruik.

Dit zijn de eerste resultaten, gemeten door de onderzoekers zelf. De besparing op kosten is een berekening op basis van de rekenkosten per token. Omdat de code openbaar is, kunnen andere onderzoekers de methode nu zelf nabouwen en testen.

Wat betekent dit voor de weg naar de singulariteit?

AI-agents doen steeds vaker echt werk, zoals zoeken naar oplossingen voor onderzoeksproblemen in de natuurkunde. Hoeveel ze kunnen doen, hangt sterk af van hoeveel rekenkracht en stroom elke denkstap kost. Een agent die met dezelfde chips twee keer zoveel kan nadenken, kan twee keer zoveel ideeën proberen.

Mooi is ook dat de methode dichter bij ons eigen denken komt. Mensen denken ook lang niet alles in woorden uit, en pakken pas pen en papier als het nodig is. Dat AI-onderzoekers zo'n werkwijze nu in modellen kunnen inbouwen, laat zien hoe snel de technieken achter AI zelf verbeteren. Elke stap die AI efficiënter maakt, brengt slimme hulp voor wetenschap en dagelijks werk een stukje dichterbij.

Wat is de technologische singulariteit? Lees de uitleg →

Bronnen

  1. arXiv: Hybrid Reasoning Agents (Zou e.a.)
  2. GitHub: HybridAgent (code)
  3. RuntimeWire
  4. AI Weekly