EnglishNieuwste AI-model kan de binnenkant van andere AI lezen en zelf schrijven
Onderzoekers van MIT lieten GPT-6 Astra van OpenAI de getallen lezen en aanpassen waaruit kleine AI-netwerken bestaan, zonder training. Zo schreef het zelf netwerken die een computerspel goed spelen. De onderzoekers noemen het nog heel vroege resultaten.
Een AI-model leert normaal door te oefenen. Een neuraal netwerk bestaat uit heel veel getallen, de zogeheten gewichten. Tijdens de training worden die getallen miljoenen keren een klein beetje bijgesteld, tot het netwerk zijn taak goed doet. Dat kost veel tijd en rekenkracht. Geen mens kan zo'n rij getallen lezen en zien wat het netwerk doet, laat staan de getallen zelf met de hand invullen.
Vier onderzoekers van het computerlab CSAIL van het Amerikaanse MIT laten nu zien dat het nieuwste model van OpenAI, GPT-6 Astra, dat wel een eind kan. Ze gaven het model de gewichten van kleine netwerken als tekst. Astra kon daaruit afleiden wat zo'n netwerk doet, fouten erin herstellen en zelfs nieuwe netwerken schrijven, zonder enige training. De onderzoekers publiceerden hun resultaten op 2 november en noemen ze zelf nog heel vroeg.
Wat Astra kon
Astra kreeg alleen de gewichten van vier kleine netwerken die elk een ander computerspel hadden leren spelen. Het noemde bij alle vier het juiste spel. Ook bij kleine netwerken die plaatjes van een cirkel, driehoek of vierkant maken, herkende het welke vorm elk netwerk maakte.
Daarna ging het een stap verder. Een netwerk dat in een simulatie een auto een helling op moet sturen, lukte dat in geen enkele poging. Astra paste 3,5 procent van de gewichten aan. Daarna kwam de auto in alle 1.024 pogingen boven.
Het opvallendste resultaat: Astra schreef helemaal zelf netwerken voor drie eenvoudige versies van bekende computerspellen, waaronder het steenbreekspel Breakout. Volgens de onderzoekers speelden die netwerken alle drie beter dan netwerken die op de gewone manier 100 miljoen spelstappen hadden geoefend. In Breakout scoorde het netwerk van Astra 517 punten, tegen 16 punten voor het geoefende netwerk.
Herhaald door een andere onderzoeker
Onderzoeker Alex Krentsel heeft het Breakout-resultaat zelf nagedaan. Volgens hem kunnen alleen de allernieuwste modellen in één antwoord zo'n werkend netwerk uitschrijven. In zijn proef ging het om een netwerk van 20.486 gewichten. Hij noemt het een duidelijke sprong in wat AI kan, maar wijst er ook op dat dit piepklein is: de grootste AI-modellen van nu hebben ongeveer duizend miljard gewichten.
Een klein taalmodel beter gemaakt
De onderzoekers lieten Astra ook een bestaand klein taalmodel verbeteren: Qwen3.5-0.8B van het Chinese Alibaba. Dat model bleef bij rekensommen vaak in een kringetje redeneren en kwam dan nooit tot een antwoord. Astra veranderde 131.072 gewichten, ongeveer 0,016 procent van het hele model. Daarna steeg de score op een bekende reeks wiskundevragen van 7,9 naar 48,1 procent. Het model werd ook beter in het opvolgen van opdrachten: die score ging van 21 naar 62 procent.
Een groot deel van die winst kwam doordat het model zijn antwoorden nu afmaakte. Voor de aanpassing liep 93 procent van de antwoorden vast op de maximale lengte, daarna 33 procent. Medeauteur Alex Zhang zegt dat het team eerst dacht dat Astra er een nieuwe rekenvaardigheid in had gezet. Het model kon de sommen dus al grotendeels, maar raakte de weg kwijt.
Kanttekeningen
Onderzoeker Lucas Beyer wees erop dat de opdracht aan Astra een hint bevatte: als het model in herhaling valt, telt het mee om de oorzaak te vinden en op te lossen. Medeauteur Jayden Teoh antwoordde dat het team een korte opdracht aan de programmeerhulp Claude Code had gegeven en dat die de hint zelf had toegevoegd. Het team probeerde ook een kortere opdracht zonder die hint. In een kleinere testronde kwam het model daarmee op dezelfde score als met de hint.
Bij een ander klein taalmodel, Gemma 3 270M van Google, lukte het Astra niet om het beter te maken in rekenen. Volgens de onderzoekers kan het aanpassen van gewichten een vaardigheid vrijmaken die al in een model zit, maar geen vaardigheid toevoegen die ontbreekt. Ze werken nu aan een vaste test om deze nieuwe vaardigheid van AI-modellen te meten, en hebben alle logbestanden van hun proeven openbaar gemaakt.
Wat betekent dit voor de weg naar de singulariteit?
Tot nu toe ontstaan de gewichten van een neuraal netwerk door training: een rekenmethode die ze stap voor stap bijstelt. Dit onderzoek laat zien dat een taalmodel die getallen ook direct kan lezen, repareren en schrijven, al gaat het nog om kleine netwerken. Kan dat straks ook bij grotere modellen, dan kan AI andere AI gerichter verbeteren, zonder dure trainingsrondes. Dat is een vroege stap richting AI die zelf aan AI werkt, een van de belangrijkste ideeën achter de singulariteit. De volgende stap is laten zien hoe ver dit groeit naarmate de netwerken groter worden.
