AI-model Maxwell maakt bestaande software sneller terwijl die draait
Het Israëlische bedrijf doubleAI presenteert Maxwell, een AI die programma's tijdens het draaien herschrijft zodat ze sneller lopen, zonder de broncode aan te raken. Volgens het bedrijf daalden de rekenkosten van één klant met 67 procent.
Rekenkracht voor AI is duur, en wordt duurder. Volgens onderzoeksbureau SemiAnalysis steeg de huurprijs van een veelgebruikte AI-chip van Nvidia bij een contract van een jaar in twaalf maanden met 60 procent. Bedrijven zoeken daarom manieren om meer werk uit dezelfde chips te halen.
Het bedrijf doubleAI uit Tel Aviv kwam op 19 oktober met een eigen antwoord: Maxwell. Het bedrijf noemt het een 'code execution model', een nieuw soort AI die niet zelf programma's schrijft, maar bestaande programma's sneller laat draaien.
Hoe werkt het?
Software wordt door mensen geschreven in een programmeertaal. De computer vertaalt die tekst naar instructies voor de chip. Die vertaling is algemeen: hij moet op veel soorten computers en met allerlei gegevens werken. Daardoor blijft er vaak snelheid liggen.
Maxwell kijkt mee terwijl een programma draait en zoekt de stukken die het meeste tijd kosten. Voor die stukken schrijft het een snellere versie, precies afgestemd op de chip in die computer en op de gegevens die er op dat moment doorheen gaan. Die versie wordt ingewisseld terwijl het programma gewoon doorloopt. De broncode, de tekst die de programmeur schreef, blijft ongewijzigd. Je kunt het vergelijken met een routeplanner die niet de standaardroute geeft, maar de snelste route voor jouw auto op dit uur van de dag.
Een snellere versie mag natuurlijk niets anders doen dan het origineel. Volgens doubleAI levert Maxwell bij elke wijziging een wiskundig bewijs dat het nieuwe stuk code altijd hetzelfde resultaat geeft. Gelden de omstandigheden waarvoor een versie is gemaakt niet meer, dan schakelt het programma terug naar de oorspronkelijke code. Maxwell werkt zowel op gewone processors als op grafische chips, die vooral voor AI worden gebruikt.
De resultaten
doubleAI zegt dat Maxwell de rekenkosten van één klant, van wie de naam niet bekend is, met 67 procent verlaagde. Volgens het bedrijf werden programma's die grote hoeveelheden gegevens verwerken tot 38 keer sneller, en draaiden onderdelen van AI-modellen ruim vier keer zo snel.
Ook het bedrijf LTX, dat open AI-modellen voor video maakt, probeerde Maxwell uit. Het maken van een videoclip van vijf seconden in 4K-kwaliteit op twee AI-chips duurde daarna ongeveer 134 seconden in plaats van 250. Volgens LTX is het resultaat niet te onderscheiden van de clip die dezelfde software zonder Maxwell maakte.
doubleAI wil geen vast bedrag vragen, maar een deel van wat klanten besparen. Maxwell is nu beschikbaar voor een eerste groep gebruikers, die zich kunnen aanmelden.
De volgende stappen
De cijfers komen nu nog van doubleAI zelf en van een klant. Onafhankelijke tests moeten laten zien hoe groot de winst is bij heel verschillende soorten software. Ook zal blijken hoe breed de wiskundige bewijzen werken als Maxwell bij meer bedrijven draait.
Wat betekent dit voor de weg naar de singulariteit?
AI-onderzoek wordt vooral afgeremd door rekenkracht: er zijn niet genoeg chips en ze kosten veel stroom. Elke procent die sneller kan, betekent meer onderzoek met dezelfde chips en minder energie per antwoord. Bijzonder aan Maxwell is dat een AI hier de software verbetert waarop andere AI draait, en daarbij bewijst dat er niets misgaat. Dat is een stap richting een kringloop waarin AI zijn eigen gereedschap steeds beter maakt. Als dat soort zelfverbetering betrouwbaar en controleerbaar blijft, kan de vooruitgang in AI nog verder versnellen.
