Diffusiemodel

Een diffusiemodel is een AI-model dat begint met ruis en daar in een aantal stappen een steeds scherper resultaat van maakt. De techniek is vooral bekend van AI-beeldmakers.

Hoe werkt het?

Het model start met een vlak vol willekeurige stippen. Elke ronde haalt een deel van die ruis weg en brengt het resultaat dichter bij iets wat klopt, tot er een duidelijk beeld staat. Je kunt het vergelijken met een fotograaf die een hele foto scherp stelt, in plaats van een schilder die regel voor regel werkt.

Dezelfde aanpak kan ook voor tekst. Het model zet eerst een ruwe versie van het hele antwoord neer en verbetert die op alle plekken tegelijk. De meeste chatbots schrijven juist stukje voor stukje, van links naar rechts.

Waarom het ertoe doet

Omdat een chip veel dingen tegelijk kan doen, kan een diffusiemodel veel sneller zijn. Het Amerikaanse bedrijf Inception bracht een taalmodel dat zo werkt uit, Mercury 3. Het haalt volgens het bedrijf ongeveer 1.068 woorddelen per seconde op chips van Nvidia en is daarmee vier tot acht keer zo snel als de modellen waarmee het zich vergelijkt.

Alle cijfers komen van Inception zelf. Onafhankelijke metingen moeten nog laten zien hoe snel en hoe slim het model in de praktijk is. Het is vooral interessant voor AI-agents, die voor één klus tientallen keren iets moeten schrijven. Gaat elke stap vier keer zo snel, dan wordt een klus van een uur een klus van een kwartier.