Block maakt spraakmodel dat leerde praten door alleen naar gesprekken te luisteren

Wie met een stemassistent praat, merkt het meteen: je zegt iets, er valt een stilte, en dan komt het antwoord. Onderbreek je de assistent, dan raakt hij vaak de draad kwijt. Block, het Amerikaanse betaalbedrijf van Twitter-oprichter Jack Dorsey, wil dat anders doen. Op 23 oktober liet het een nieuw AI-model zien, genaamd Dessa, dat praten heeft geleerd zoals een kind dat doet: door te luisteren.

Leren zonder één geschreven woord

De meeste AI-assistenten zijn gebouwd rond een taalmodel dat van enorme hoeveelheden tekst heeft geleerd. Spraak wordt dan eerst omgezet in tekst, of het model denkt in tekst en zet zijn antwoord daarna weer om in een stem. Daarbij gaat veel verloren van wat een gesprek menselijk maakt: de toon, een aarzeling, een lach, het moment waarop iemand iets zegt.

Dessa slaat die tussenstap over. Er gaat alleen spraak in en er komt alleen spraak uit. Volgens Block is het model vanaf nul getraind op opnames van gesprekken tussen mensen, zonder tekst en zonder een bestaand taalmodel als basis. Het bedrijf zegt dat Dessa de taal leerde uit honderden keren minder woorden dan een gewoon taalmodel nodig heeft. Een exact getal noemt Block niet.

Luisteren en praten tegelijk

Een tweede verschil zit in hoe het gesprek loopt. De meeste spraakassistenten werken als een portofoon: eerst praat de een, dan de ander. Dessa werkt meer als een gewoon telefoongesprek, waarin beide kanten tegelijk kunnen praten en luisteren. Het model kan daardoor tussendoor "ja" of "hm-hm" zeggen, en het kan reageren als iemand het in de rede valt. Dat heet full duplex.

Block deelde opnames van gesprekken met Dessa. Die klinken opvallend menselijk, met af en toe een ongemakkelijk of vreemd moment, zoals tussen twee mensen die elkaar net kennen. Ragavan Thurairatnam, die het project leidt, noemde de lancering op X een doorbraak voor spraak die hij vergelijkt met de komst van GPT-3 voor tekst. Thurairatnam was medeoprichter van een eerdere Canadese AI-start-up die ook Dessa heette. Zijn team bij Block valt direct onder Dorsey.

Klein genoeg voor een laptop

Omdat het model niet ook nog alle kennis uit tekst hoeft te bevatten, kan het een stuk kleiner blijven. Volgens Block draait Dessa sneller dan in gewoon spreektempo op een MacBook Pro met een M4 Max-chip of beter, dus zonder dat het gesprek via de servers van een techbedrijf loopt. Voor de training gebruikte Block één serverkast van Nvidia met 72 grafische chips. Hoe lang die training duurde en wat die kostte, zegt het bedrijf niet.

Spraak-AI die op je eigen computer draait, is deze week vaker in het nieuws. Nvidia bracht een dag geleden een gratis spraakmodel uit dat opnames in 40 talen uitschrijft en vertaalt, ook zonder cloud. Dat model doet het omgekeerde van Dessa: het luistert naar een opname en maakt er tekst van, maar praat niet terug, en het heeft een zware videokaart nodig. Dessa is juist gemaakt om live een gesprek te voeren, op een laptop.

Eerst de veiligheidsonderzoekers

Dessa is een onderzoeksversie. Er zijn nog geen openbare testresultaten, geen technisch verslag en geen downloadbare versie. De opnames die Block liet horen, zijn door het bedrijf zelf gekozen. Hoe goed Dessa het doet in gewone gesprekken, en of het kan redeneren of andere programma's kan gebruiken, moeten onafhankelijke tests laten zien.

Block geeft het model eerst aan een kleine groep onderzoekers op het gebied van AI-veiligheid. Dat is niet zonder reden: een stem die zo menselijk klinkt, maakt het ook makkelijker om mensen aan de telefoon te misleiden. Wie Dessa zelf wil proberen, kan zich bij Block op een wachtlijst zetten.

Ook het Franse Mistral bracht onlangs spraakmodellen uit die ook Nederlands verstaan en spreken. Die werken nog met de klassieke tussenstap: eerst spraak naar tekst, daarna tekst weer naar spraak. Dessa probeert het hele gesprek in één model te laten gebeuren, zonder die vertaalslag.

Wat betekent dit voor de weg naar de singulariteit?

Praten is voor mensen de natuurlijkste manier om met elkaar en met machines om te gaan. Dessa laat zien dat een AI-model ook kan leren praten uit spraak alleen, met veel minder woorden dan een taalmodel nodig heeft, en dat zo'n model op een laptop past. Dat maakt AI goedkoper en zelfstandiger: een gesprekspartner die niet in de cloud hoeft te draaien en die je gewoon kunt onderbreken. De volgende stap is dat zo'n model niet alleen natuurlijk klinkt, maar ook kan nadenken en dingen voor je kan regelen. Lukt dat, dan wordt een gesprek met een computer net zo gewoon als een telefoontje met een collega.

Wat is de technologische singulariteit? Lees de uitleg →