EnglishKlein open AI-model leest tekst voor op je telefoon, zonder internet
Het AI-bedrijf Gradium heeft Phonon open uitgebracht: kleine modellen die tekst met een natuurlijke stem voorlezen, volledig op een telefoon, laptop of in de browser. Op een openbare ranglijst van Hugging Face hoort Phonon bij de best verstaanbare voorleesmodellen.
Computers lezen tekst steeds natuurlijker voor. Maar de beste stemmen draaien meestal op grote servers in een datacenter. Je tekst gaat dan via internet heen en weer: dat kost tijd en geld, en je gegevens verlaten je toestel. Het AI-bedrijf Gradium laat zien dat het ook anders kan.
Gradium is opgericht door de oprichters van het onderzoekslab Kyutai en wordt onder meer gesteund door chipmaker Nvidia. Op 21 oktober bracht het Phonon uit: een familie kleine voorleesmodellen die volledig op het toestel zelf werken, zonder internetverbinding. Iedereen kan de modellen downloaden. Volgens een blog op het AI-platform Hugging Face van 5 november gebeurde dat in de eerste twee weken al meer dan 200.000 keer.
Klein genoeg voor een telefoon
Een AI-model bestaat uit instelbare getallen, de parameters. Hoe minder het er heeft, hoe minder geheugen en rekenkracht het nodig heeft. Het Engelstalige Phonon 31m heeft er 31 miljoen, plus ongeveer 10 miljoen voor het onderdeel dat er hoorbaar geluid van maakt. Het bekende open voorleesmodel Kokoro heeft er 82 miljoen. Het bestand van Phonon 31m is 64,5 megabyte.
Er zijn twee versies. Phonon 31m spreekt Engels en mag iedereen gratis gebruiken, ook in commerciële producten. De iets grotere Phonon 40m spreekt Engels, Frans, Duits, Spaans en Portugees. Die is gratis voor niet-commercieel gebruik; bedrijven betalen een bedrag dat afhangt van hun aantal gebruikers. Nederlands hoort niet bij de talen.
Het model draait op telefoons, laptops, kleine computerbordjes en in de browser, en ook op grafische kaarten van Nvidia. Gradium schreef daarvoor eigen software die met meer dan tien soorten rekenchips overweg kan, van gewone processors tot de speciale AI-chips in telefoons en laptops. Op een krachtige grafische kaart klinkt volgens Gradium het eerste stukje spraak al na 5 milliseconden, op een serverprocessor na 43 milliseconden.
Eerder bracht Mistral met Voxtral 3 ook een model uit dat tekst voorleest, in meer dan 35 talen. Dat werkt via de servers van Mistral of op de eigen computers van een bedrijf. Phonon kiest voor de andere kant: minder talen, maar zo klein dat het op een telefoon past.
Hoe het werkt
Phonon bouwt voort op eerder werk van Kyutai. Het model maakt de spraak in stukjes van 80 milliseconden. Per stukje voorspelt het een compacte beschrijving van het geluid, en een tweede onderdeel zet die beschrijving om in echte audio. Omdat het zo stukje voor stukje werkt, kan het al beginnen met praten voordat de hele tekst klaar is.
Phonon heeft meer dan 100 ingebouwde stemmen. Via Gradium Studio kun je ook een eigen stem maken: met een korte opname van iemand, alleen met toestemming van die persoon, of door in gewone woorden te beschrijven hoe de stem moet klinken. Het spreektempo is in te stellen. Volgens de makers leest het model ook telefoonnummers, datums en codes goed voor.
Hoe goed is het?
Hugging Face houdt een openbare ranglijst bij voor open voorleesmodellen, de Open TTS Leaderboard. Daarop worden modellen vergeleken op verstaanbaarheid, snelheid en natuurlijkheid. Verstaanbaarheid wordt gemeten door de voorgelezen tekst automatisch weer uit te schrijven en de fout verstane woorden te tellen. Daarop staat Phonon in het Duits en het Spaans op de eerste plaats, en in elke geteste taal bij de beste drie, tussen modellen die tot honderd keer zo groot zijn. Bij de snelheidstest op een gewone processor begint Phonon van alle modellen het snelst met praten.
Gradium liet daarnaast zelf luistertests doen, waarin mensen telkens twee stemmen vergeleken zonder te weten welk model erachter zat. Voor het Engels deden 468 luisteraars mee. Volgens Gradium kozen zij vaker voor Phonon dan voor Kokoro en de voorleesmodellen Magpie en Pocket TTS.
Wie het zelf wil horen, kan Phonon in de browser uitproberen.
Wat betekent dit voor de weg naar de singulariteit?
Wie met een AI-assistent praat, wil dat het snel en natuurlijk gaat, en liefst zonder dat elk woord eerst naar een datacenter reist. Phonon laat zien dat een goede stem past in een klein model dat op een telefoon of in de browser werkt. Dat maakt het makkelijker om voorlezen in te bouwen in apps, hulpmiddelen en apparaten, ook waar geen internet is en zonder dat teksten het toestel verlaten. Hoe meer van wat een assistent doet, zoals luisteren en spreken, op het eigen toestel kan, hoe dichter een AI-hulp komt die altijd en overal bij de hand is.
