EnglishLokale AI
Lokale AI is een AI-model dat op je eigen computer of telefoon draait, in plaats van op de servers van een bedrijf. Je gegevens blijven bij jou en het werkt vaak ook zonder internet.
Bij lokale AI draait het AI-model op je eigen apparaat: een laptop, een minicomputer of een telefoon. Je vragen hoeven dan niet naar de servers van een bedrijf. Het is te vergelijken met koken thuis in plaats van een maaltijd laten bezorgen: je hebt zelf de keuken nodig, maar niemand anders kijkt mee.
Hoe werkt het?
Een AI-model is in principe gewoon een groot bestand met getallen. Is het model open, dan kan iedereen het downloaden en op eigen hardware draaien. Het probleem is de grootte. De sterkste modellen nemen honderden gigabytes in en draaien normaal alleen in een datacenter.
Daarom worden modellen vaak verkleind. Een gangbare manier is kwantiseren: de getallen in het model worden afgerond, zodat het bestand veel kleiner wordt. Dat kost wat nauwkeurigheid. Daarnaast worden kleinere modellen gemaakt die van begin af aan voor een laptop of telefoon bedoeld zijn.
Waarom het ertoe doet
Lokale AI geeft controle. Onderzoekers, kleine bedrijven en ziekenhuizen kunnen een model gebruiken zonder hun gegevens naar buiten te sturen. En het werkt ook als er geen internet is. Het bedrijf Gradium bracht bijvoorbeeld Phonon open uit: kleine modellen die tekst met een natuurlijke stem voorlezen, volledig op een telefoon, laptop of in de browser (link).
Steeds grotere modellen komen binnen bereik. Het open model van DeepSeek is ruim 500 gigabyte groot, maar het bedrijf Unsloth maakte er een sterk verkleinde versie van die op een krachtige laptop of minicomputer met 128 gigabyte geheugen draait (link). Het antwoord komt dan wel trager dan van een chatbot in een datacenter. Ook voor programmeerwerk is er iets voor de laptop: het AI-bedrijf Recursive bracht Flint uit, een gratis model dat helpt bij programmeren. Volgens het bedrijf deed zijn eigen onderzoeks-AI een groot deel van het ontwikkelwerk (link).
Artikelen over Lokale AI
-
Klein open AI-model leest tekst voor op je telefoon, zonder internet
Het AI-bedrijf Gradium heeft Phonon open uitgebracht: kleine modellen die tekst met een natuurlijke stem voorlezen, volledig op een telefoon, laptop of in de browser. Op een openbare ranglijst van Hugging Face hoort Phonon bij de best verstaanbare voorleesmodellen.
-
Unsloth maakt groot open AI-model van Alibaba kleiner en volgens eigen tests nauwkeuriger dan anderen
Unsloth heeft nieuwe, kleinere versies uitgebracht van Qwen3.8-Flash-Next, een groot open AI-model van Alibaba. Volgens eigen tests maken ze gemiddeld 15 procent betere scores dan andere ingekrompen versies. Zo kunnen meer mensen het model op hun eigen computer draaien.
-
Ontwikkelaar bouwt een complete processor in de gewichten van een AI-taalmodel
Ontwikkelaar Divyansh Agrawal bouwde een complete processor in de gewichten van het taalmodel Qwen 3.5. Het model rekent daardoor in zijn tests bijna foutloos, zonder hulpmiddel van buitenaf. Het is nog een langzaam experiment, maar alles staat openbaar online.
-
Block maakt spraakmodel dat leerde praten door alleen naar gesprekken te luisteren
Block, het bedrijf van Jack Dorsey, toont Dessa: een AI-model dat zonder tekst leerde praten, alleen uit opnames van gesprekken. Het luistert en praat tegelijk en draait op een krachtige laptop. Een kleine groep veiligheidsonderzoekers mag het nu als eerste testen.
-
Nvidia brengt gratis spraakmodel uit dat opnames in 40 talen uitschrijft, vertaalt en sprekers herkent
Nvidia heeft een open spraakmodel uitgebracht dat in één keer uitschrijft, vertaalt en aangeeft wie er praat. Het gebruikt per stap maar een klein deel van zijn rekenkracht en draait op één grafische kaart, zonder cloud. De prestatiecijfers komen voorlopig van Nvidia zelf.
-
Gratis tools halen rem van Nvidia-videokaarten: tot twee keer zoveel AI-rekenkracht
Gratis open-source tools halen een rem weg die Nvidia in de firmware van GeForce-videokaarten heeft gezet. Voor AI-rekenwerk worden sommige kaarten tot twee keer zo snel. In de praktijk is de winst kleiner, en de tools zijn nog experimenteel.
-
Hugging Face brengt open AI-model uit waarmee onderzoekers kunnen 'praten' met DNA
Met Carbon-X van Hugging Face plakken onderzoekers een stuk DNA in een chat en vragen in gewone taal of een verandering waarschijnlijk schadelijk is. Het model is gratis en draait op een eigen computer. Het is bedoeld voor onderzoek; de volgende stap is toetsing in het lab.
-
Gratis programmeermodel voor de laptop is grotendeels door AI zelf ontwikkeld
Het AI-bedrijf Recursive heeft Flint uitgebracht, een gratis AI-model dat helpt bij programmeren en op een gewone laptop draait. Volgens het bedrijf deed zijn eigen onderzoeks-AI een groot deel van het werk: een eerste stap richting AI die zichzelf verbetert.
-
Groot open AI-model van DeepSeek past nu op een computer met 128 gigabyte geheugen
Het nieuwe open AI-model van DeepSeek is te groot voor een gewone computer. Het bedrijf Unsloth maakte er een sterk verkleinde versie van die op een krachtige laptop of minicomputer met 128 gigabyte geheugen draait. Dat kost wat nauwkeurigheid.
-
Nvidia brengt open AI-modellen uit voor digitale assistenten op servers en laptops
Nvidia heeft drie nieuwe open AI-modellen uitgebracht voor assistenten die zelfstandig taken uitvoeren. Het grootste draait in het datacenter van bedrijven, de kleinere werken gewoon op een laptop. Volgens Nvidia verslaat het grote model na extra training topmodellen op specialistische taken.
-
Meta maakt Muse Spark Open vrij beschikbaar: groot AI-model voor programmeren, ook op eigen computers
Meta heeft Muse Spark Open uitgebracht, een groot AI-model voor programmeren en zelfstandige agenttaken dat iedereen kan downloaden. Volgens Meta is het het sterkste Amerikaanse open model tot nu toe, en het draait zelfs op twee Mac Studio's.
