GPU
Een GPU is een chip die heel veel eenvoudige berekeningen tegelijk doet. Hij is bedacht voor beeld en games, maar is nu ook de belangrijkste chip om AI-modellen te trainen en te gebruiken.
Een gewone processor (CPU) is goed in veel verschillende taken, maar doet ze grotendeels na elkaar. Voor beeld op een scherm moeten miljoenen beeldpunten tegelijk worden uitgerekend. Daarvoor is de GPU (graphics processing unit) bedacht: een chip met duizenden kleine rekenkernen die samen hetzelfde soort berekening op heel veel getallen tegelijk doen. In een pc zit hij meestal op een videokaart, ook wel grafische kaart genoemd.
Het rekenwerk van AI lijkt sterk op dat van beeld: enorme rijen getallen die met elkaar worden vermenigvuldigd. Daarom draaien de meeste AI-modellen op GPU's, van één videokaart in een pc tot tienduizenden in een datacenter. Nvidia is de grootste maker. Ook AMD maakt ze, en bedrijven als Google gebruiken daarnaast eigen AI-chips.
Waarom het ertoe doet
GPU's zijn de motor van de huidige groei van AI: wie er genoeg van heeft, kan grotere modellen trainen. Ze zijn ook nuttig buiten taalmodellen. NVIDIA-software rekent op één krachtige videokaart in gemiddeld enkele milliseconden uit hoe een robotarm kan bewegen zonder iets te raken. In een nagebootste oefenwereld voor robots lopen op één grafische kaart honderden plannen tegelijk. Tegelijk worden sommige modellen zo zuinig dat ze geen krachtige videokaart meer nodig hebben en gewoon op een telefoon of laptop draaien.
Artikelen over GPU
-
SpaceX huurt voor 40 miljard dollar aan AI-chips
SpaceX heeft een bindende afspraak getekend om voor ongeveer 40 miljard dollar aan AI-chips en datacenterapparatuur te leasen, onder meer met de nieuwe Vera Rubin-chips van Nvidia. De eerste apparatuur komt in de eerste helft van 2027.
-
Gratis tools halen rem van Nvidia-videokaarten: tot twee keer zoveel AI-rekenkracht
Gratis open-source tools halen een rem weg die Nvidia in de firmware van GeForce-videokaarten heeft gezet. Voor AI-rekenwerk worden sommige kaarten tot twee keer zo snel. In de praktijk is de winst kleiner, en de tools zijn nog experimenteel.
-
Hugging Face brengt open AI-model uit waarmee onderzoekers kunnen 'praten' met DNA
Met Carbon-X van Hugging Face plakken onderzoekers een stuk DNA in een chat en vragen in gewone taal of een verandering waarschijnlijk schadelijk is. Het model is gratis en draait op een eigen computer. Het is bedoeld voor onderzoek; de volgende stap is toetsing in het lab.
-
Quantumcomputer vangt zijn eigen fouten zo goed op dat er maar 5 op een miljoen overblijven
De quantumcomputer Helios van Quantinuum zette een nieuw record in foutcorrectie: per controleronde ging gemiddeld vijf keer op een miljoen iets mis. Dat is tien keer beter dan het vorige record. De volgende stap is dit ook voor complexere berekeningen laten zien.
-
Claude ontwerpt in 64 uur eiwitten tegen schorpioengif: 17 hechten zich in het lab aan hun doelwit
Een onderzoeksversie van Claude ontwierp in 64 uur ruim 318.000 kleine eiwitten tegen vijf gifstoffen van schorpioenen. Twee labs maakten er 211 na, en 17 hechtten zich stevig aan hun gifstof. Een tegengif is het nog niet, maar wel een eerste stap.
-
Groot open AI-model van DeepSeek past nu op een computer met 128 gigabyte geheugen
Het nieuwe open AI-model van DeepSeek is te groot voor een gewone computer. Het bedrijf Unsloth maakte er een sterk verkleinde versie van die op een krachtige laptop of minicomputer met 128 gigabyte geheugen draait. Dat kost wat nauwkeurigheid.
-
AI-model Maxwell maakt bestaande software sneller terwijl die draait
Het Israëlische bedrijf doubleAI presenteert Maxwell, een AI die programma's tijdens het draaien herschrijft zodat ze sneller lopen, zonder de broncode aan te raken. Volgens het bedrijf daalden de rekenkosten van één klant met 67 procent.
-
d-Matrix verdeelt het werk van een AI-model over twee soorten chips voor snellere antwoorden
Het Amerikaanse chipbedrijf d-Matrix liet op een grote datacenterbeurs zien hoe een AI-model sneller antwoordt als gewone grafische chips en eigen chips elk het werk doen waar ze goed in zijn. Het bedrijf levert nu ook complete rekenclusters.
-
Chinees bedrijf Sugon laat rekencluster met 100.000 eigen AI-chips zien
Het Chinese Sugon toont zijn Sugon 8000: een rekencluster dat 100.000 rekenkaarten uit eigen land koppelt. Het systeem combineert AI en klassieke supercomputers en heeft volgens Sugon al tien onderzoeksprojecten gedraaid.
-
Nvidia brengt open AI-modellen uit voor digitale assistenten op servers en laptops
Nvidia heeft drie nieuwe open AI-modellen uitgebracht voor assistenten die zelfstandig taken uitvoeren. Het grootste draait in het datacenter van bedrijven, de kleinere werken gewoon op een laptop. Volgens Nvidia verslaat het grote model na extra training topmodellen op specialistische taken.
-
Meta maakt Muse Spark Open vrij beschikbaar: groot AI-model voor programmeren, ook op eigen computers
Meta heeft Muse Spark Open uitgebracht, een groot AI-model voor programmeren en zelfstandige agenttaken dat iedereen kan downloaden. Volgens Meta is het het sterkste Amerikaanse open model tot nu toe, en het draait zelfs op twee Mac Studio's.
-
Frontier is de eerste supercomputer die een triljoen berekeningen per seconde haalt
De supercomputer Frontier in Oak Ridge haalt als eerste ter wereld meer dan een triljoen berekeningen per seconde op de standaardtest voor supercomputers. Hij bestaat uit duizenden processors en grafische chips.
-
Google-onderzoekers: een netwerk dat alle woorden tegelijk bekijkt vertaalt beter en leert sneller
Onderzoekers van Google beschrijven de Transformer, een nieuw soort neuraal netwerk dat alle woorden van een zin tegelijk bekijkt en de belangrijkste verbanden zoekt. Het vertaalt beter dan eerdere methoden en is sneller te trainen.
-
Netwerk AlexNet wint beeldherkenningswedstrijd met een groot verschil
Een neuraal netwerk van drie Toronto-onderzoekers wint de ImageNet-wedstrijd met 15,3 procent fouten, ruim tien procentpunten beter dan de nummer twee. Het netwerk is getraind op grafische chips.
-
NVIDIA laat grafische chips ook gewone berekeningen doen
NVIDIA presenteert CUDA: met de programmeertaal C kunnen ontwikkelaars de honderden rekenkernen van een grafische chip inzetten voor allerlei berekeningen, niet alleen voor beeld. Volgens het bedrijf tot 100 keer sneller.