Datacenter
Een datacenter is een groot gebouw vol servers: krachtige computers die dag en nacht rekenen en gegevens bewaren. AI-modellen worden er getraind en draaien er, als je een chatbot iets vraagt.
Een datacenter is een gebouw vol servers: krachtige computers in rekken die dag en nacht werken. Ze bewaren gegevens, versturen websites en voeren rekenwerk uit. Als je een vraag stelt aan een AI-chatbot, gaat die vraag meestal naar een datacenter, waar een AI-model het antwoord berekent en terugstuurt.
Hoe werkt het?
In een datacenter staan duizenden servers, verbonden met snelle kabels. Voor AI zitten er veel gespecialiseerde chips in, die samen enorme hoeveelheden rekenwerk tegelijk doen. Twee dingen zijn daarbij steeds belangrijk: stroom en koeling. Chips worden warm, en een datacenter heeft een constante, betrouwbare stroomvoorziening nodig.
Het werk in een datacenter valt grofweg in twee delen. Eerst wordt een AI-model getraind, wat weken kan duren en veel rekenkracht kost. Daarna draait het model voor gebruikers, en dat gebeurt continu, elke seconde, voor miljoenen vragen. Het verdelen van dat werk over verschillende chips maakt de antwoorden sneller. Dat liet het bedrijf d-Matrix zien met een mix van twee soorten chips (link).
Waarom het ertoe doet
Naarmate AI meer wordt gebruikt, worden datacenters groter en gaan ze meer stroom vragen. Dat raakt de energiesector. OpenAI belooft bijvoorbeeld dat zijn nieuwe datacenters minder stroom gebruiken als het net onder druk staat. Het eerste, in de Amerikaanse staat Georgia, kan tot 1.000 megawatt inleveren (link). Tegelijk zorgen Google en Meta voor meer aanbod: zij betalen mee aan extra stroom uit bestaande kerncentrales (link).
Ook de vraag naar rekenkracht zelf groeit. Op GitHub werden in september ruim vijf keer zoveel wijzigingen in code opgeslagen als een jaar eerder, vooral door AI-agents. Het platform zette daarom 4 miljoen extra CPU-cores in, de rekenkernen van gewone processors (link). Datacenters zijn dus meer dan opslagruimtes: ze bepalen mede hoe snel AI zich kan ontwikkelen en waar de stroom ervoor vandaan komt.
Artikelen over Datacenter
-
Bedrijf PSI publiceert met hulp van AI vijf quantumbewijzen die een computer kan controleren
Physical Superintelligence heeft met een eigen AI-systeem vijf open vragen uit de quantum-informatietheorie aangepakt. Elk bewijs staat ook in Lean, een programma dat bewijzen stap voor stap controleert. Vakgenoten kunnen ze nu zelf nalopen.
-
Chinees team stuurt 3,2 petabit per seconde door één glasvezel
Chinese onderzoekers stuurden 3,2 petabit per seconde door één glasvezel met 24 kernen, en de apparatuur verwerkte alles meteen. Dat is een record voor zulke realtime metingen en kan straks helpen om datacenters voor AI sneller met elkaar te verbinden.
-
OpenAI traint zijn krachtigste AI-modellen voortaan zonder internettoegang
OpenAI laat zijn sterkste AI-modellen tijdens de training niet meer op het echte internet. Ze oefenen voortaan met een opgeslagen kopie van het web. Op verzoek van OpenAI zochten de modellen zelf naar gaten in die nieuwe afscherming, zodat het bedrijf ze kon dichten.
-
Gaatjes die licht afremmen maken kleine Japanse chip voor glasvezel veel zuiniger
Japanse onderzoekers bouwden een onderdeel dat elektrische signalen omzet in licht, met piepkleine gaatjes die het licht afremmen. Het is 0,3 millimeter lang, werkt op lage spanning en verstuurt tot 200 gigabit per seconde. De volgende stap: minder licht verliezen onderweg.
-
Startup wekt voor het eerst stroom op met een centrale op de zeebodem, bij een onderwatervulkaan
Endurance Energy liet op anderhalve kilometer diepte een kleine aardwarmtecentrale draaien op de hitte van een onderwatervulkaan. Een paar seconden lang leverde hij meer stroom dan hij zelf gebruikte. Deze winter volgt een sterkere versie.
-
Anthropic test Claude Duet, een AI-assistent die zelf met taken naar je toe komt
Met Claude Duet wacht de AI-assistent niet tot je iets vraagt: hij stuurt 's ochtends een overzicht, houdt je apps in de gaten en werkt door als je laptop uit staat. Belangrijke stappen keur je eerst zelf goed. De testversie is er sinds 21 oktober voor betalende gebruikers in de VS.
-
Nvidia laat AI-agents alleen doen wat mag, en controleert de regels vooraf met wiskunde
Nvidia presenteert OpenShell: gratis software die AI-agents in een afgeschermde ruimte laat werken. Een wiskundige controle kijkt vooraf of de regels niet meer toestaan dan bedoeld, en een aparte chip kan een agent volgens Nvidia binnen milliseconden stilzetten.
-
Andere volgorde laat AI-servers ruim drie keer sneller beginnen met antwoorden
Ingenieurs van Amazon en Mistral hebben de open software vLLM, waarmee veel bedrijven AI-modellen draaien, slimmer laten samenwerken. Bij lange vragen verscheen het eerste woord van het antwoord in hun test ruim drie keer sneller. De nieuwe werkwijze is gratis te gebruiken.
-
Groot open AI-model van DeepSeek past nu op een computer met 128 gigabyte geheugen
Het nieuwe open AI-model van DeepSeek is te groot voor een gewone computer. Het bedrijf Unsloth maakte er een sterk verkleinde versie van die op een krachtige laptop of minicomputer met 128 gigabyte geheugen draait. Dat kost wat nauwkeurigheid.
-
AI-model Maxwell maakt bestaande software sneller terwijl die draait
Het Israëlische bedrijf doubleAI presenteert Maxwell, een AI die programma's tijdens het draaien herschrijft zodat ze sneller lopen, zonder de broncode aan te raken. Volgens het bedrijf daalden de rekenkosten van één klant met 67 procent.
-
d-Matrix verdeelt het werk van een AI-model over twee soorten chips voor snellere antwoorden
Het Amerikaanse chipbedrijf d-Matrix liet op een grote datacenterbeurs zien hoe een AI-model sneller antwoordt als gewone grafische chips en eigen chips elk het werk doen waar ze goed in zijn. Het bedrijf levert nu ook complete rekenclusters.
-
Chinees bedrijf Sugon laat rekencluster met 100.000 eigen AI-chips zien
Het Chinese Sugon toont zijn Sugon 8000: een rekencluster dat 100.000 rekenkaarten uit eigen land koppelt. Het systeem combineert AI en klassieke supercomputers en heeft volgens Sugon al tien onderzoeksprojecten gedraaid.
-
Meta laat zeekabel bouwen met twee lichtkanalen per glasvezel: twee keer zoveel data over de oceaan
Meta laat tussen de Verenigde Staten en Frankrijk een zeekabel aanleggen die 1 petabit per seconde kan vervoeren, volgens Meta twee keer zoveel als de beste kabels nu. Het geheim: elke glasvezel heeft twee lichtkanalen in plaats van één. De kabel moet in 2029 werken.
-
Werkend AI-serverrek laat chips via licht praten, met de optiek vlak naast de chip
Drie techbedrijven lieten op een grote datacenterbeurs in de VS een werkend serverrek zien waarin chips via licht met elkaar praten, met de lichtonderdelen direct naast de rekenchip. Dat kan AI-datacenters veel zuiniger maken. De volgende stap is productie op grote schaal.
-
Nieuwe methode haalt giftig arseen uit koper zonder hete oven
Het Australische mijnbedrijf Fortescue haalt arseen uit kopererts met een vloeistof in plaats van een hete oven. Na vier jaar proefdraaien is de eerste lading schoon koperconcentraat verkocht. Dat kan veel koper bruikbaar maken dat nu in de grond blijft.