Datacenter
Een datacenter is een groot gebouw vol servers: krachtige computers die dag en nacht rekenen en gegevens bewaren. AI-modellen worden er getraind en draaien er, als je een chatbot iets vraagt.
Een datacenter is een gebouw vol servers: krachtige computers in rekken die dag en nacht werken. Ze bewaren gegevens, versturen websites en voeren rekenwerk uit. Als je een vraag stelt aan een AI-chatbot, gaat die vraag meestal naar een datacenter, waar een AI-model het antwoord berekent en terugstuurt.
Hoe werkt het?
In een datacenter staan duizenden servers, verbonden met snelle kabels. Voor AI zitten er veel gespecialiseerde chips in, die samen enorme hoeveelheden rekenwerk tegelijk doen. Twee dingen zijn daarbij steeds belangrijk: stroom en koeling. Chips worden warm, en een datacenter heeft een constante, betrouwbare stroomvoorziening nodig.
Het werk in een datacenter valt grofweg in twee delen. Eerst wordt een AI-model getraind, wat weken kan duren en veel rekenkracht kost. Daarna draait het model voor gebruikers, en dat gebeurt continu, elke seconde, voor miljoenen vragen. Het verdelen van dat werk over verschillende chips maakt de antwoorden sneller. Dat liet het bedrijf d-Matrix zien met een mix van twee soorten chips (link).
Waarom het ertoe doet
Naarmate AI meer wordt gebruikt, worden datacenters groter en gaan ze meer stroom vragen. Dat raakt de energiesector. OpenAI belooft bijvoorbeeld dat zijn nieuwe datacenters minder stroom gebruiken als het net onder druk staat. Het eerste, in de Amerikaanse staat Georgia, kan tot 1.000 megawatt inleveren (link). Tegelijk zorgen Google en Meta voor meer aanbod: zij betalen mee aan extra stroom uit bestaande kerncentrales (link).
Ook de vraag naar rekenkracht zelf groeit. Op GitHub werden in september ruim vijf keer zoveel wijzigingen in code opgeslagen als een jaar eerder, vooral door AI-agents. Het platform zette daarom 4 miljoen extra CPU-cores in, de rekenkernen van gewone processors (link). Datacenters zijn dus meer dan opslagruimtes: ze bepalen mede hoe snel AI zich kan ontwikkelen en waar de stroom ervoor vandaan komt.
Artikelen over Datacenter
-
Nvidia brengt open AI-modellen uit voor digitale assistenten op servers en laptops
Nvidia heeft drie nieuwe open AI-modellen uitgebracht voor assistenten die zelfstandig taken uitvoeren. Het grootste draait in het datacenter van bedrijven, de kleinere werken gewoon op een laptop. Volgens Nvidia verslaat het grote model na extra training topmodellen op specialistische taken.
-
X-energy bouwt kleine kernreactor met heliumkoeling voor fabrieken en datacenters
Het Amerikaanse X-energy ontwikkelt een kleine kernreactor die met heliumgas wordt gekoeld en hete stoom levert voor fabrieken en stroom voor datacenters. Chemiebedrijf Dow en Amazon willen ermee bouwen. De eerste reactoren moeten in de jaren dertig draaien.
-
Meta maakt Muse Spark Open vrij beschikbaar: groot AI-model voor programmeren, ook op eigen computers
Meta heeft Muse Spark Open uitgebracht, een groot AI-model voor programmeren en zelfstandige agenttaken dat iedereen kan downloaden. Volgens Meta is het het sterkste Amerikaanse open model tot nu toe, en het draait zelfs op twee Mac Studio's.
-
Google en Meta betalen mee aan extra stroom uit bestaande kerncentrales
Amerikaanse kerncentrales gaan meer stroom leveren zonder nieuwe reactoren. Google koopt twintig jaar lang 890 megawatt extra van Constellation, Meta 433 megawatt van Vistra. Zo komt er snel schone stroom bij voor AI-datacenters, als eerste stap naast nieuwe centrales.