Mistral maakt reusachtig AI-model vrij beschikbaar, sterk in programmeren en beveiliging
Het Franse Mistral zet Mistral Large 4, bijnaam Le Chonk, gratis online: een model met een biljoen parameters dat iedereen zelf kan draaien. Volgens het bedrijf is het het beste open model voor programmeren en voor het beveiligen van software.
Het Franse AI-bedrijf Mistral heeft zijn grootste model vrijgegeven: Mistral Large 4, in het bedrijf bijgenaamd Le Chonk. Iedereen kan de zogeheten gewichten downloaden. Dat zijn de miljarden getallen waarin de kennis van een AI-model zit. Wie genoeg computers heeft, kan het model dus zelf draaien, zonder afhankelijk te zijn van een bedrijf dat de toegang ooit kan afsluiten.
Begin deze maand verscheen al een testversie. Daarna heeft Mistral het model nog weken verder getraind, en die laatste ronde leverde volgens het bedrijf flinke verbeteringen op.
Wat het model kan
Mistral Large 4 telt ongeveer een biljoen parameters, de instelbare getallen van het model. Voor elke taak gebruikt het er maar zo'n 52 miljard tegelijk. Het model werkt namelijk als een team van specialisten: per vraag gaan alleen de onderdelen aan het werk die er verstand van hebben. Dat bespaart rekenkracht.
Het model leest tekst en afbeeldingen en schrijft tekst en programmacode. Het beheerst volgens Mistral meer dan 160 talen. Gebruikers kunnen kiezen hoe lang het model nadenkt: kort voor eenvoudige vragen, lang voor de moeilijkste taken. Zo bepalen ze zelf de balans tussen kosten en kwaliteit. Er is ook een kleinere, afgeslankte versie die op vier krachtige Nvidia-chips voor datacenters past.
Sterk in programmeren
Volgens Mistral is Large 4 nu het beste open model voor programmeren. In een test waarin een AI zelfstandig opdrachten uitvoert op een computer, steeg de score van 28 procent bij de testversie naar 41 procent. Op een programmeerranglijst van het onafhankelijke Artificial Analysis staat het model op 48 procent, ongeveer gelijk met het Chinese GLM-5.3. Het gebruikt daarbij gemiddeld 47 procent minder rekenwerk per taak.
Software beter beveiligen
Mistral richt zich ook op beveiliging. Het model kan volgens het bedrijf lekken in software vinden, nabootsen en repareren, zonder dat het programma daarna stuk gaat. Bedrijven en organisaties kunnen hun eigen software zo eerder laten nakijken, voordat kwaadwillenden een lek vinden.
Omdat zulke kennis ook misbruikt kan worden, heeft het model ingebouwde remmen. Volgens Mistral weigert het gemiddeld 96,6 procent van de verzoeken om kwaad te doen. Het bedrijf zag bij het testen met echt verkeer wel dat het model aanvallers in principe kan helpen, en past die remmen daarom verder aan. Een aparte versie voor het testen van beveiliging is alleen beschikbaar voor gecontroleerde partners, zoals Orange Cyberdefense, en mag alleen worden gebruikt op systemen waarvoor toestemming is.
Beveiligingsbedrijven als CrowdStrike, Cloudflare, Fortinet, Zscaler en Booz Allen Hamilton werken met het model, net als het Europese cyberagentschap ENISA. Ook ASML, ABN AMRO en de Europese ruimtevaartorganisatie ESA staan op de lijst met partners.
Gebouwd in Europa
Het model is volledig in Europa getraind, op 3.800 chips van Nvidia. De laatste trainingsronde liep op Mistrals eigen computers in Frankrijk, die daarbij zo'n 10 megawatt stroom gebruikten. Volgens topman Arthur Mensch haalden andere AI-bedrijven honderden miljarden op om hetzelfde te bereiken, terwijl Mistral in drie jaar ongeveer 6 miljard dollar ophaalde. In september kwam daar nog een investeringsronde van 3 miljard euro bij.
Mistral ziet het model als een stap naar Europese onafhankelijkheid op het gebied van AI: wie het zelf draait, houdt de controle over de technologie waar het bedrijf op leunt. De komende maanden wil Mistral ook kleinere versies uitbrengen, waaronder een die op een laptop werkt.
Wat betekent dit voor de weg naar de singulariteit?
Een model dat dicht bij de beste gesloten modellen komt, is nu voor iedereen te downloaden. Daardoor kunnen veel meer onderzoekers en bedrijven er zelf mee bouwen en het verbeteren. AI die goed programmeert, helpt mee met het maken van nieuwe software, ook voor andere AI-systemen. Volgens Mistral blijft het model bovendien beter worden naarmate het langer wordt getraind, zonder dat er al een plafond in zicht is. Als dat klopt, kan het tempo van open AI uit Europa de komende tijd verder omhoog.