Anthropic bouwt FlashProve: cryptografisch bewijs welk AI-model een antwoord produceerde

Gebruikers van gehoste AI-diensten moeten nu nog vertrouwen dat het model waarvoor ze betaalden ook daadwerkelijk het antwoord leverde. Anthropic wil dat vertrouwen vervangen door wiskundig bewijs. Het bedrijf publiceerde begin november FlashProve, een open-source onderzoeksprototype dat aan elk AI-antwoord een cryptografisch bewijs koppelt waarmee iedereen kan controleren welk model de output produceerde.

Hoe het werkt

FlashProve gebruikt zero-knowledge-cryptografie, specifiek een zkSNARK: een wiskundig bewijs dat een berekening correct is uitgevoerd, zonder gevoelige informatie over het onderliggende model prijs te geven. Blockchains als Zcash gebruiken hetzelfde soort bewijs om transacties af te schermen. Een AI-lab publiceert eerst een cryptografische toezegging — een soort vingerafdruk van het model. Die vingerafdruk onthult niet de gewichten, de interne parameters die gesloten-modelmakers zoals Anthropic en OpenAI geheim houden. Daarmee kunnen ook commerciële modellen deelnemen zonder hun waardevolste bezit prijs te geven.

Bij een verzoek genereert de provider vervolgens een bewijs dat het toegezegde model de bijbehorende output-tokens produceerde. Iedereen met de toezegging, de prompt en het antwoord kan dat bewijs lokaal verifiëren, zonder GPU. Anthropic demonstreerde het systeem op Llama 4 Maverick, een mixture-of-experts-model met 400 miljard parameters: op één NVIDIA H100 GPU werden bewijzen gegenereerd met ongeveer 110 tokens per seconde, en verificatie duurde zo'n 17 seconden op een CPU met 24 kernen.

Waarom het ertoe doet

Volgens de onderzoekers kan het systeem voorkomen dat een AI-bedrijf stiekem een goedkoper model inzet om kosten te besparen, of een duurder model om prestatieresultaten op te blazen. Ook kan het claims van derden controleren: een ontwikkelaar die beweert dat een frontier-model voor cyberveiligheid zijn softwarebibliotheek heeft gescand, of een bedrijf dat zegt dat een model zijn bedrijfsplan heeft goedgekeurd. Daarnaast kunnen onafhankelijke auditors en toezichthouders ermee nagaan of providers de modellen serveren die ze beloven.

Nog flink beperkt

FlashProve is uitdrukkelijk een onderzoeksprototype, geen productieklare oplossing. Uit Anthropic's eigen metingen blijkt dat het genereren van bewijzen 70 tot 95 keer zoveel GPU-tijd kost als gewone inferentie met vLLM, een veelgebruikte open-source-inferentie-engine. Het systeem ondersteunt bovendien slechts contexten van 1.024 tokens en bewijst een integer-versie van het model onder greedy decoding; zwevendekomma-berekeningen en willekeurig gesamplede outputs zijn nog niet gedekt. Ook verbergt het de modelgewichten, maar niet de architectuur.

De code, een technische specificatie en formele verificatiebewijzen staan onder de Apache 2.0-licentie op GitHub. Anthropic benadrukt dat het om tussentijdse onderzoeksresultaten gaat en dat er geen plannen zijn het systeem in te zetten bij Anthropic of een ander lab. Het bedrijf nodigt andere onderzoekers uit het werk over te nemen en te verbeteren.

Wat betekent dit voor de weg naar de singulariteit?

FlashProve zet een eerste stap richting onafhankelijk verifieerbare modelidentiteit en antwoordintegriteit — een vertrouwenslaag die hard nodig wordt zodra AI-systemen kritieke infrastructuur vormen. Naarmate evaluaties, regelgeving en veilige inzet steeds vaker afhangen van de vraag welk model precies wat heeft gedaan, maakt cryptografische verificatie het mogelijk dat te aantonen in plaats van op vertrouwen aan te nemen. De hoge rekenkosten en de beperkte contextlengte laten wel zien dat die laag nog gebouwd moet worden voordat ze standaard kan worden.

Wat is de technologische singulariteit? Lees de uitleg →