Anthropic Logo
Foto van Arjan Olsder
Arjan Olsder

Analyse: waarom Anthropic haar eigen chips wilt maken

Anthropic zet een intern team op dat chips gaat ontwerpen voor de Claude-modellen. Het bedrijf zegt tegen Reuters dat het hardware en software samen wil ontwikkelen om de modellen sneller en zuiniger te laten draaien. Chips van andere leveranciers blijft het daarnaast gebruiken.

Op zichzelf is dat geen opzienbarend bericht. Interessanter is waarom vrijwel iedereen in deze markt dezelfde kant op beweegt, en wat dat betekent voor de vraag of AI op abonnementsbasis houdbaar blijft.

Anthropic is zeker niet de eerste

Google ontwerpt sinds 2015 zijn eigen TPU-chips. Amazon heeft Trainium en Inferentia, Microsoft heeft Maia en Meta bouwt aan de MTIA-versnellers. In juni onthulde OpenAI zijn eerste eigen chip, Jalapeño, die door Broadcom wordt gemaakt en volgens de twee bedrijven aanzienlijk betere prestaties per watt levert dan de bestaande alternatieven.

Anthropic sluit dus aan bij een beweging die al jaren loopt. Dat het bedrijf nu pas begint, heeft een logische kant: het huurt rekenkracht in bij Google, Amazon, Nvidia en AMD, en had daarmee minder aanleiding om zelf te ontwerpen dan partijen die hun eigen datacentra vullen.

Waarom een eigen chip loont

Het verschil zit in specialisatie. Een grafische kaart van Nvidia moet van alles kunnen. Een chip die je zelf ontwerpt hoeft maar één ding te doen: jouw model draaien. Dat scheelt transistors die niets nuttigs doen, en daarmee stroom.

Die stroom is geen bijzaak maar de kern van het bedrijfsmodel. Bij een AI-dienst zijn de kosten van het beantwoorden van vragen, in het vakjargon inferentie, de directe operationele kosten. Elke vraag die een gebruiker stelt kost energie. Wie dat met 20 of 30% omlaag krijgt, verschuift de hele winstberekening van zijn dienst.

Daar komt een tweede motief bij: onafhankelijkheid. Wie zijn rekenkracht bij drie partijen inkoopt, is voor prijs en beschikbaarheid van die drie afhankelijk. Een eigen ontwerp is ook een onderhandelingspositie.

Wat merk jij hiervan?

Op korte termijn niets. Dit soort chips komt niet in een laptop of telefoon terecht; het zijn onderdelen voor datacentra, met koeling en stroomvoorziening die je thuis niet hebt.

Maar de gedachte dat gespecialiseerde AI-hardware alleen in datacentra bestaat, klopt niet. In vrijwel elke telefoon en in de meeste nieuwe laptops zit inmiddels een NPU, een aparte eenheid voor AI-rekenwerk. Apple heeft de Neural Engine, Qualcomm de Hexagon, Intel en AMD hebben hun eigen varianten. Het principe achter de chip van Anthropic zit dus al in jouw zak, alleen op een heel andere schaal.

Wat wel klopt, is dat de kloof structureel is en groter wordt. Wie thuis een taalmodel draait, doet dat op hardware die algemener is en per watt minder presteert dan wat een AI-bedrijf voor zichzelf laat maken. Lokale modellen worden beter, maar ze halen die achterstand niet in, en dat is precies waarom de dienstenkant van deze markt voorlopig blijft bestaan.

Houdt dit de abonnementenmarkt overeind?

Dat is de vraag die eronder ligt, en het antwoord is niet vanzelfsprekend ja.

Goedkopere inferentie helpt aan de kostenkant. Maar het gebruik groeit tegelijkertijd hard, en modellen die redeneren voordat ze antwoorden verbruiken per vraag veel meer dan de generatie daarvoor. Een besparing per vraag verdwijnt in het niets als het aantal vragen sneller stijgt.

Er is bovendien een knelpunt dat een eigen chipontwerp niet oplost. Deze versnellers draaien op snel geheugen, en dat komt van dezelfde handvol fabrikanten die nu al niet aan de vraag kunnen voldoen. Samsung verwacht dat het geheugentekort tot zeker in 2028 aanhoudt. Dat Anthropic naar verluidt juist met Samsung praat over de productie van zijn chip, maakt dat punt eerder scherper dan zachter: je kunt zelf een chip tekenen, maar het geheugen eromheen moet nog steeds ergens vandaan komen.

Waar je rekening mee moet houden

Dit is een aankondiging van een team, niet van een chip. Van eerste ingenieur tot werkend silicium in een datacentrum gaan jaren overheen, en dat er met Samsung is gesproken over productie is nog geen bevestigde opdracht.

Verwacht ook niet dat Claude hier morgen goedkoper of sneller van wordt. Wat dit bericht wel laat zien, is waar de concurrentie in deze markt zich naartoe verplaatst: niet naar wie het slimste model heeft, maar naar wie het goedkoopst een antwoord kan produceren.

Geef een reactie

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie gegevens worden verwerkt.