Op chipgebied is Nvidia momenteel booming. Het bedrijf verkoopt mega orders met grafische processors voor het trainen en draaien van AI’s als ChatGPT en Google Bard. Om zich te onderscheiden concentreert Amazon zich momenteel op de ontwikkeling van eigen AI chips.
De strategie van Amazon is interessant. Het lijkt erop dat het voor beide disciplines andere serverchips aan het ontwikkelen is. Voor het trainen is de Trainium chip in ontwikkeling terwijl het chip team van Amazon ook aan de Inferentia chip werkt. Deze strategie zou erg interessant kunnen zijn omdat Amazon in staat is om voldoende werk te genereren voor chips en daarmee servers die zich slechts één type taak concentreren. Daardoor kan Amazon het zich ook veroorloven om niet ‘meer’ functies in haar chips te hebben dan nodig voor deze taken, waar Nvidia chips veel algemener zijn van opzet.
Amazon host zowel OpenAI’s ChatGPT modellen als de Llama’s van Facebook en haar eigen Titan LLM.
Amazon ontwikkeld al langer eigen server hardware. Sinds 2013 produceert het zelf ook specifieke chips voor haar servers. Het populairst is haar Nitro chip die inmiddels in alle 20 miljoen AWS servers wereldwijd aanwezig is. In 2015 kost Amazon een chipmaker Annapurna Labs in Israël en in 2018 introduceerde het haar eigen Graviton processor als alternatief op de processors van Intel en ARM.
