Lokaal AI’s draaien vraagt veel rekenkracht. Daarbij denk je misschien niet direct aan het oplossen van AI taken op een Raspberry Pi. Toch kan het al sinds vorig jaar dankzij de Raspberry Pi AI HAT+. En die krijgt nu een opvolger. Met de Raspberry Raspberry Pi AI HAT+ 2 ga je van 24Tops naar 40Tops aan lokale rekenkracht. Met 8GB aan extra geheugen om de LLM in te draaien.
Het geheim van de Raspberry Pi AI HAT+ 2 is de nieuwe generatie Hailo-10H chip op het bord. Deze zorgt voor heel veel meer rekenkracht. De fabrikant van het bordje gaat $130 voor de module vragen en kan op de Pi 5. Hij is onder anderen getest met het Qwen2 model.
