AdvertentieAdvertentie

IFA: GMKtec (AliExpress) zet 192 GB in mini-pc voor AI

GMKtec EVO-X5 Pro

GMKtec toonde op de IFA de EVO-X5 Pro, een mini-pc met een AMD Ryzen AI Max+ Pro 495 en de daarin geïntegreerde Radeon 8065S. Het apparaat heeft 192 GB werkgeheugen, waarvan je tot 160 GB rechtstreeks aan de videochip kunt toewijzen. Er zitten vier USB4-poorten op en twee netwerkaansluitingen waarvan één op tien gigabit. Via USB4 kun je een externe videokaart aansluiten of tot vier van deze machines aan elkaar knopen. In een demonstratie draaide er een Qwen-model op ruim tien tokens per seconde. Een prijs en een verkoopdatum zijn er niet.

Die 160 gigabyte is het hele verkoopargument

Bij een machine als deze draait alles om hoeveel geheugen de videochip mag gebruiken, want dat bepaalt welk taalmodel er überhaupt in past. Zet dat getal naast de concurrentie en je ziet waar GMKtec zich positioneert.

De DGX Spark van Nvidia en de Ascent GX10 van Asus komen allebei op 128 GB gedeeld geheugen in totaal. Apple gaat met de M5 Ultra in de Mac Studio naar 512 GB, maar dan zit je in een heel andere prijsklasse. Met 160 GB toewijsbaar zit deze mini-pc daar netjes tussenin, en dat is precies de ruimte die GMKtec zoekt.

Maar het getal dat je nodig hebt, ontbreekt

Hier loopt het verhaal vast, en het is hetzelfde probleem dat we bij vrijwel elke aankondiging in deze categorie tegenkomen. GMKtec noemt de capaciteit wel maar de geheugenbandbreedte niet.

Juist die bandbreedte bepaalt hoeveel woorden per seconde er uit een taalmodel komen. Capaciteit zegt of een model past, bandbreedte zegt hoe snel het antwoordt. Ter vergelijking: de GB10 in de DGX Spark komt op ongeveer 273 GB/s en een Apple M4 Max op zo’n 546 GB/s. Zonder dat cijfer is de demonstratie op de beursvloer niet te plaatsen, en het is de eerste vraag die we bij een test stellen.

Vier machines koppelen doet iets anders dan je denkt

De mogelijkheid om via USB4 vier van deze apparaten aan elkaar te knopen, klinkt als vier keer zoveel prestaties. Dat is het niet, en het is nuttig om te weten waarom.

USB4 haalt veertig gigabit per seconde, en dat is omgerekend vijf gigabyte per seconde. Dat is een fractie van de snelheid waarmee de chip zijn eigen geheugen aanspreekt. Wat clusteren wél oplevert, is ruimte: een model dat niet in 160 GB past, kun je over meerdere machines verdelen. Je koopt er dus grotere modellen mee en geen snellere.

Waar die Pro in de chipnaam voor staat

De processor heet voluit Ryzen AI Max+ Pro 495, en die toevoeging is geen marketing. AMD gebruikt Pro voor de zakelijke uitvoeringen van zijn chips, met extra functies voor beheer op afstand en beveiliging op bedrijfsniveau.

Voor een thuisgebruiker levert dat weinig op. Het zegt wel iets over de doelgroep die GMKtec voor ogen heeft: bedrijven en ontwikkelaars die AI-modellen binnen de eigen muren willen draaien in plaats van in de cloud. Dat verklaart ook waarom er twee netwerkpoorten op zitten en waarom er aan clusteren is gedacht.

Zonder prijs valt er weinig te oordelen

Dat GMKtec geen bedrag noemt, is bij deze specificaties het opvallendst. Honderdtweeënnegentig gigabyte werkgeheugen is nu een dure grap, want de geheugenprijzen zijn door de vraag uit datacentra fors opgelopen.

Wij schreven eerder dat die prijzen voorlopig niet dalen. Reken er dus op dat het geheugen alleen al een flink deel van de verkoopprijs uitmaakt, en vergelijk pas als GMKtec met een bedrag komt.

Wat er in dit hoekje verder speelt

Deze machine staat niet op zichzelf. Op dezelfde beurs kondigde het Duitse VZMore twee mini-pc’s aan waarvan er één ook Strix Halo gebruikt, en Nvidia liet weten dat de eerste laptops en desktops met zijn RTX Spark in oktober verschijnen.

Al die apparaten hebben hetzelfde uitgangspunt: één grote geheugenpool die de processor en de videochip delen, zodat je een groot taalmodel lokaal kunt draaien zonder losse videokaart. Wie in deze categorie iets overweegt, doet er goed aan te wachten tot er onafhankelijke metingen liggen, want de verschillen tussen deze machines zitten precies in de cijfers die de fabrikanten nu niet geven.

Wat je vraagt voordat je bestelt

Drie dingen bepalen straks of zo’n machine voor jou werkt. Wat is de geheugenbandbreedte in gigabyte per seconde? Hoeveel tokens per seconde haalt hij bij een model dat jij wilt draaien, gemeten en niet gedemonstreerd? En hoeveel verbruikt hij onder volle belasting, want deze machines staan doorgaans dag en nacht aan.

Op geen van die drie vragen geeft de aankondiging antwoord. Zodra dat wel gebeurt, is dit een interessant apparaat voor wie AI-werk uit de cloud wil halen.

WhatsAppXLinkedInInstapaperE-mail
AdvertentieAdvertentie

Geef een reactie

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie gegevens worden verwerkt.

AdvertentieAdvertentie
Volg GadgetGear

Nieuwe artikelen automatisch in je browser of feedlezer:

  • Mastodon / Fediverse: zoek @gadgetgear.nl@gadgetgear.nl in je app en volg — elk artikel verschijnt in je tijdlijn.
  • Opera: zijbalk → Persoonlijk nieuws → Mijn bronnen → Voeg bronnen toe → plak de link.
  • Vivaldi: Instellingen → Feeds → feed toevoegen → plak de link.
  • Direct volgen in Feedly of Inoreader, of gebruik de link in elke andere feedlezer.

Het laatste nieuws