Mer information kring Nvidia Grace CPU

Egentligen kanske man borde skriva att ARM i veckan presenterade sin nästa generation server CPU-designer. ARM har i nuläget 3 serier för servers

Neoverse V är deras högpresterande plattform, den som i praktiken går head-on med Intel Xeon och AMD Epyc. Den mest välkända implementationer av Neoverse V lär i nuläget vara AWS Graviton 3 som använder Neoverse V1 (den slår Intel/AMD på fingrarna i många viktiga användarfall).

Neoverse N ligger prestandamässigt relativt nära Neoverse V1, men fokus här är att maximera prestanda/W och prestanda/$ mer än att maximera absolut prestanda (som är ett uttalat mål för Neoverse V). Både Microsoft och Google använder sedan ett par månader tillbaka en Neoverse N1 baserade lösning från företaget Ampere Computing för deras ARM64 instanser i Azure och Google cloud.

Neoverse E handlar om riktigt låg strömförbrukning och lågt pris, är en konkurrent mot Intels "little core" baserade Xeon serie. Används i praktiken mer i "inbyggda system" lösningar.

Som del i presentationen av Neoverse V2 och Neoverse E2 (Neoverse N2 presenterades tidigare i år) framkom att kommande Nvidia Grace är baserad på Neoverse V2.

Är inte jättemycket som är känt kring nyheterna i Neoverse V2, mer än att man följer trenden med att skala upp cache-storlek rejält. L2$ går från 0,5 MB per kärna i Neoverse V1 till 2 MB per kärna i Neoverse V2, d.v.s. man matchar kommande Raptor Cove på den punkten. Vidare ska det tydligen gå att klämma in 512 MB "system cache", vilket motsvarar L3$ hos Intel/AMD.

The Register nämner att givet prestandarykten kring Nvidia Grace så borde den hamna runt ~50 % högre prestanda jämfört med nuvarande Nvidia’s DGX A100 system som använder AMD Epyc 7742 (en av toppmodellerna i "Rome" serien).

Ska bli kul att se vad Nvidia kan göra kring ARM64 nu när köpet av Arm gick i stöpet. Ska Arm ha någon realistisk chans att hänga med i CPU-utvecklingen på serversidan behöver de verkligen kunder som Nvidia, Amazon, Microsoft och Google

Ampere Computing som Microsoft och Google använder kommer dock överge Neoverse, de kommer presentera sin egna CPU-design (och därmed andra generationen av deras Altera server-serie) under hösten/vintern.