För några år sedan varumärkesskyddade Nvidia namnet Hopper, efter programmeringspionjären Grace Hopper och det ryktades då om att en ny arkitektur skulle få namnet. På årets GPU Technology Conference (GTC) presenterar Nvidia Grace, företagets första processor för datacenter och servermiljö.
Nvidia Grace är ARM-baserad och tänkt att möta behov och prestandakrav för de mest avancerade och tungdrivna beräkningarna. Fokus är forskning inom artificiell intelligens (AI), exempelvis inom natural language processing (NLP). NLP används för att lära AI och konversationella gränssnitt en kontextuell förståelse för det mänskliga språket.
Den nya processorn utvecklas särskilt för att kombineras med Nvidias grafikkretsar. För tillfället saknas en produkt för de djupinlärningsändamål företaget har och användning av PCI Express för kommunikation mellan processor och grafikkort skapar en flaskhals bandbreddsmässigt. Nvidias grafikkort använder sedan tidigare istället tekniken Nvlink mellan sig för att kringgå det.
Nvlink implementeras av samma skäl i Grace och tillåter hastigheter i upp till 900 GB/s mellan processor och grafikkort. Det innebär att system med Grace ska kunna leverera 10 gånger högre prestanda än Nvidias nuvarande DGX-serie med x86-arkitektur och AMD-processor. Med Nvlink går det även att få ett enhetligt cache-koherent minnesutrymme (eng. cache-coherent memory adress space).
Grace | Xavier | Parker | |
|---|---|---|---|
Arkitektur | ? (ARM Neoverse) | Carmel | Denver 2 |
Teknik | ? | 12 nanometer | 16 nanometer |
Kärnor | ? | 8 | 2 |
Minnesstöd | LPDDR5X (ECC) | LPDDR4X | LPDDR4 |
Kommunikationsgränssnitt CPU-GPU | Nvlink 4 | PCI Express 3.0 | PCI Express 3.0 |
Lanseringsår | 2023 | 2018 | 2016 |
Utöver Nvlink avslöjas att Grace utrustas med LPDDR5X, vilket enligt Nvidia dubblerar minnesbandbredden och är tio gånger mer energieffektivt jämfört med de minnen som används av dagens servrar. Därtill återfinns i sammanhanget viktigt stöd för Error Correcting Code (ECC) för att minska risken för datakorruption.
Det dröjer två år innan de första Grace-processorerna sätts i bruk och Nvidia är relativt sparsamma med detaljer. Ingenting har sagts kring prestanda utöver att ARM:s Neoverse-kärnor används. Bland annat är det fortfarande okänt vilken tillverkningsteknik som är aktuell eller antalet kärnor, men enligt Anandtech påstår Nvidia att "the cores should break 300 points on the SPECrate2017_int_base throughput benchmark".
Intressant i sammanhanget är att Nvidia valt kodnamnet Grace för processorn. Traditionellt har Nvidia alltid använt efternamn på kända uppfinnare och forskare för sina grafikarkitekturer. Då Hopper figurerat i flera tidigare rapporter är det därför möjligt att processorn tillika förnamnet Grace sällskapas av en ny grafikarkitektur med efternamnet Hopper.
Grace är en nischad produkt som är ämnad för några få speciella segment. De första som får tillgång till hårdvaran är forskare på CSCS och Los Alamos National Laboratory under år 2023.
