Den som är bevandrad i tekniska begrepp är sannolikt bekant med att processor förkortas som CPU, central processor unit, och grafikkort förkortas GPU, graphics processor unit. I modern tid har generella beräkningar på grafikkortet, GPGPU eller general purpose graphics processor unit, också tagit plats i teknikfantasters ordförråd. Under grafikmässan GTC 2020 introducerar Nvidia ytterligare en förkortning att hålla reda på.
Med DPU, eller Data Processing Unit, kombinerar Nvidia ett flertal olika komponenter som används i datacenter på en och samma krets. En DPU-processor använder arkitekturen DOCA, som både anger kretsarnas struktur och utvecklarmodellen för hur de olika komponenterna på dessa ska utnyttjas. Själva DPU-processorerna ingår i produktfamiljen Bluefield, vilka gör entré med Bluefield-2 under år 2021. Syftet med produkterna är att avlasta processorer i datacenter från en serie uppgifter som mer effektivt utförs med en DPU-enhet.
The data center has become the new unit of computing. DPUs are an essential element of modern and secure accelerated data centers in which CPUs, GPUs and DPUs are able to combine into a single computing unit that's fully programmable, AI-enabled and can deliver levels of security and compute power not previously possible.
Sett till uppsättningen komponenter integrerar en Bluefield-2 åtta högpresterande ARM-kärnor av typen Cortex-A72, vilket gör det tydligt varför Nvidia nyligen köpte upp bolaget bakom ARM:s processordesigner och instruktionsuppsättningar. ARM-kärnorna kompletteras av en "acceleratormotor" som tillämpar långa instruktioner (VLIW), en typ av instruktioner som använts i både grafikkort (AMD:s VLIW4/VLIW5) och processorer (Intels EPIC i Itanium-processorerna).
Enligt Nvidia kan en Bluefield-2 ersätta det arbete som skulle kräva 125 processorkärnor i ett typiskt datacenter-upplägg. Själva processordelen ansluter till både DDR4-minne och resten av Bluefield-2-kortet över PCI Express 4.0, och själva kortet kommunicerar med värdsystemet över NVME och en fysisk PCI Express 4.0-anslutning. Enligt företagets uppgifter stöder en Bluefield-2-DPU hela 50 miljoner IOPS över NVME och PCI Express 4.0.
Då korten ska användas i datacenter är de också bestyckade med nätverksanslutningar, även här med teknik från ett uppköpt bolag i form av Mellanox. Nätverkstekniken tar dels form i de fysiska anslutningarna, som består av dubbla 100 Gbps Ethernet-anslutningar med Mellanox Infiniband-teknik. Utöver råprestanda stöds även Mellanox-tekniker för bland annat elastisk blocklagring. Sett till strömmande video kan detta utföras med bandbredd om 100 Gbps.
Utöver Bluefield-2 avtäcker Nvidia också Bluefield-2X, där tillskotten inkluderar tredje generationens Tensorkärnor som används i Ampere-arkitekturen. Förutom att beräkna renodlad AI ska dessa även användas till att accelerera beräkningar relaterade till säkerhet, nätverk och lagring. Exempel på hur AI-beräkningar kan användas för nätverk inkluderar analys av abnormal nätverkstrafik och misstänkta intrång i virtuella gästsystem.
I Nvidias produktplan anges Bluefield-2 alltså nå marknaden år 2021, följt av Bluefield-3 ett år senare. Steget mellan de två blir bastant då beräkningskapaciteten om 70 SPECINT och 0,7 TOPS tar ett massivt hopp till 350 SPECINT och 1,5 TOPS med Bluefield-3. Nästkommande modell Bluefield-4 når marknaden år 2023 och bjuder på smått besinningslösa 1000 SPECINT och 400 TOPS.
