Nvidias Ampere-arkitektur gör premiär i datacenterkortet A100

Ska vi slå vad om att LinusTechTips kommer tjata till sig en och tvinga någon av sina medarbetare att få in crysis på den?

@darrenj: om du vill köpa på dig ett DGX A100-system kostar det blott 2,5 miljoner kronor ink moms, som hittat!

så helt ointressant. Förstår att de inte ens orkade köra live. De hade väl fullt upp med att Joakim Von Anka bada i pengar sen tidigare

// LZ

Det är ju inte tilltänkt vanliga dödliga som tittare

Håller med om att det är lite sömnigt att titta på som "vanlig" datorentusiast, men för dem som jobbar i olika fält där det här är av vikt så är det ju desto mer intressant.
Men alla är ju så taggade på ny info om GeForce så det brukar alltid bli lite av den här effekten: "vanliga" användare tycker det är underwhelming. Är själv skyldig, hade hoppas på lite fler nuggets kring nästa generation konsumentkort där i.

Själv kastade jag mig in i denna video som de också la ut i förhoppning om att hitta något guldkorn, men höll bokstavligt talat på att somna: https://developer.nvidia.com/gtc/2020/video/s21770

Underbart med detta för AI! Dock som folk verkar tro är att detta är pengar för dessa företag.. 1miljoner dollarzzz är typ småpengar.. tänk vad dem betalar i Mjukvara...

Härligt att denna typ av marknad växer! Speciellt i AI forskning för virus ETC etc.

Efter lite snabbt googlande så är en 2080 Ti dubbelt så snabb som en ASCI Q var 2003 räknat i flops. Jag hittar förvisso inte vad den kostade, men om det var världens näst snabbaste dator så var den nog inte gratis. Så jag ser fram emot att något dubbelt så snabbt som den här leksaken når övre konsumentsegmentet inom 16 år, om det går lika snabbt som tidigare? Bara att vänta.

Jag gillar Jens fram tills han säger "the more you buy". Därefter vill jag vädra gamle hallick-handen i hans nylle.

@johanandersson: ja utvecklingen går otroligt snabbt inom såväl komponenter som systemens totala kapacitet, och sedan grafikkorten började användas som acceleratorenheter har utvecklingen tagit fart som en raket (i enlighet med Jensens liknelse). Ska bli väldigt intressant att se hur de bäst presterande konsumentsystemen presterar om bara säg fem år, med vanliga konsumentkort och kort för arbetsstationer. Om funktioner som Amperes MIG görs tillgängliga även i konsumentsystem kan man potentiellt sätta upp partitionerade beräkningsresurser i ett virtualiserat system i hemmet eller hos små företag. Möjligheterna är många, kul att spekulera runt

Intressant också att Nvidia överger Intel för AMD med Epyc Rome, deras datacenter- och AI-fokuserade system har ju varit Intel-baserade hittills.

Hyfsat ointressant eftersom alla konsumentprodukter uteblev.

Precis som du skriver: TF32 består av 8 bitars exponent (samma som IEEE 754 FP32) samt 10 bitars mantissa (vilket är samma som IEEE 754 FP16). Poängen här är att i vissa områden (framförallt AI) kommer man summera massor med tal och TF32 gör denna summering med IEEE 754 FP32.

Om man aggregerar massor med tal kommer ändå de låga bitarna i mantissan vara irrelevanta för slutresultat, men fördelen med att göra aggregering med högre precision än indata är att man då undviker vissa fel orsakade av återkommande avrundning.

FMA (fused-multiply add) har förut att det går att implementera effektivt i HW samma fördel.

A = B * C + D

Där är indata och utdata i samma format (FP32 eller FP64), men själva beräkningen av högerledet utförs med högre precision vilket gör fler bitar i svaret signifikanta i vissa lägen.

Så TF32 är inte samma sak som FP32, Nvidia försöker inte hävda det heller för om de gjorde de skulle de säga att FP32 kapaciteten nu är 156 TFLOPS, men den är listad som 19,5 TFLOPS. För vissa fall kan man använda TF32 lika väl som FP32 och det med en rejäl prestandaboost!