Nvidia avtäcker beräkningskretsen H200 med 141 GB HBM3E-minne

Permalänk
Melding Plague

Nvidia avtäcker beräkningskretsen H200 med 141 GB HBM3E-minne

Bolaget uppgraderar den AI-inriktade beräkningskretsen "Hopper" H100 med såväl ökad minneskapacitet som 43 procent högre minnesbandbredd.

Läs hela artikeln här

Visa signatur

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa kan leda till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Permalänk
Medlem

Innan någon frågar: Nej, den kan inte köra Crysis.

Permalänk

But can it run SkyNet?

För oss vanliga personer så lär vi ej få se dessa kretsar, men vi lär använda tjänster som använder sig utav dessa.

Permalänk

Inte för att vara Allan. AMD körde graffe med HBM och vart tog det vägen medan nu äntrar Nvidia med HBM3 och helt plötslig är Nvidia kretsen superdupperhyperdupper bäst med säkert med en prislapp på norr om 100k
Jag förstår nada hur det här kommer sig an.

Permalänk
Medlem
Skrivet av lillaankan_i_dammen:

But can it run SkyNet?

För oss vanliga personer så lär vi ej få se dessa kretsar, men vi lär använda tjänster som använder sig utav dessa.

60tflops i T3 så - ja

Visa signatur

"Trust Me, I'm an Engineer"

Permalänk
Medlem
Skrivet av Buddaz112:

Inte för att vara Allan. AMD körde graffe med HBM och vart tog det vägen medan nu äntrar Nvidia med HBM3 och helt plötslig är Nvidia kretsen superdupperhyperdupper bäst med säkert med en prislapp på norr om 100k
Jag förstår nada hur det här kommer sig an.

Huh? Nvidia har använt HBM sen åtminstone 2016 för datacenterkretsarna, och nyheten är ju bara att de uppgraderar från HBM3 till HBM3e nu. Även AMD använder fortfarande HBM för datacenter.

Permalänk
Medlem
Skrivet av Buddaz112:

Inte för att vara Allan. AMD körde graffe med HBM och vart tog det vägen medan nu äntrar Nvidia med HBM3 och helt plötslig är Nvidia kretsen superdupperhyperdupper bäst med säkert med en prislapp på norr om 100k
Jag förstår nada hur det här kommer sig an.

Hello Allan! MI300X kommer väl också ha HMB3?

Visa signatur

SPELA: 13900K - Gaming X Trio 4090
LEVA: OnePlus 12 - MacBook Air M2 13"
PLÅTA: Canon C70, R3, 1DX mkII, BMPCC6K
LYSSNA: KRK Rokit RP8 G4, Beyerdynamic DT 1990 PRO
FLYGA: DJI FPV, Avata

Permalänk
Medlem

Ge denna till gamers! Max 9999kr!

/s

Permalänk
Medlem
Skrivet av Buddaz112:

Inte för att vara Allan. AMD körde graffe med HBM och vart tog det vägen medan nu äntrar Nvidia med HBM3 och helt plötslig är Nvidia kretsen superdupperhyperdupper bäst med säkert med en prislapp på norr om 100k
Jag förstår nada hur det här kommer sig an.

Radeon VII var ett om-brandat workstation/server-kort som råkade vara en limited run för konsumentmarknaden. Och till råa beräkngingar var den länge mycket bättre än andra kort på konsumentmarknaden under ganska lång tid. HBM är dock mycket dyrare och gav inte mycket extra i spel, finns inget värde i att sälja det till konsumenter egentligen.

Permalänk
Medlem
Skrivet av Jumpcut:

Hello Allan! MI300X kommer väl också ha HMB3?

Japp med 5.2 tb/s

Instinct MI300X - 192 GB HBM3
Gaudi 3 - 144 GB HBM3
H200 - 141 GB HBM3e
MI300A - 128 GB HBM3
MI250X - 128 GB HBM2e
H100 - 96 GB HBM3
Gaudi 2 - 96 GB HBM2e

Visa signatur

Intel i5 12600k OC 5.2GHz | Arctic Freezer II 240 | MSI Pro Z690 A | 2x 16Gb Corsair LPX 3200MHz | Asus Tuf 4070 Ti | Corsair Rm850x V3 | 2x 1Tb Samsung 980 m2 | 7x Noctua A14x25

Permalänk
Medlem

Ni som har lirat Cyberpunk. Tror ni det är möjligt att skapa något liknande ett engram med dagens teknik och AI?
https://cyberpunk.fandom.com/wiki/Engram

Om man har en AI som läser av din telefon, dina samtal, det du gör på datorn, din röst. Men du har även en typ Apple watch så den läser också av dina rörelser och hur du rör dig. Kanske behövs det lite extra grejer för att läsa av dig.
Sen "skapar" man en digital kopia av dig med hjälp av AI och allt som den läst av dig under kanske en 10 års period?
Eller hela livet ut för att bli mer precis.

Flytta över till en kropp är en helt annan sak. Men en digital kopia av dig själv som sedan kan användas någonstans.

Visa signatur

hellre mer fps på skärmen än pengar på banken

Permalänk
Medlem
Skrivet av ronz:

Ni som har lirat Cyberpunk. Tror ni det är möjligt att skapa något liknande ett engram med dagens teknik och AI?
https://cyberpunk.fandom.com/wiki/Engram

Om man har en AI som läser av din telefon, dina samtal, det du gör på datorn, din röst. Men du har även en typ Apple watch så den läser också av dina rörelser och hur du rör dig. Kanske behövs det lite extra grejer för att läsa av dig.
Sen "skapar" man en digital kopia av dig med hjälp av AI och allt som den läst av dig under kanske en 10 års period?
Eller hela livet ut för att bli mer precis.

Flytta över till en kropp är en helt annan sak. Men en digital kopia av dig själv som sedan kan användas någonstans.

Nej, det går nog inte att göra med dagens teknik och AI. Man behöver minst HBM4.

Permalänk
Medlem

141 miljarder kronor såld AI-hårdvara förra året och 141 GB minne. Tryckfelsnisse, slump, PR-stunt eller läskigt sammanträffande?

Permalänk
Medlem
Skrivet av ronz:

Ni som har lirat Cyberpunk. Tror ni det är möjligt att skapa något liknande ett engram med dagens teknik och AI?
https://cyberpunk.fandom.com/wiki/Engram

Om man har en AI som läser av din telefon, dina samtal, det du gör på datorn, din röst. Men du har även en typ Apple watch så den läser också av dina rörelser och hur du rör dig. Kanske behövs det lite extra grejer för att läsa av dig.
Sen "skapar" man en digital kopia av dig med hjälp av AI och allt som den läst av dig under kanske en 10 års period?
Eller hela livet ut för att bli mer precis.

Flytta över till en kropp är en helt annan sak. Men en digital kopia av dig själv som sedan kan användas någonstans.

Nej, för en hjärna är inte uppbyggd som en dator. Vi har kanske uppåt 100 miljarder neuroner, hjärnceller, men de är kopplade i ett komplext nätverk där varje neuron kan ha många hundra kopplingar till andra neuroner, så biljoner kopplingar. För att göra en simulering av en hjärna skulle det förmodligen krävas hundratals biljoner transistorer som kan kommunicera delvis osynkroniserat. Och sen är hjärnan full av biokemi. Syretillförsel, slaggprodukter, signalsubstanser, hormoner, gifter, m m, påverkar hur detta samspel fungerar. Det kan förstås också delvis simuleras, men kräver än mer processorkraft. Och detta enbart för att simulera "hårdvaran" hjärnan. Nästa problem efter det är att i ett ögonblick, mikrosekund eller så, samtidigt läsa av hela hjärnans konfiguration. Alla signaler som pågår precis då. Och sen omedelbart spara och "starta" på hjärnsimulatorn.

Det första delproblemet är nog möjligt att lösa i framtiden, men utläsningen ser jag som helt omöjlig.

Visa signatur

Moderkort: Gigabyte X570 Aorus Master | CPU: AMD Ryzen R9 5900X | CPU-kylare: Noctua NH-D15 chromax.black | RAM: Corsair Vengeance LPX 64 GB (4x16) DDR4-3600 CL18 | GPU: Gigabyte RTX 4080 Eagle OC | SSD: 2 x Samsung 970 EVO Plus 1 TB NVMe + Kingston A400 480 GB + Samsung QVO860 1 TB | PSU: EVGA SuperNOVA G2 1000 W Gold | Chassi: Lian Li O11 Dynamic XL | Skärm: BenQ PD3200U @ 3840x2160 + ASUS ROG Strix XG32VQ @ 2560x1440 | Tangentbord: Corsair K68 RGB Cherry MX Red | Mus: Logitech MX Master 2S

Permalänk
Medlem
Skrivet av DasIch:

Innan någon frågar: Nej, den kan inte köra Crysis.

H100 får inte ens 30 fps i RDR2 1080p
https://youtu.be/-nb_DZAH-TM?si=WKX_oojt0N5JM7u7&t=859

H200 är DOA

/s

Permalänk
Medlem
Skrivet av cyklonen:

Nej, för en hjärna är inte uppbyggd som en dator. Vi har kanske uppåt 100 miljarder neuroner, hjärnceller, men de är kopplade i ett komplext nätverk där varje neuron kan ha många hundra kopplingar till andra neuroner, så biljoner kopplingar. För att göra en simulering av en hjärna skulle det förmodligen krävas hundratals biljoner transistorer som kan kommunicera delvis osynkroniserat. Och sen är hjärnan full av biokemi. Syretillförsel, slaggprodukter, signalsubstanser, hormoner, gifter, m m, påverkar hur detta samspel fungerar. Det kan förstås också delvis simuleras, men kräver än mer processorkraft. Och detta enbart för att simulera "hårdvaran" hjärnan. Nästa problem efter det är att i ett ögonblick, mikrosekund eller så, samtidigt läsa av hela hjärnans konfiguration. Alla signaler som pågår precis då. Och sen omedelbart spara och "starta" på hjärnsimulatorn.

Det första delproblemet är nog möjligt att lösa i framtiden, men utläsningen ser jag som helt omöjlig.

Men man skulle kunna skapa en beteendemodell baserad på sig själv genom att lyssna och scanna av sig själv under några år?
Stoppa sedan in denna i någon digital avatar eller avancerad robot och det skulle vara tillräckligt imponerande för att bli läskigt?

Visa signatur

hellre mer fps på skärmen än pengar på banken

Permalänk
Medlem
Skrivet av Chibariku:

Tror kortets 24 ROPs är vad som drar ner det. Ett annat kort som går att hitta med 24 ROPs är Geforce 1050.

Visa signatur

Arch | 1440p 165Hz IPS | 7800X3D | 1080ti | 64GB@6GHz | SN850 2TB

Permalänk
Medlem

Men kan den bli flytande och ta sig genom ett fängelsegaller.

Visa signatur

Kids, always eat your vegetables and ALWAYS check run as administrator.

Permalänk
Medlem
Skrivet av sniglom:

Tror kortets 24 ROPs är vad som drar ner det. Ett annat kort som går att hitta med 24 ROPs är Geforce 1050.

Mest troligt, kortet gick inte ens på halvfart och kom bara upp i 90W.

Permalänk
Medlem
Skrivet av Chibariku:

H100 får inte ens 30 fps i RDR2 1080p
https://youtu.be/-nb_DZAH-TM?si=WKX_oojt0N5JM7u7&t=859

H200 är DOA

/s

Fasen, jag visste inte att det gick att köra spel på dessa kort.

Snart kan det alltså köra Crysis.

Permalänk
Medlem

Men... finns det någon AI ännu?

Permalänk
Medlem
Skrivet av underd0g76:

Men... finns det någon AI ännu?

Absolut, fanns redan när jag var barn/ung. en väldigt sofistikerad AI i datorprogrammet "Doktorn" 😁

Permalänk
Musikälskare

Hur kyler man något sådant?

Visa signatur

❀ Monitor: ASUS Swift 27" @ 1440p/165Hz ❀ CPU: Ryzen 7700X ❀ Cooling: Corsair H170i ELITE 420mm ❀ GPU: MSI 3080 Ti SUPRIM X ❀ Memory: Corsair 32GB DDR5 Vengeance ❀ Motherboard: ASUS Crosshair X670E Hero ❀ M.2: Samsung 980 Pro ❀ PSU: Corsair HX1200 ❀ Chassi: Corsair 7000X ❀ Time Spy: 19 340

📷 Mina fotografier
🎧 Vad lyssnar du på just nu?

Permalänk
Skrivet av underd0g76:

Men... finns det någon AI ännu?

Beror på definitionen av Ai.
Jag funderar på den dagen Ai blir så bra så man får sluta upp med SkyNet skämten. Räcker det om 50år?

Permalänk
Medlem
Skrivet av lillaankan_i_dammen:

Beror på definitionen av Ai.
Jag funderar på den dagen Ai blir så bra så man får sluta upp med SkyNet skämten. Räcker det om 50år?

Jag tror inte AI kommer bomba sönder våra städer med kärnvapen. Däremot kanske AI bombar sönder vårt internet med meningslöst dravel.

Permalänk
Skrivet av KoAoL:

Men kan den bli flytande och ta sig genom ett fängelsegaller.

I så fall är det för dålig kylning, använder man kväve blir GPU:n i fast form.

Permalänk
Medlem
Skrivet av trudelutt:

Däremot kanske AI bombar sönder vårt internet med meningslöst dravel.

Där är vi idag. Det är redan utmanande att träna nya AI-modeller på information från internet. Det kommer bli en soptipp och massiv energiförbrukare om AI inte modereras hårdare internationellt.