Meta ska köpa 350 000 Nvidia H100-kort

Imponerande siffror helt klart.

Prism AI på gång då.

"Edward Snowden, a former contractor for the CIA, left the US in late May after leaking to the media details of extensive internet and phone surveillance by American intelligence. Mr Snowden, who has been granted temporary asylum in Russia, faces espionage charges over his actions.

As the scandal widens, BBC News looks at the leaks that brought US spying activities to light.

US spy agency 'collects phone records'
The scandal broke in early June 2013 when the Guardian newspaper reported that the US National Security Agency (NSA) was collecting the telephone records of tens of millions of Americans.

The paper published the secret court order directing telecommunications company Verizon to hand over all its telephone data to the NSA on an "ongoing daily basis".

That report was followed by revelations in both the Washington Post and Guardian that the NSA tapped directly into the servers of nine internet firms, including Facebook, Google, Microsoft and Yahoo, to track online communication in a surveillance programme known as Prism."

Meta och Nvidia.... Usch för de företagen.

NOOOOOOOOOOOOO!

Det lär blir ännu värre brist än när alla grävde krypto ...

Man undrar ju då hur mycket 350 000 kort är egentligen? Enligt https://www.tomshardware.com/pc-components/gpus/report-shows-... ser det ut som det säljs i storleksordningen 100 miljoner GPUer per kvartal, och Nvidia står för ungefär 2/3 av dessa. Å andra sidan är väl H100 betydligt större än GPUer i genomsnitt, så svårt att dra några slutsatser om hur mycket det påverkar egentligen.

Jag kan för övrigt tänka mig att Nvidia sålde korten relativt billigt till Facebook. Som tidigare nämnts i tråden är det ju Facebook som gjort pytorch, och om de inte fått ett bra pris från Nvidia jämfört med AMD kanske de hade valt AMD istället och satt utvecklare på att förbättra stödet i pytorch vilket i sin tur skulle minska priset Nvidia kan ta ut från andra "AI-köpare" i framtiden. Men det är bara min gissning.

Nog för att den gode(?) Mark har råd att uppdatera sin dator, men att lägga omkring 10%¹ av sina sparpengar på GPUer!? Det är ju lika galet som om en Sweclockare skulle få för sig att betala 10-20tkr för ett...äh, det var inget.

¹ 350,000 GPU:er á $40,000 = $14 miljarder, Zuckerbergs tillgångar ≈ $135 miljarder.

Initialt blir det nog brist.

Ni vet väl att Mark har köpt massa aktier i Nvidia precis innan detta

Hur lång är användingstiden på dessa kort ca?

Kanske inte riktigt så, däremot har ju teknik-utvecklingen i alla år pekats ut som räddningen, och lik förbaskat så smutsar vi bara ner mer och mer.

Och det är lite samma sak här, om AI nu bara får obegränsat med resurser under en period, så kommer den tydligen lösa alla våra problem.

Det blir så löjligt när den svarar att lösningen på problemet är: använd mindre resurser.

Fan att man inte ägde aktier i Nvidia. Nu vågar jag inte köpa in mig.

En sådan order hade AMD verkligen behövt. Synd att de inte har något liknande kort att kontra med.

Köpte in på 230. Kaching---A

Innan jag blev sjuk så stoppade jag in minst 20% på börsen varje månad. Som mest var jag nog uppe i 50-60%. De flesta kan och vill inte göra så även om jag hoppas att många har ambitionsnivån att iallafall försöka investera/spara 10% av lönen. Jag hörde till FIRE (fast mer betoning på Financial Independence då Retire Early inte riktigt är mitt fokus) och lever överlag rätt billigt.

Just nu är det svårt att tänka långsiktigt så försöker att inte fokusera på börsen så mycket medans jag förhoppningsvis blir frisk.

Bra inlägg för övrigt! Sedan undrar iallafall jag hur mycket proteinvikning med exempelvis F@H ens 1% av den kapaciteten hade gett.

Nice! Har brukat köpt NVDA när de legat rätt lågt, knep en del under 130 dollar men även lite över det. Men summorna de legat på under senare tid har varit lite för högt. Får se om man ångrar sig, vill ju alltid ha mer innehav trots allt.

Helt klart en av de roligare aktierna jag både äger och ägt. Likaså AMD medans de vandrade uppåt (dvs 2-3 dollar till dryga 100 dollar).

Snyggt, Går säkert upp lite till idag på denna nyheten.

Jag satt och hovrade över köpknappen i pandemin men satsade på fastigheter istället. Det var ingen bra affär. xD Är minus runt 200k som man får se om det någonsin återhämtar sig. Är många år kvar till pension.

Men finns det inte special chips för AI, cerebras?
Eller dom kanske är mindre prisvärda?

Wafer Scale Engine Gen1
Memory Bandwidth: 9 PB/s
Fabric Bandwidth: 100 Pb/s

Wafer Scale Engine Gen2
Memory Bandwidth: 20 PB/s
Fabric Bandwidth: 220 Pb/s