Dator för matematisk och statistisk programmering

Vad är "ganska tung matematisk programmering" ?
Jag menar med 128 GB kan du beräkna 5 Trillion Digits of Pi.

Behöver överväga vad du behöver exakt, vara det kärnor / cache / accelerering / seq/rnd read/writes etc.

https://www.inet.se/datorbygge/b1498323/chersonhttps://cdn.inet.se/img/tiny/forum-divider.pnghttps://www.inet.se/datorbygge/bild/b1498323/cherson

1 extra fläkt till baksidan för utsug

Skulle tro att arbetslastens typ är av största vikt här. Inte säkert att fler kärnor hjälper om det ändå är beroenden i koden. (Dvs du återanvänder utfall och svar från tidigare beräkningar). Kör du massa svep och plottar monte carlo-tester så är såklart många kärnor bra men undra om inte lite GPGPU-beräkningar är bättre då...

Om du skriver vad det är för program och vad för typ av beräkningar så finns det definitivt personer här på sweclockers som kan hjälpa dig till det bästa valet för uppgiften.

Innan du ger dig på några köp så bör du sätta dig in i din applikations systemkrav. Hur mycket prestanda tappar du om du tar bort ett minneskort, hur mycket prestanda tappar du om du stänger av en kärna (och flera). Hur mycket IO (och när) går mot din SSD. Sådana prestandamätningar ger dig en hint om hur dina program jobbar i ditt system. Om dessa tre krav (CPU/Minne/Disk) är jämt belastade under din körning så bör du skaffa ett balanserat system. Men om t.ex. CPU är viktigt under 80% av tiden som sedan följs av hög IO mot SSD så kanske du helt och hållet skall satsa på maximal CPU-prestanda. Det är bara din applikationskännedom i kombination med dina datasets som kan avgöra detta.

Spontant skulle jag säga att Python är problemet här om du vill ha någon prestanda att prata om. Att kollera och plotta datan med python är ju fine. Att köra beräkningarna i python är lite som att springa upp för en backe med båda benen gipsade och dessutom bära ett halvt fotbollslag på axlarna.

Ska du har rejäl prestanda så hade jag tittat på pipelinen och hur du matar in datan och hur dessa körs i systemet.
Har du bekräftat att du använder alla trådar fullt ös i nuvarande maskin?

C++ är någonstans mellan 10-100 gånger snabbare än python för samma last. Däremot kanske det inte är körningarna som dominerar dina arbetsdagar utan kodskrivandet? Då spelar det så klart mindre roll.

Är det här nåt du ska göra regelbundet och uppdatera löpande osv? Är det mer av ett få-gångsjobb kan det ju bli billigare att spinna upp några moln-vm:ar, dela upp variabelkombinationerna lite och köra det distribuerat.
Det kan ju också va enklare att bara skriva om koden så att saker sparas ner efter varje körning och kan återupptas istf att det måste startas om när det kraschar. 20k samples ska ju inte vara nåt problem storleksmässigt så det känns snarare som att det är nåt annat som äter upp minnet efterhand.
Slänga 25 kkr på en privat dator låter som en av de mindre önskade lösningarna här (om du nu inte kan skriva av det mot nåt leksakskonto vill säga).

Spelar rätt stor roll vilket/vilka ramverk/bibliotek du använder.

PyMC verkar kunna vara något som är relevant för det du beskriver. Har aldrig använt PyMC själv.

För t.ex. machine-learning är det ju rätt segt att koda allt själv och prestandan i "ren" Python skulle vara öken. Men med bibliotek som PyTorch och Tensorflow får man istället prestanda som är bättre än vad en förkrossande majoritet av programmerare inte skulle komma nära om de så skrev i C++/assembler eller liknande.

Rätt utnyttjat använder dessa ramverk båda flera kärnor, olika former av acceleratorer som GPU/NPU väldigt effektivt förutsatt att problemet är "tillräckligt" stort. Små/medelstora problem fungerar typiskt bäst på CPU och där är det typiskt också prestanda per kärna som betyder mest.

Vet inte vad som bäst passar för t.ex PyMC, men är sådant du behöver förstå för att veta vad en optimal uppgradering är för dig.

Som du är inne på är ju RAM kritiskt, har man för lite RAM spelar resten i stort sett ingen roll.

Efter det är det nästan allt prestanda per kärna som spelar störst roll för "normalanvändaren", en CPU med fler kärnor men lägre prestanda per kärna kan vara snabbare men i praktiken är det i rätt nischade fall.

Ditt fall är tillräckligt nischat för att tillhöra detta, men givet vad du skriver låter det rätt mycket som det mesta annat: vissa saker skalar med CPU-kärnor, men mycket bryr sig bara om prestanda per kärna. Typiskt är det latens-känsliga saker som man stör sig mest på, som test/olika experiment, och dessa är ju även för saker som ML/programmering etc ofta helt begränsade av enkeltrådprestanda (trots att detta annars är andra nischer där många kärnor kan hjälpa till).