Inlägg

Qualcomm hade event i NY för press och influensers, där visade man några begränsade energieffektivitetssiffror

https://cdn.sweclockers.com/forum/bild/25166?l=eyJyZXNvdXJjZSI6I...

Ser ut som M3 kommer vara perf/W kungen. Positiva ändå är att Snapdragon X Elite (vid 23 W TDP) är mer jämförbar med M3 Pro i MT prestanda och den verkar även matcha M3 Pro i perf/W.

Problemet för Qualcomm är att M3 serien har bättre ST-prestanda (och ST är och lär förbli långt viktigare än MT på desktop). Vidare ligger GPU hos Snapdragon X Elite på M3 nivå, M3 Pro är ju ungefär dubbelt så snabb GPU-mässigt.

"Killer Feature" hos Snapdragon X Elite verkar i det korta loppet vara AI. Dess NPU är långt snabbare än Apples, AMDs och Intels. NY-eventet visade också att Qualcomm verkar jobbat hårt med att också utnyttja denna NPU i program som Davinci Resolve, man visade något ljudstudio program (har noll koll på den branchen, så säger mig inget) och även lokala LLMs (sista är helt klart vettigt, LLMs är användbara i programutveckling men många företag lär inte vilja köra molntjänster för detta utan hålla informationen lokalt, det för att inte läcka IP).

GPU i M3 Pro/Max och dGPUer har bättre AI-prestanda, men dessa NPUer är långt mer energieffektiva och passar därför bärbara bättre.

"50 procent snabbare än virtuella maskiner på x86-processorer med 60 procent lägre strömförbrukning"

Vad hjälper det? Ska man gå på vissa inlägg här står och faller större delen av industrisverige med programvara skivet för 16/32-bit x86 som av någon anledning inte kan emuleras på en modern miniräknare

Seriöst: funderar lite på vad som händer med Ampere Computing (som är grundat av flera som tidigare jobbat på Intel). Amazon designade sin egen ARM64 baserad Graviton-serie från start, medan Google, Microsoft och Oracle alla valde Ampere Altra för deras första generation ARM64 instanser (och de tester som gjordes visade på att de stod sig väldigt väl mot Graviton).

Nu ser det ut som både Microsoft och Google väljer samma väg som Amazon, så uppförsbacke för Ampere. Ampere Computing är egentligen de enda som gjort de vissa här på SweC frågat efter i andra trådar: en desktop lösning med vanliga PCIe-platser. Den man gjorde var dock riktad som lokal dator för de som utvecklar molntjänster mer än något som var vettig som hemdator.

Finns inget som hindrar att man fortsätter med AMDs GPUer. Både Microsoft och Nintendo har ju använt AMD/ATI GPU ihop med PowerPC, Samsung använder RDNA i de två senaste generationerna av Exynos ihop med just ARM64.

Men tror tyvärr det blir en generation till konsoler med x86_64, rimligen har de redan kommit en bit på vägen och lär inte vara gratis att göra större förändringar i HW när man passerat planeringsstadiet. Annars är konsoler ett bra exempel på där man får fin utväxling på en CPU med betydligt högre perf/W, mer effekt kan skickas till GPU med för samma CPU-prestanda.

Finns i.o.f.s. rykten att Microsoft utvärderat ARM64 för nästa generation, men ska man tro ryktena där är kanske första frågan om det överhuvudtaget blir någon mer Xbox.

För att vara specifik: Arm har två separata instruktionsuppsättning idag.

Dels den "gamla" 32-bit ISA, var den Microsoft försökte med i deras Windows RT satsning. Finns en del trevliga egenskaper med denna ISA, en är att den kan ge otroligt kompakt kod och är rätt enkelt, vilket gör den populär för t.ex. mikrokontrollers.

Ett stort problem ed 32-bit Arm är att det som gör den väldigt kompakt också visade sig vara ett stort problem om man ville bygga moderna högpresterande "breda" mikroarkitekturer. Betydligt värre än x86!!!

2010 lanserade Arm en ny ISA: ARM64 (Aarch64). Den har visat sig vara en nära nog perfekt match till dagens krav från kompilatorer, etc. Vilket är en viktig orsak till varför Arm, Apple och nu Qualcomm kan bygga ARM64 CPUer som presterar långt bättre än x86_64 vid samma frekvens.

Det är två helt separata instruktionsuppsättnignar, inte en utökning till 64-bit som de flesta ändra, inkusive x86_64, är.

Apple Silicon, Qualcomm Snapdragon X Elite och även Arms aktuella Cortex A och Cortex X serier är alla ARM64-only.

Hej, eftersom du tydligen så gärna vill ha min åsikt här

Objektivt sett finns inte de flesta program till x86. Det har under många år sålts ungefär 100 Arm CPUer per x86 CPU, de flesta program finns på andra plattformar än Windows. Ca 300 miljoner x86 CPUer per år, strax under 30 miljarder Arm CPUer per år.

Däremot körs absolut de flesta Windows-program på x86, och det kommer troligen att fortsätta vara så under lång tid.

Det är inte alls säkert att ARM64 kommer att bli en succé på Windows, både Qualcomm kan förstöra det (genom för höga priser, dåliga drivrutiner, inte tillräckligt bra roadmap framåt, etc) och Microsoft (“marknaden” måste verkligen känna att Microsoft går all-in).

Det som talar för att i alla fall Microsoft kommer att göra sin del är att de själva satsar hårt på ARM64, de har flera egna server-designer som är ARM64-baserade. Efter mer snack än verkstad har de nu också fixat riktigt bra ARM64-stöd i .NET, Visual Studio, MS Office etc.

Många på SweC använder sin dator primärt för spel. Snapdragon X Elite verkar vara marginellt bättre än Intels/AMDs iGPUer för detta, d.v.s. knappast någon spelplattform. Vi får se om det finns någon sanning bakom att Nvidia ska släppa sin egen ARM64 CPU 2025, men de ska ju också ge sig på desktop (deras nuvarande ARM64-plattformar är ju bara för server, Grace, och inbyggda system, Tegra och använder Arms CPU med Nvidias GPU).

För 20 år sedan var det betydligt svårare att flytta program mellan CPU-arkitekturer, av en rad olika tekniska orsaker. Nästan ingen av dessa tekniska orsaker finns längre kvar idag, det är helt trivialt att stödja flera CPU-arkitekturer med allt som är skrivet i “moderna” språk/ramverk. Spelmotorer som UE5/Unity stödjer redan ARM64, så inget problem där heller.

Jag håller med. Är inte primärt en MacOS-användare, har totalt sett använt Linux på skrivbordet betydligt längre än MacOS. Jag vill bara ha ett bra *NIX-system.

Qualcomm har inte sagt mycket om Linux, men de har nämnt att det ska finnas bra stöd för Snapdragon X Elite på Linux. Min gissning är att det, åtminstone initialt, i praktiken kommer att handla om bra stöd för WSL2 i Windows. Om Apple går helt crazy på något sätt med MacOS/M-serien, är WSL2 OK för mig, så jag kan absolut tänka mig en Windows-laptop framöver.

Att något annat än MacOS har känts otänkbart sedan hösten 2020 beror specifikt på att Apples M-serie är så löjligt mycket bättre än vad Intel/AMD har att erbjuda. Så just nu skulle jag i praktiken vilja få betalt för att använda en x86-baserad laptop…

Därför är jag väldigt entusiastisk över Snapdragon X Elite, detta trots att Qualcomm flera gånger har visat att de inte är det enklaste företaget att ha att göra med. Men om denna lansering går bra kommer det inom ett par år att finnas ett gäng ARM64 CPU-tillverkare att välja mellan. Ryktet säger att ARM Cortex X5 också ska prestera som high-end på skrivbordet (den bör lanseras i april/maj, vilket är när Arm brukar ha sin årliga uppdatering). Redan Cortex X4 har bättre ISO-frekvensprestanda än något från Intel/AMD, men den kan inte klockas högre än 3,2-3,3 GHz någonstans.

Som @ROGBear skrev det

"Macar är så minneseffektiva, 8 GB RAM motsvarar 16-32 GB RAM hos en PC!"

så är det det en myt, om nu någon någonsin sagt detta (jag har då aldrig hört någon påstå att det mer än fördubblar effektiv RAM-användning).

Det som ändå stämmer är att MacOS faktiskt har en fungerande komprimering av RAM. Win10 har också komprimering av RAM, men inte ens Microsoft verkar påstå att det fungerar väl, ska vara förbättrat i Win11.

Vad minneskomprimeringen realistiskt kan åstadkomma beror kraftigt på typ av last. För bildhandling, om det är det enda som äter all RAM så hjälper det inte alls då RAM i praktiken består av data som används aktivt hela tiden och lär vara rätt hopplöst att komprimera.

I ett mer typiskt användarscenario med ett par öppna program så kommer man inte heller göra så att 8 GB motsvarar 16 GB, och definitivt inte 32 GB. Mer realistiskt är att man får kanske 20-50 % högre effektiv användning.

Det senare kan jag själv skriva under på. Har två bärbara med 32 GB RAM, en med Windows 10 och en med MacOS. När båda kör samma last, programutveckling med IntelliJ, docker-desktop, databaser, etc så får Win10 datorn ibland grava problem med RAM (i bästa fall bara långsam, i värsta fall kraschar saker) och trots det används minneskomprimering knappt alls i Win10. MacOS datorn får en viss prestandaförsämring när dem måste börja förlita sig på RAM-komprimering, men det är en relativt liten skillnad (och MacOS använder RAM-komprimering rätt aggressivt i det läget).

Så handlar inte om att MacOS-program skulle vara mer minneseffektiva, är ju rätt mycket samma kod som körs oavsett här + att so m körs i Docker är ju Linux-program i båda fallen. Handlar om att MacOS har en fungerande implementation av minneskomprimering, något Windows 10 i praktiken saknar (men ska som sagt vara bättre i Win11, har inte testat det).

Det som avgör om det ens finns 256-bit register eller ej är om Oryon implementerar ARMv8 eller ARMv9. SVE, eller mer specifikt SVE2 då SVE är en valfri utökning till ARMv8 som väldigt få implementerat utanför HPC, blir det fullt möjligt då SVE är otroligt flexibelt och tillåter allt från 128-bit register till 2048-bit register i steg om 128-bitar (är sedan valfritt för mikroarkitektur att välja fysisk bredd, Cortex X4 kör med 128-bit vilket nog är vettig för konsumentprodukter).

Länge undvek spel AVX då många CPU-modeller, framförallt Intels, tenderade att klocka lägre när AVX-enheter användes och så mycket nytta har inte spel av 256-bitar. Tvivlar att spel som använder AVX egentligen använder 256-bit AVX, utan de kör de bättre instruktionerna i AVX fast i 128-bitars bredd.

Intel tar ju detta ännu ett steg med AVX10 som kommer i höst. Där har man även alla instruktioner från AVX-512, men konsumentmodellerna kommer bara ha 256-bit register. Vilket inte är exakt samma som Zen4, den har 512-bit register men får hantera dessa genom att köra två varv då mikroarkitekturen är 256-bitar. AVX är en hyfsad soppa, enda positiva är att Intel har lyckats väldigt bra att gömma mycket av komplexiteten i deras OneAPI och ISPC-kompilator (Unreal Engine använder just ISPC för att SIMD optimera saker som fysik).

Är just ett bra frikopplande mellan fysisk bredd och logisk bredd som SVE fått till mycket bättre än AVX/AVX-512. I den senare måste man vid kompileringstillfället sätta bredd, SVE genererar kod där samma instruktioner kan dynamiskt anpassa sig efter underliggande CPUs fysiska bredd.

Just fysik passar bra på 128-bit. Man kör 32-bit flyttal, 3 dimensioner och typiskt med homogena koordinater -> 4 st 32-bit beskriver varje punkt -> en punkt per 128 bitars register.

Vad både Arm och Apple valt att göra är att ha 4 st kompletta flyttals pipelines som. Intel/AMD har istället valt 2 st 256-bitars FMA (bara Intel Xeon som har 2 st 512-bitars FMAs) samt ett par pipelines som gör rätt specifika saker. Finns fördelar med båda, men tittar man på SPECfp verkar flera 128-bitars fungera bättre då Apples CPU står sig väldigt bra där.

Det som talar för att Qualcomm "nöjer" sig med ARMv8 är kanske att då Apple är kvar där finns inte en jättestort push att SVE2 optimera bibliotek. Det som talar för ARMv9 är att Arms Cortex X serie haft det i två generationer nu och det verkar komma laptop-baserade kretsar från andra tillverkare baserad på dessa.

De säger faktiskt bara "våra systemkretsar är snabbare än alla andras [systemkretsar]". Intel/AMD använder bara systemkretsar i kompakta laptops, stationära samt de "släpbara stationära" laptop:sen använder inte systemkretsar. Är väl återigen Apple där uttalandet stämmer sämst då de kör med systemkretsar även i deras Mac Studio serie.

Sen är M3 Max verkligen dyr om du faktiskt har nytta vad det plattformen erbjuder? Vilken annan tillverkare har en GPU med upp till 128 GB minne söder om 200k SEK? Definitivt inget normalanvändaren behöver, men du brukar ju lyfta fall som mikroskopisk del av marknaden har någon som helst nytta av.

För vissa AI fall är M3 Max just nu extremt prisvärd, trots att 128 GB versionen startar på ca 65k SEK.

Just det är en marknad Qualcomm faktiskt bör undvika givet att de primärt siktar in sig på Windows-marknaden. De mest använda ramverken, PyTorch och Tensoflow, presterar väsentligt sämre på Windows jämfört med Linux och MacOS och "ingen" verkar bry sig tillräckligt för att fixa det. I.e. det är inte en viktig marknad om man siktar på Windows.

"Standardmodellen" av Snapdragon X sägs ha en TDP på 23 W. Men spannet går till 80 W, så kommer vara upp till tillverkarna att göra avvägningen.

Både AMD och Intel har ju numera "configurable TDP". Du frågar om 7840H, Qualcomm jämför med 7840HS som har en "default TDP" på låga 35 W men när man tittar på datorer som Notebookcheck testat är uppmätt median-effekt på de datorer med krets på helt vansinniga 105 W.

Tyvärr verkar inte Notebookcheck gjort samma mätning hos "vanliga" M3, men de har gjort det för M3 Pro och den ligger på 45 W. Så tror man kan förutsätta att oavsett vad Intel/AMD släpper kommer de fortfarande inte vara nära vare sig Qualcomm eller Apple vad det gäller perf/W, men de kan helt klart nå Qualcomm i prestanda. Det hade varit så mycket värt för Qualcomm (och även för oss för det är dags att gå vidare från x86) om de fått ut produkter med Oryon i början av året istället för i mitten.

Vad det gäller tillgänglighet så förstår jag det som Snapdragon X har skeppats sedan flera månader tillbaka, något som inte är fallet för vare sig Intels eller AMDs nästa generation laptop CPUer (båda dessa förväntas börja skeppa dessa 2H 2024).

Finns indikation på att bl.a. nästa generation Surface produkter ska dyka upp i juni med Snapdragon X.

Apples GPUer har en utmaning i att de faktiskt inte stödjer DX12 på ett bra sätt. Är inte helt med på de exakta detaljerna, med finns saker i DX12 som inte är kompatibelt med HW som använder sig av tile-based deferred rendering, TBDR (vilket Apple och även Arms Mali gör). Däremot stödjer Vulkan TBDR, men är rätt få spel som använder Vulkan.

Qualcomm har sedan flera generationer en GPU-design som stödjer både TBDR och en traditionell modell, så den är fullt kompatibel med DX12. TBDR har fördelen att vara mer energieffektiv och bättre hantera låg bandbredd mot RAM, men den har problem med väldigt komplex geometri.

Tycker man rätt bra kan se fördelarna med TBDR på Apples GPUer, de är förvånansvärt bra på att köra de spel som ändå finns i väldig höga upplösningar. Men man ser också nackdelarna, att slå på väldigt höga inställningar kan snabbt döda prestanda, framförallt om man kör på lite klenare GPUer (men ser det även med 40-kärnors varianten av M3 Max).

Rätt coolt att spel som Apex Legends och Resident Evil 4 flyter otroligt väl i "native-upplösning" på 16" MBP, d.v.s. 3456x2234.

Snapdragon X Elite kommer inte ha mer än dual-channel mot RAM, men de har fördelen mot alla andra i att stödja den snabbaste DDR-standarden: LPDDR5x-8533 (så 136 GB/sec). AMD Hawk point (8xxx serien) klarar max LPDDR5x-7500 medan Intel Meteor Lake toppar på LPDDR5x-7467 (så dessa två ligger på ~120 GB/s). Apple M3 ligger på 100 GB/s medan M3 Pro har 150 GB/s (Max är 300 eller 400 GB/s beroende på variant).

i7-1370P ligger på 2590 ST i Clang-testet. Men då är man en generation efter AMD/Qualcomm i processteknik (som jag förstår det kommer Oryon använda TSMC "4nm" som i praktiken är deras 5nm+) och två generationer efter M3. Så perf/W blir därefter.

Intel har alltid haft problem med att behålla peak-frekvenserna när de går till en ny process. Meteor Lake är ett rejält kliv framåt i framförallt GPU (typ fördubbling mot generationen innan) men även perf/W ökades rejält. Däremot minskade ST prestanda en del mot generationen innan, Redwood Cove är tydligen rakt av Raptor Cove på Intel 4 + fördubblad L1I$ till 64 kB.

Att öka L1I$ ger inte så mycket på moderna x86, både Intel och AMD har rätt begränsad kapacitet i sin front-end och bra prestanda är beroende av bra uop-cache hit-rate. Får se hur stor L1I$ Oryon har, Apple använder inte uop-cache utan har en brutalt bred front-end och 192 kB L1I$. Tror det är en stor förklaring varför M-serien är så brutalt snabb på kompilering, det är en "elak" last med stort kodsegment-avtryck -> passar uop-cache rätt illa.

Enda från x86-lägret som jag personligen känner kan bli riktigt spännande att se är om ryktet kring att Lunar Lake kör TSMC 3nm även för CPU-kärnorna. Tror inte Intel har möjlighet att hänga med TSMC kring optimeringar relevanta för kretsar med väldigt låg effekt, de saknar helt enkelt skalfördelar som TSMC (och delvis Samsung) har i att tillverka miljarder high-end mobilkretsar varje år.

Tvivlar starkt på att det kommer räcka för att Lunar Lake ska slå Apple/Qualcomm i perf/W, men vore en väldigt intressant datapunkt både mot dem och mot AMD. Då är det verkligen mikroarkitektur mot mikroarkitektur på samma tillverkning (nästa generation Qualcomm CPU lär vara på 3 nm den också).

Geekbench fick, och förtjänade, massor av kritik i de första generationerna. Man lade allt för stor vikt vid saker som i praktiken spelade rätt liten roll. Ovanpå det var data som användes mindre på mobiler än på "vanliga" datorer, så jämförelser däremellan var helt värdelösa.

Idag är Geekbench för desktop/laptop vad SPEC är för servers. Definitivt inte det slutgiltiga svaret, men på det stora hela det mest heltäckande svar på "hur bra presterar denna CPU i genomsnitt över typiska program".

Det viktiga att förstå kring GB6 (gällde även GB5) är att man använder "riktigt" program och "riktiga" bibliotek i testerna, inte handhackade microbenchmarks. Det är nu också samma data på alla plattformar och samma binära resultat (så t.ex. kompilator-testet är inte snabbare på ARM64 för det är billigare att generera ARM64 assembler, så är det men i testet producerar samma binär oavsett ISA).

En stor fördel i GB6 är att MT resultaten nu är betydligt mer relevanta för "riktiga fall" jämfört med alla tidigare versioner. Fram till GB5 körde man i praktiken X antal enkeltrådade fall där X var lika med antalet CPU-trådar. I GB6 kör man ett program som försöker använda alla trådar, så skalningen med CPU-trådar är långt sämre i GB6 jämfört med tidigare (men man har ändå lite valt fall som skalar hyfsat väl med CPU-kärnor).

Totalsumman: säger en del, men kan bli ordentligt missvisande för specifika fall.

Intel och AMD har trots rätt olika mikroarkitektur, förvånansvärt likvärdig relativ prestanda i deltesterna. Så där är totalsumman rätt bra när man ställer Zen4 mot Golden Cove.

Däremot kan det skilja rätt mycket i specifika fall när man jämför olika generationer, t.ex. Golden Cove mot Skylake. Och det skiljer mycket på vissa fall när man ställer x86 mot ARM64. HTML5 och kompilering är något som verkar rejält föredra ARM64 medan ray-tracing och vissa bildbehandling fall (object remover testet) rejält föredrar x86_64.

Båda dessa tester använder bibliotek från Intel med väldigt bra optimering för AVX, svårt att säga om NEON är sämre eller om det bara är mindre optimerat men gissar på en kombo (NEON är på väg att ersättas av SVE på ARM64 sidan, allt jag läst om SVE är att det rätt mycket är AVX-512 "done right", Arms Cortex A/X serie stödjer redan SVE men Apple är kvar på ARMv8.x och därmed NEON, oklart om Oryon är ARMv8.x eller ARMv9.x).

Så "Qualcomm: Våra systemkretsar är snabbare än alla andras, om man inte tar med de kretsar som är snabbare..."

I det här läget tror jag man utan problem kan förutsätta att kompakta bärbara datorer baserad på Qualcomms kretsar kommer vara betydligt bättre än motsvarande baserade på Intel/AMD-kretsar. Är just detta ihop med att Apples HW är, utanför tekniker som Parallels (som ändå fungerar väldigt bra), inte är en konkurrent på Windows-sidan som Qualcomm måste bygga sitt budskap kring vid lansering.

Undrar om Qualcomm fått skruva ned peak-frekvensen på Oryon? För tycker de är lite oväntat långt efter M3 på den punkten när det pratades om att Oryon skulle ha peak-frekvens på 4,3 GHz (när max två kärnor är aktiva) medan M3 ligger på max 4,2 GHz. Givet vem som är chefsarkitekt för Oryon lär dess mikroarkitektur påminna om Apples en hel del.

Detta är M3 Max testat precis nu på min laptop, 3200 i ST är helt i nivå med de bästa Intel/AMD kan uppbringa på desktop-sidan och en bra bit över vad de kan erbjuda på deras bärbara.

Vad Qualcomm riktigt sätter fingret på här är hur utmanande det är att avgöra om part A vinner över part B för att den förra gör något riktigt bra eller om den andra mest haltar fram. På CPU-sidan finns en hel del tekniska förklaringar till varför det är svårt för x86-gänget att hänga med ARM64 designer, men på GPU-sidan finns egentligen inte någon sådan förklaring.

Om nu Qualcomms GPU presterar som de visar här blir Intels framfart på iGPU-sidan rätt mycket mindre imponerande. I så fall har de långt mer kommit ikapp AMD p.g.a. att den senare tappat koncepten än att Intel skulle gjort något utöver det väntande. Och alla dessa tre blir oavsett totalt överkörda av Apple Pro och Max GPU, så inte riktigt "snabbare än alla andras".

Framåt tror jag ändå man kan vänta sig en hel del. Är trots mannen bakom Apple Silicon CPU-designen som är chefsarkitekt för Qualcomms CPU-serie, skulle hävda att han tagit över Jim Kellers krona som bästa CPU-designer i världen just nu. När de presenterade Oryon nämndes flera gånger att de måste begränsa scope för att få ut en produkt, de har massor med prestandaförbättrande idéer för kommande generationer.

Och som något som primärt använder datorn för programutveckling: riktigt kul att se att även Oryon verkar prestera riktigt väl för kompilering ställd mot konkurenterna.

Kompilator-testet från GB6 (SPECInt har ett liknande som är baserat på GCC i stället för Clang/LLVM som för Apple/Intel/AMD visar samma sak)

Oryon, M3, i7-155H, 7940HS, i9-14900K, 7950X

Oryon når inte M3, men en CPU för ultratunn dator slår det bästa Intel/AMD har att erbjuda ens för stationära just nu.