Tredjepartslösning ger AMD-kort stöd för Nvidias CUDA

Permalänk
Melding Plague

Tredjepartslösning ger AMD-kort stöd för Nvidias CUDA

AMD finansierade utvecklingen av ett verktyg för att köra CUDA-kod via ROCM, men drog sig senare ur. Nu har det släppts som öppen källkod.

Läs hela artikeln här

Visa signatur

Observera att samma trivselregler gäller i kommentarstrådarna som i övriga forumet och att brott mot dessa kan leda till avstängning. Kontakta redaktionen om du vill uppmärksamma fel i artikeln eller framföra andra synpunkter.

Permalänk
Medlem

Rätt riktning!
Om skillnaden i slutändan ska endast vara - "vill du köra spelet med elled utan Ray tracing", men alla professionella program ska fungera på GPU, då blir det konkurrens på riktigt.

Permalänk
Medlem

Hur blir detta rent juridiskt om AMD har sponsrat det?

Visa signatur

Intel i5 12600k OC 5.2GHz | Arctic Freezer II 240 | MSI Pro Z690 A | 2x 16Gb Corsair LPX 3200MHz | Asus Tuf 4070 Ti | Corsair Rm850x V3 | 2x 1Tb Samsung 980 m2 | 7x Noctua A14x25

Permalänk
Medlem

Satt faktiskt för några dagar sen och funderade på just detta, vet att jag såg någon presskonferans eller om det va någon release eller något där dom nämnde just detta men sen blev det bara tyst.

Skrivet av Swedishchef_90:

Hur blir detta rent juridiskt om AMD har sponsrat det?

vad spelar det för roll? det är juuh släppt som open source sen vem/vilka som arbetat på det innan spelar ingen roll iom att dom drog sig ur det hela.

Visa signatur

here we go!

Permalänk
Medlem
Skrivet av Swedishchef_90:

Hur blir detta rent juridiskt om AMD har sponsrat det?

Domstolarna i USA slog fast att API:er inte är upphovsrättsskyddade när Oracle stämde Google för deras Java-implementation i Android. Så de borde vara helt lugnt. Ser ingen skillnad mot detta och DXVK exempelvis.

Permalänk
Medlem

Lite roligt att vi kommit dit att inte api:er ersätta i program och spel utan att det istället göra översättningsverktyg som gör att vi kan köra program på fler hårdvaru konfigurationee och OS

Visa signatur

Min Dator: AMD 3600 | GTX 680 | 16 GB RAM | Asus X570 Prime | Fractal Design Arc R2 | Thermalright Silver Arrow | Dell U2412M | Ibm Model M

Permalänk
Medlem

Tekniskt sett skrev han det för Intel, medan han jobbade där, och när han sedan började på AMD fortsatte han med det.
Nvidia har alltså vetat om detta i många år, men som sagt är API inte upphovsskyddat, så det finns inget de kan göra förutom att poängtera att deras hårdvara är "bättre"
Klart att AMD vill att alla cuda-baserade applikationer ska fungera på deras hårdvara

Permalänk

Många proffsionella program görs knappt körbara till en plattform. Problemet är få kunder som ska dela på utvecklingskostnaden.
Dessa få kunder är ofta broende på att det ändå ska vara så bra som möjligt.
Så jag frågar mig vem kommer köra detta tilläggsprogram?

Problemet ovanför har alltid funnits, lösningen idag är att mer gå emot weblösningar och folks datorer blir mer eller mindre terminaler. Nu är dock cad med cuda etc något som länge finns kvar på klientsidan.

Permalänk
Medlem

Bra bra bäst. Väldigt skönt om det blir mindre parametrar som skiljer vid grafikkortsval.

Visa signatur

CPU: I7 7700k @ 4.6GHz - Noctua NH D15S - Asus ROG Strix Z270F Gaming.
GPU: RTX 3070TI @2 st 120mm cf-v12hp hydro dynamic fläktar. 👍
RAM: 32GB DDR4 3200MHz. HÅRDDISK: 4 st SSD, 2 Mekaniska.
MONITOR:1 Xiaomi MI 34"- 3440x1440 144Hz MONITOR:2 Optix MAG274R 27" 1080p 144Hz MONITOR/Tv:3 LG 47lv355n-ZB 47". Nätagg: Corsair Newton R2 1000W. Allt i ett Cooler Master CM Storm Stryker.

Permalänk
Medlem

Kan nån vänlig själ ge nåt exempel på program som kör Cuda? Googlar Bravear jag får jag mest upp guider på hur jag ska komma igång med Cuda programmering eller hur tekniken fungerar men inget om specifika program.

Jag trodde det mest var en teknik som kunde ge prestanda vinster men inte exklusivt möjliggöra körande av programmet.

Visa signatur

Main rig: Z790-P / i5-13600K / 64GB RAM / RX 7900 XT / 42" LG C2

Permalänk
Medlem
Skrivet av nikwid:

Kan nån vänlig själ ge nåt exempel på program som kör Cuda? Googlar Bravear jag får jag mest upp guider på hur jag ska komma igång med Cuda programmering eller hur tekniken fungerar men inget om specifika program.

Jag trodde det mest var en teknik som kunde ge prestanda vinster men inte exklusivt möjliggöra körande av programmet.

Alla 3D-renderingsprogram som Blender och 3dsmax. Generativ AI som Stable Diffusion.

Visst, det går att köra SD på AMD och Intel men det är klyddigare och mycket långsammare. Det är alltid CUDA som gäller.

/hulle.

Visa signatur

A600, 2 MB Chipram, 85 MB HD, Extra diskettstation, Joysticks: Tac-2, The Bug och Wico Red Ball.
Zotamedu:"Kompressorkylning är nog det mest miljöfarliga du kan göra med en dator om du inte tänker börja elda brunkol i den."

Permalänk
Medlem
Skrivet av nikwid:

Kan nån vänlig själ ge nåt exempel på program som kör Cuda? Googlar Bravear jag får jag mest upp guider på hur jag ska komma igång med Cuda programmering eller hur tekniken fungerar men inget om specifika program.

Jag trodde det mest var en teknik som kunde ge prestanda vinster men inte exklusivt möjliggöra körande av programmet.

Blender, 3DStudio, Maya, Photoshop, Premiere, After Effects, DaVinci Resolve, Substance Painter, Nuke, Cinema 4D, Houdini... för att nämna några. Flera har stöd för OpenCL också men det är i regel mycket långsammare.

Permalänk
Medlem
Skrivet av nikwid:

Kan nån vänlig själ ge nåt exempel på program som kör Cuda? Googlar Bravear jag får jag mest upp guider på hur jag ska komma igång med Cuda programmering eller hur tekniken fungerar men inget om specifika program.

Jag trodde det mest var en teknik som kunde ge prestanda vinster men inte exklusivt möjliggöra körande av programmet.

För min del är det Matlab som gör CUDA intressant. Men jag lyckas inte hitta ifall den här lösningen kommer att fungera med Matlab.

Permalänk
Datavetare

Positiva med detta är hur bra det faktiskt fungerar!

Men annars är jag lite förvånad hur många på en webbplats som SweC kan tycka detta i grunden är bra. Enligt Phoronix är det inte känt varför AMD (eller Intel för den delen) dragit sig ur projektet, men det står att "mycket pekar på att det handlade om ett affärsbeslut, inte ett tekniskt (eller juridiskt beslut).

Och "affärsbeslut" här handlar knappast om budget, utan PR. Vilka signaler sänder det till marknaden när

  • en enskild utvecklare slänger på två år ihop något som presterar bättre än det AMDs middleware team jobbat med >10 år (är ju 16 år sedan CUDA lanserades, OpenCL kom kort efter)

  • varför ska man som utvecklare bry sig om HIP/ROCm om det räcker att stödja CUDA?

  • varför ska man köpa AMD GPUer som fungerar "most of the time" istället för att köpa "originalet"?

Jämförelsen med MoltenVK haltar en del. MoltenVK drivs av Khronos, inte Apple. Det är ju Khronos som har allt att vinna här, Apple vill långt hellre att man kör med Metal. Vulkan är en standard, en standard som Khronos kontrollerar.

CUDA är ingen standard, den gör precis vad Nvidia vill/behöver att den gör för att fungera optimalt på deras HW.

Detta är mer likt att köra spel på Linux. Så länge "alla" skriver spel till Windows och man hjälpligt kan få igång dem på Linux så är Linux chanslös som relevant spelplattform. Jämför det med områden som t.ex. containers, där är Linux "originalet" och Windows är i praktiken helt irrelevant utanför WSL2 (d.v.s enda realistiska lösningen för MS var att köra Linux...).

Visa signatur

Care About Your Craft: Why spend your life developing software unless you care about doing it well? - The Pragmatic Programmer

Permalänk
Medlem

Skulle vara trevligt med mer kompatibla lösningar, så känns som ett steg åt rätt håll

Permalänk
Medlem
Skrivet av norrby89:

Satt faktiskt för några dagar sen och funderade på just detta, vet att jag såg någon presskonferans eller om det va någon release eller något där dom nämnde just detta men sen blev det bara tyst.

vad spelar det för roll? det är juuh släppt som open source sen vem/vilka som arbetat på det innan spelar ingen roll iom att dom drog sig ur det hela.

Om jag sponsrar något som blir juridiskt inkorrekt om jag står kvar som skapare så blir det väl ett problem?

De drog sig ur av någon anledning....

Visa signatur

Intel i5 12600k OC 5.2GHz | Arctic Freezer II 240 | MSI Pro Z690 A | 2x 16Gb Corsair LPX 3200MHz | Asus Tuf 4070 Ti | Corsair Rm850x V3 | 2x 1Tb Samsung 980 m2 | 7x Noctua A14x25

Permalänk
Medlem

Det tråkiga är väl att det i alla fall för tillfället är tveksamt om projektet har någon framtid, utvecklaren själv säger att projektet i stort sett är övergivet nu och tidigare försök att hitta andra intresserade verkar inte ha resulterat i någonting. Det kanske finns mer intresse nu när AMD stöds istället för Intel, vi får se.

Permalänk
Medlem
Skrivet av Swedishchef_90:

Om jag sponsrar något som blir juridiskt inkorrekt om jag står kvar som skapare så blir det väl ett problem?

De drog sig ur av någon anledning....

Känns som AMD dumpat mjukvara med hög potential åt höger och vänster i +15 år nu...

Permalänk
Medlem
Skrivet av Swedishchef_90:

Om jag sponsrar något som blir juridiskt inkorrekt om jag står kvar som skapare så blir det väl ett problem?

De drog sig ur av någon anledning....

Pengarna överförs bara om det finns ett avtal.
Avtalet kan innehålla en klausul om att "utvecklaren vet vad den gör och tar all juridisk ansvar på sig".
Klart.

Sedan kan AMD blåögd säga att: - ...men utveklaren sa att de kan implementera lösningen på ett juridiskt lagligt sätt...

Permalänk
Medlem
Skrivet av friArsenik:

Pengarna överförs bara om det finns ett avtal.
Avtalet kan innehålla en klausul om att "utvecklaren vet vad den gör och tar all juridisk ansvar på sig".
Klart.

Sedan kan AMD blåögd säga att: - ...men utveklaren sa att de kan implementera lösningen på ett juridiskt lagligt sätt...

Sådant fungerar inte
"men björn sade ju....."
har ju fungerat i rättegångar förut?

Sen kanske saken är juridiakt korrekt, vad vet jag

Men sponsrar man något är man alltid delaktig i slutresultatet.

Visa signatur

Intel i5 12600k OC 5.2GHz | Arctic Freezer II 240 | MSI Pro Z690 A | 2x 16Gb Corsair LPX 3200MHz | Asus Tuf 4070 Ti | Corsair Rm850x V3 | 2x 1Tb Samsung 980 m2 | 7x Noctua A14x25

Permalänk
Medlem

Lite svårt att se att enterprise skulle vilja ha en sån här lösning men kul att den finns ändå. För hobbyister kan det nog bli desto roligare om man inte vill ha orginalet så att säga.

Lite pinsamt just det, som jag tror någon innan skrivit eller om jag läst det på annat håll, att en enda utvecklare gjort ett så pass mycket bättre jobb än folket hos AMD med alla resurser de haft tillgängliga. Nu kanske inte detta har haft någon större prio inom AMD men det säger också en del faktiskt.

Kudos till utvecklaren i fråga.

Visa signatur

Huvuddator: 7800X3D, 2x16GB G.Skill Flare X5 6000MHz CL30, Asus B650E-F, KFA2 RTX 4090 SG, 6TB NVMe/SATA SSD, 42" LG OLED C3 Evo
Spellaptop: Asus ROG Strix G15, 6800H, 16GB, RTX 3070Ti, 1TB NVMe
Övrigt: Dell XPS 13 modell 9310, Apple Macbook Air M1 8GB samt Samsung Galaxy S7 FE, Steam Deck
Dammsamlare: PS5, Switch och Xbox One X
Folda för Sweclockers! https://www.sweclockers.com/forum/trad/1348460-faq-kom-igang-...

Permalänk
Medlem

Sjukt bra! Undrar däremot om prestandan kan förbättras ytterligare eller om man ska vara nöjd med resultaten som de är. 7900 XTX tampas mot 4070 super, liksom.

Hur som, jättebra om man som slutanvändare aldrig mer fastnar på att programmet/pluginet kräver CUDA. Gott med VRAM hos lag röd också så någon kommer nog direkt finna detta väldigt användbart.

Visa signatur

i7-2700K 5 GHz | 16 GB DDR3-1600 | ASUS Maximus V Gene Z77 | GTX 980
i7-4790K 4.8 GHz | 32 GB DDR3-2133 | ASUS Maximus VII Gene Z97 | GTX 980

Permalänk
Medlem

Jag tror inte AMD är nöjda med den här lösningen, det kommer aldrig bli 100% och man låter Nvidia bestämma för all framtid. Förstår att dom dumpade det. Dessutom har vad jag förstår AMD faktiskt börja sälja lite volymer av sina beräkningskort, och kan stå på egna ben nu. Detta kanske var någon slags backup.

Permalänk
Medlem
Skrivet av Teddis:

Sjukt bra! Undrar däremot om prestandan kan förbättras ytterligare eller om man ska vara nöjd med resultaten som de är. 7900 XTX tampas mot 4070 super, liksom.

ZLUDA översätter CUDA-anrop till HIP-anrop, så att CUDA via ZLUDA är snabbare än HIP i t.ex. Blender visar ju att det i alla fall finns utrymme för förbättring av Blenders HIP-kod och/eller AMDs kompilator.

Sen visar testet av Phoronix inte hela sanningen. Med moderna grafikkort så är det i regel inte CUDA vs HIP som gäller utan OptiX vs HIP RT för att utnyttja RT-kärnorna, och då halkar AMD oftast efter ännu mer.

Permalänk
Medlem
Skrivet av Swedishchef_90:

Sådant fungerar inte
"men björn sade ju....."
har ju fungerat i rättegångar förut?

Sen kanske saken är juridiakt korrekt, vad vet jag

Men sponsrar man något är man alltid delaktig i slutresultatet.

Så om man t.ex. sponsrar företag A att den skall skriva en mjukvara utan patentintrång och den skriver mjukvaran som gör patentintrång, så enligt ditt fall sponsaren är skyldig men inte mjukvarutillverkaren?

Permalänk
Medlem
Skrivet av friArsenik:

Så om man t.ex. sponsrar företag A att den skall skriva en mjukvara utan patentintrång och den skriver mjukvaran som gör patentintrång, så enligt ditt fall sponsaren är skyldig men inte mjukvarutillverkaren?

Näe båda såklart.

Om jag sponsrar någon som gör ett intrång så brukar det bli medhjälp till XXX

Visa signatur

Intel i5 12600k OC 5.2GHz | Arctic Freezer II 240 | MSI Pro Z690 A | 2x 16Gb Corsair LPX 3200MHz | Asus Tuf 4070 Ti | Corsair Rm850x V3 | 2x 1Tb Samsung 980 m2 | 7x Noctua A14x25

Permalänk
Inaktiv

Någon sett något om ifall ZLUDA funkar med folding@home? Provade att nätsöka lite men fann inget relevant tyvärr. Folk säger att google var bättre förr, jag vet inte om det stämmer, men i det här fallet tror jag inte det gör någon skillnad... Detta är såpass udda grejer.

Permalänk
Medlem
Skrivet av anon132576:

Någon sett något om ifall ZLUDA funkar med folding@home? Provade att nätsöka lite men fann inget relevant tyvärr. Folk säger att google var bättre förr, jag vet inte om det stämmer, men i det här fallet tror jag inte det gör någon skillnad... Detta är såpass udda grejer.

Oh, detta är ju lite extra intressant förstås!
I någon av F@H-forumen borde det ju skrivas något om detta snart nog, om det inte redan hänt då.

"zluda" på https://foldingforum.org ger inga resultat ännu, men det är inte världens mest aktiva forum idag samtidigt. Det där namnet rullar inte direkt av tungan enkelt, efter att ha provat säga det högt.

Visa signatur

Huvuddator: 7800X3D, 2x16GB G.Skill Flare X5 6000MHz CL30, Asus B650E-F, KFA2 RTX 4090 SG, 6TB NVMe/SATA SSD, 42" LG OLED C3 Evo
Spellaptop: Asus ROG Strix G15, 6800H, 16GB, RTX 3070Ti, 1TB NVMe
Övrigt: Dell XPS 13 modell 9310, Apple Macbook Air M1 8GB samt Samsung Galaxy S7 FE, Steam Deck
Dammsamlare: PS5, Switch och Xbox One X
Folda för Sweclockers! https://www.sweclockers.com/forum/trad/1348460-faq-kom-igang-...

Permalänk
Medlem
Skrivet av Swedishchef_90:

Näe båda såklart.

Om jag sponsrar någon som gör ett intrång så brukar det bli medhjälp till XXX

En intressant synvinkel, med tanken på vad jag skrev.

Permalänk
Medlem
Skrivet av Yoshman:

Positiva med detta är hur bra det faktiskt fungerar!

Men annars är jag lite förvånad hur många på en webbplats som SweC kan tycka detta i grunden är bra. Enligt Phoronix är det inte känt varför AMD (eller Intel för den delen) dragit sig ur projektet, men det står att "mycket pekar på att det handlade om ett affärsbeslut, inte ett tekniskt (eller juridiskt beslut).

Och "affärsbeslut" här handlar knappast om budget, utan PR. Vilka signaler sänder det till marknaden när

  • en enskild utvecklare slänger på två år ihop något som presterar bättre än det AMDs middleware team jobbat med >10 år (är ju 16 år sedan CUDA lanserades, OpenCL kom kort efter)

  • varför ska man som utvecklare bry sig om HIP/ROCm om det räcker att stödja CUDA?

  • varför ska man köpa AMD GPUer som fungerar "most of the time" istället för att köpa "originalet"?

Jämförelsen med MoltenVK haltar en del. MoltenVK drivs av Khronos, inte Apple. Det är ju Khronos som har allt att vinna här, Apple vill långt hellre att man kör med Metal. Vulkan är en standard, en standard som Khronos kontrollerar.

CUDA är ingen standard, den gör precis vad Nvidia vill/behöver att den gör för att fungera optimalt på deras HW.

Detta är mer likt att köra spel på Linux. Så länge "alla" skriver spel till Windows och man hjälpligt kan få igång dem på Linux så är Linux chanslös som relevant spelplattform. Jämför det med områden som t.ex. containers, där är Linux "originalet" och Windows är i praktiken helt irrelevant utanför WSL2 (d.v.s enda realistiska lösningen för MS var att köra Linux...).

Fast punkt #1 stämmer ju inte, detta är ju inte en ersättare till något som AMD någonsin snickrat på utan bara en översättare mellan CUDA och HIP, att sedan program som Blender visar sig köra snabbare via denna lösning än direkt mot HIP tyder ju mer på att det är stödet för HIP i Blender som ligger efter.

Visa signatur

|Ryzen 5800x3d|RX 7900XTX Hellhound|Asus Prime X370 Pro|32GiB Corsair 2400MHz CL16 Vengeance|Corsair HX1000i|Fractal Define R5|LG 45GR95QE|Corsair K100|Razer DeathAdder V3 Pro|Ubuntu 23.10|