Ny server - med esxi och ubuntu / debian

Permalänk
Medlem

Ny server - med esxi och ubuntu / debian

Hej alla!

Fick hem lite nya delar till min gamla hemmaserver igår, och har lite frågor.
Innan körde jag ubuntu server 12.10 direkt på burken, men har bestämt mig för att testa ESXi och virtualisera lite grann!

Tanken är väl att köra ett gäng olika gästsystem, delvis för att leka men att kunna ha hemma / mediaservern isolerad så man kan testa saker innan man sätter de i "produktion".

Jag är fortfarande inne på att köra linux för mediaservern, antingen ubuntu 12.04 LTS eller debian 7. Och köra med ZFSonLinux (har testat FreeNAS etc tidigare och är främst intresserad av linux).

Specs:
Pentium G2030 Ivy Bridge
Asus P8H77-I mITX
4GB RAM (Har möjlighet att slänga in totalt 8GB)
4 x 1TB 7200RPM
1 x 1TB för övriga gästsystem
1 x 160GB Raptor för VM-images m.m

ESXI bootar från USB.

Är det möjligt att låta ett gästoperativ (mediaserver) få direkt tillgång till några av de "fysiska" hårddiskarna (närmare bestämt 4st), för att köra RaidZ?
Är det rent av dumt att göra på det sättet, alternativ?

Visa signatur

PC: i7 3770k, Asus P8Z77-M PRO, 16GB @ 1600Mhz CL9, Gigabyte GTX670 OC, 120GB Intel 330
HTPC: i5 3450, ASRock Z77M mATX, 8GB @1600Mhz CL9, Gigabyte GTX670 OC, 160GB Intel 320
Server (Ubuntu 12.04): Pentium G2030 3Ghz, 4GB @ 1600Mhz, 160GB VelociRaptor, 4*1TB 7200RPM @ RaidZ

Permalänk
Medlem

Googla runt på ESXI och harddrives passthrough, ZFS. Kan vara att saddam eller någon som har nyligen lekt eller har esxi har koll och kommer med svar snart, men annars är det detta du letar efter, kollade på detta för något år sedan men minns inte exakt så vågar inte ge något svar.

Det som kan krävas är att ditt moderkort och din processor stödjer passthrough för att det ska fungera 100% = ZFS får kontakt med de fysiska diskarna, inge mellanlager.

Visa signatur

Gaming: Playstation 5 | Server: FreeBSD | Core i5-3570k | Fractal Design Define C | Corsair 16GB RAM | HTPC: RPi5 | LibreElec | Chromecast | Laptop: MacBook Air M1 2020 | Phone: iPhone 13 Mini | AP: Ubiquity Unifi | Router: Vanilla FreeBSD + Packet Filter FW

Permalänk
Medlem

Om du ska köra ZFS i ESXi så är det enda "rena" att köra med VT-d och göra pass-through av en PCIe HBA (kort med SAS eller SATA kontroller), det kan du tyvärr inte göra med ditt H77 kort vad jag vet. Vissa B75 har stöd för det, annars är det server chipset som gäller.

Andra alternativ som inte är att rekommendera för att det inte ger ZFS direkt åtkomst till diskarna är att köra RDM, som står för Raw Disk Mapping, ESXi delar då ut disken till det OS som kör ZFS, men ZFS kan inte direkt tala med kontrollern. Allt går genom ESXi och man förlorar prestanda, stabilitet och borde inte kunna sova gott om nätterna. Man kan också skapa virtuella diskar som man gör i VMware Workstation, men det är ett ännu sämre alternativ än RDM och absolut inget för en lagrings-server.

Permalänk
Medlem

Finns det något enkelt sätt att via sphere client se om servern (och hårdvaran) har rätt VT-d etc support? Kan man se att det är aktiverat?

Visa signatur

PC: i7 3770k, Asus P8Z77-M PRO, 16GB @ 1600Mhz CL9, Gigabyte GTX670 OC, 120GB Intel 330
HTPC: i5 3450, ASRock Z77M mATX, 8GB @1600Mhz CL9, Gigabyte GTX670 OC, 160GB Intel 320
Server (Ubuntu 12.04): Pentium G2030 3Ghz, 4GB @ 1600Mhz, 160GB VelociRaptor, 4*1TB 7200RPM @ RaidZ

Permalänk

Jag sitter med sits som dig. Har också Asus P8H77-I mITX med en i3 som inte heller stödjer VT-d. Moderkortet ska enligt vissa källor fungera helt okej med passthrough på ESXi. Nakdelen är att allt under i5 inte har stödet för detta.

För mig blir det nog att byta processor i framtiden. Tills dess använder jag mig av Windows Server 2012 med Hyper-V. Då kan storage spaces ta hand om mina diskar. Alternativet är att köra en Linux med KVM och virtualisera från den. Den får då också ta hand om lagringen och dela ut den till en virtuell.

Visa signatur

Citera så hittar jag tillbaka!

Permalänk
Medlem
Skrivet av Tejprullen:

Jag sitter med sits som dig. Har också Asus P8H77-I mITX med en i3 som inte heller stödjer VT-d. Moderkortet ska enligt vissa källor fungera helt okej med passthrough på ESXi. Nakdelen är att allt under i5 inte har stödet för detta.

För mig blir det nog att byta processor i framtiden. Tills dess använder jag mig av Windows Server 2012 med Hyper-V. Då kan storage spaces ta hand om mina diskar. Alternativet är att köra en Linux med KVM och virtualisera från den. Den får då också ta hand om lagringen och dela ut den till en virtuell.

Det är så alltså, synd. Får fundera lite där hur jag gör. Känns ju lagom ovärt att beställa in en i5 med VT-d för att sen upptäcka att det iallafall inte funkar

Visa signatur

PC: i7 3770k, Asus P8Z77-M PRO, 16GB @ 1600Mhz CL9, Gigabyte GTX670 OC, 120GB Intel 330
HTPC: i5 3450, ASRock Z77M mATX, 8GB @1600Mhz CL9, Gigabyte GTX670 OC, 160GB Intel 320
Server (Ubuntu 12.04): Pentium G2030 3Ghz, 4GB @ 1600Mhz, 160GB VelociRaptor, 4*1TB 7200RPM @ RaidZ

Permalänk
Medlem
Skrivet av Teere:

Finns det något enkelt sätt att via sphere client se om servern (och hårdvaran) har rätt VT-d etc support? Kan man se att det är aktiverat?

För processor:
enklast är att kolla på ark.intel.com med vt-d som filter. Jag kollade inte vad en G2030 vad för något, men du kan välja din processorfamilj längst upp.

Sedan måste ditt moderkort klara av det med. På ark så kan du kolla upp ditt chipset, dock är det lite knepigare med moderkort. Vissa moderkort står det no på ark men tillverkaren säger yes, eller yes med BIOS xxxx. Där får du forska dig fram. Men som sagts så har väl inte H77 stödet officiellt i alla fall.

Visa signatur

"Det här systemet fungerar urkasst." - operatör.
"Hur ska det fungera då?" - jag
"Gör så att det fungerar som jag vill." - operatör.
/facepalm

Permalänk
Medlem
Skrivet av Teere:

Det är så alltså, synd. Får fundera lite där hur jag gör. Känns ju lagom ovärt att beställa in en i5 med VT-d för att sen upptäcka att det iallafall inte funkar

Skrivet av Tejprullen:

Jag sitter med sits som dig. Har också Asus P8H77-I mITX med en i3 som inte heller stödjer VT-d. Moderkortet ska enligt vissa källor fungera helt okej med passthrough på ESXi. Nakdelen är att allt under i5 inte har stödet för detta.

För mig blir det nog att byta processor i framtiden. Tills dess använder jag mig av Windows Server 2012 med Hyper-V. Då kan storage spaces ta hand om mina diskar. Alternativet är att köra en Linux med KVM och virtualisera från den. Den får då också ta hand om lagringen och dela ut den till en virtuell.

Jag har tagit kontakt med ASUS per telefon gällande Asus P8H77-I för VT-D stöd. De svarade att det ej riktigt visste och fick istället en e-post adress som jag vända mig till. Nu har jag mejlat och deras svar hittills ser ni nedan. Jag återkommer när det väl hör av sig igen.

Citat:

Hei,
Fra det jeg kan se så er dette ikke støttet, men jeg vil dobbelsjekke dette for og være sikker.
Vil komme tilbake til deg.

Please rate this email. Your satisfaction is very important for us. If you think we could have done anything more to assist you please let us know by replying this email. Your feedback will be passed to the person or persons related.

Receive direct support for your ASUS All-in-One, Desktop, Eee family, LCD, Notebook, PadFone and Wireless.
From Sweden: 08 587 69 407
From Norway: 23 16 26 82
From Denmark: 38 32 29 43
From Finland: (09) 69 37 96 90

Best Regards
Alf
ASUS Nordic
Technical Support Department

Permalänk
Medlem
Skrivet av Otur:

För processor:
enklast är att kolla på ark.intel.com med vt-d som filter. Jag kollade inte vad en G2030 vad för något, men du kan välja din processorfamilj längst upp.

Sedan måste ditt moderkort klara av det med. På ark så kan du kolla upp ditt chipset, dock är det lite knepigare med moderkort. Vissa moderkort står det no på ark men tillverkaren säger yes, eller yes med BIOS xxxx. Där får du forska dig fram. Men som sagts så har väl inte H77 stödet officiellt i alla fall.

Japp, kollade en del nu efteråt. Känns som om man vill vara på den säkra sidan så kanske man till och med skulle ha köpt ett intel moderkort, eftersom de specar stödet på deras hemsida.

Skrivet av Monta:

Jag har tagit kontakt med ASUS per telefon gällande Asus P8H77-I för VT-D stöd. De svarade att det ej riktigt visste och fick istället en e-post adress som jag vända mig till. Nu har jag mejlat och deras svar hittills ser ni nedan. Jag återkommer när det väl hör av sig igen.

Intressant!

Tack för alla svar, körde dock in ubuntu på servern.
Hade varit skoj med ESXi, kanske hittar någon begagnat cpu i framtiden. Ifall moderkortet stödjer.

Visa signatur

PC: i7 3770k, Asus P8Z77-M PRO, 16GB @ 1600Mhz CL9, Gigabyte GTX670 OC, 120GB Intel 330
HTPC: i5 3450, ASRock Z77M mATX, 8GB @1600Mhz CL9, Gigabyte GTX670 OC, 160GB Intel 320
Server (Ubuntu 12.04): Pentium G2030 3Ghz, 4GB @ 1600Mhz, 160GB VelociRaptor, 4*1TB 7200RPM @ RaidZ

Permalänk
Medlem

Har nu fått svar från ASUS.

Citat:

Hei,
Da fikk jeg bekreftet dette, ditt kort støtter VT-X, men ikke VT-D.

Please rate this email. Your satisfaction is very important for us. If you think we could have done anything more to assist you please let us know by replying this email. Your feedback will be passed to the person or persons related.

Receive direct support for your ASUS All-in-One, Desktop, Eee family, LCD, Notebook, PadFone and Wireless.
From Sweden: 08 587 69 407
From Norway: 23 16 26 82
From Denmark: 38 32 29 43
From Finland: (09) 69 37 96 90

Best Regards
Alf
ASUS Nordic
Technical Support Department

Permalänk
Medlem

Jag föreslår att göra som Tejprullen föreslog. Installera ZFS on Linux bare metal, alltså kör filservern direkt på hårdvaran med Linux och ZFS. Sedan kör du virtuella maskiner med KVM på filservern. Ubuntu har bra stöd för ZFSonLinux via PPA.

Letar ni hårdvara för ESXi så är mitt tips att kolla på AMD istället. Då kan ni få ECC-minne och IOMMU på vanligt standardmoderkort. Har själv köpt ett begagnat Gigabyte GA-970A-UD3 för 300 kr här på marknaden. Det moderkortet har ECC-stöd samt IOMMU. Nu kör jag inte EXSi eller KVM så jag har inte testat själv. Dock hade jag lite problem med att min FX-8350 throttlade vid mprime stresstest på det moderkortet innan jag fick igång en extra chassifläkt för att ordna luftflöde över kylflänsarna på moderkortet samt sänka Vcore en aning för att lösa problemet så kanske man inte ska köra något kraftigare än FX-8320 på sådana billigare moderkort.

http://thehomeserverblog.com/esxi/esxi-5-0-amd-whitebox-serve...

Även Asrock 970 Extreme 3 ska vara OK.
http://thehomeserverblog.com/esxi/esxi-5-0-amd-whitebox-serve...

Men det borde väl gå att hitta någon prisvärd kombination för intel också.
http://en.wikipedia.org/wiki/List_of_IOMMU-supporting_hardwar...

Permalänk
Medlem
Skrivet av Monta:

Har nu fått svar från ASUS.

Kommit någon vart i ditt bygge ännu?

Visa signatur

Gaming: Playstation 5 | Server: FreeBSD | Core i5-3570k | Fractal Design Define C | Corsair 16GB RAM | HTPC: RPi5 | LibreElec | Chromecast | Laptop: MacBook Air M1 2020 | Phone: iPhone 13 Mini | AP: Ubiquity Unifi | Router: Vanilla FreeBSD + Packet Filter FW