Serwer pod wirtualizacje

Konfiguracja serwerów, usług, itp.
MDH
Posty: 8
Rejestracja: 20 sierpnia 2013, 09:26

Serwer pod wirtualizacje

Post autor: MDH »

W związku, że jest to mój pierwszy post na forum, witam Wszystkich serdecznie.

Nie wiem czy wybrałem odpowiedni dział, sprawa dotyczy wyboru serwera do wirtualizacji.

W firmie mamy kilka, dość mocno wysłużonych komputerów (serwerów), poczta, www, bazy danych, pliki itp.

Czas aby zrobić z tym porządek, kupno kilku nowych komputerów mija się z celem, padł pomysł wirtualizacji bo serwerów jeszcze przybędzie.
Od prawie miesiąca bawię się Proxmox-em, działa dobrze, robi co ma robić - ogólnie działa.

Jaki polecicie sprzęt do wirtualizacji aby wykorzystać możliwości Proxmox-a?
Największe "zamieszanie" robią dwa serwery z bazami Oracla i MS - najbardziej obciążone pod względem procka, pamięci i operacji dyskowych.

Więc co możecie polecić ? jaki procek, ilość pamięci, dyski, kontroler itp.?

Może osoby mające doświadczenie w konfiguracji Proxmox-a doradzą jakieś konfiguracje? Czytałem, że można ustawić w Proxmox-ie HA, lustrzane kopie i inne ciekawe opcje, ale nie miałem przyjemności tego jeszcze testować (trochę słabo z moim angielskim).

Pozdrawiam.
manieak
Posty: 9
Rejestracja: 20 sierpnia 2013, 10:44

Post autor: manieak »

Witam,
Czy posiadasz statystyki obciążenia CPU i HDD?

Każdy i Ci powie że pamięci RAM nigdy za wiele...

Dlaczego wybór padł na Proxmox?
MDH
Posty: 8
Rejestracja: 20 sierpnia 2013, 09:26

Post autor: MDH »

Nie posiadam statystyk, ale obserwuje obciążenie na serwerach, waha się od 49 do 90% CPU/RAM
Wiadomo, że RAM-u zawsze warto mieć zapas, czemu Proxmox bo jest darmowy, jest na Debianie i jako pierwszy wpadł mi w ręce.
manieak
Posty: 9
Rejestracja: 20 sierpnia 2013, 10:44

Post autor: manieak »

Dobrze, ale 90% nam nic nie mówi, nie znamy potencjału twojego sprzętu.
Z ciekawości jak obserwujesz utylizacje?

VMware ESXi jest darmowy, zapewnia podstawową funkcjonalność hyperwisora, do tego Veeam - soft to backupu i środowisko wirtualne zabezpieczone.

ESXi instalujesz w godzinę i nie potrzebujesz wiedzieć nic o Linuksie, po prostu działa.

Jaki sprzęt dobierzesz tez zależy od Twojego budżetu, 50 tysięcy zł czy 150tysięcy zł.
Czy zamierzasz kupić oddzielny magazyn i 2 lub 3 serwery, bo tak by wypadało.
Pytanie, ile potrzebujesz IOps, takie dane zdeterminują, czy potrzebujesz macierzy z dyskami 7,2k, 10k, czy 15k rpm ...

Zsumuj obecny RAM w serwerach, które chcesz skonsolidować, pomnóż przez 3 i dodaj 50% zapasu (zależnie ile w przyszłości planujesz uruchomić gości i systemów i jakich)

Z przestrzenią dyskową podobnie z tym, że obliczenia muszą być precyzyjniejsze bo wydajne dyski są drogie, ale gdy będziesz miał macierz gdzie można mieszać klasy dysków to na dane "archiwalne" 7,2k a na resztę SAS 10k lub 15k rpm - SSD wychodzi drogo.

Nie mając konkretnych danych, możesz oprzeć się na budżecie, kupić co się da i liczyć na to, że wystarczy.

Do pomiarów swojej infrastruktury, głównie utylizacji dysków, użyłem zabbix-a.


Więcej konkretnych pytań, to ułatwi Ci pomoc.
Pozdrawiam.
Awatar użytkownika
lun
Beginner
Posty: 266
Rejestracja: 01 lutego 2010, 22:06
Lokalizacja: Warszawa

Post autor: lun »

Bardzo słuszne uwagi kolegi manieak.
Ja od siebie dodałbym, że Citrix uwolnił źródła i za darmo (bez supportu rzecz jasna) masz wszystkie możliwości (dużo więcej niż w VMware ESXi) tego, drogiego kiedyś, hypervisora.
Jeśli dobrze pamietam (a jeśli nie to poprawcie) ESXi nie ma HA, Live Migration (storage & host) itp itd.

To co napisał kolega powyżej, kwalifikuje się jednak pod małą korporację ;-), macierze dyskowe SAN/NAS, FibreChannel, kilka hostów w klastrze, dyski 15K SAS, Veeam.
Budżet musiałby być w okolicach 400k pln. A wydaje mi się że nie o taką skalę i zakres Ci chodzi?

Offtopując lekko, manieak jak sprawdza się Veeam do backupu na Vmware? Zastanawialiśmy się jakiś czas temu nad tym, ale nadal tkwimy przy VMware Data Protection (co jest jednak strasznie słabe).
MDH
Posty: 8
Rejestracja: 20 sierpnia 2013, 09:26

Post autor: MDH »

400 tysięcy - marzenie, na cały sprzęt będę miał może 40-50tysięcy pln.

Zainstaluje sobie z ciekawości ESXi, ma spore ograniczenia, ale warto mu się przyjrzeć, co ciekawe, w połączeniu z "Veeam Backup Free Edition" wychodzi całkiem ciekawy kombajn :) Szkoda tylko, że ESXi obsłuży tylko do 32GB RAM.

W pełnej wersji wart uwagi jest "Essentials Plus Kit", ale cena, to samo mam bezpłatnie w Proxmox-ie.
Awatar użytkownika
lun
Beginner
Posty: 266
Rejestracja: 01 lutego 2010, 22:06
Lokalizacja: Warszawa

Post autor: lun »

Właśnie ze względu na ograniczenia, radziłbym się przyjrzeć Citrixowi. ESXi jest fajnym, prostym (genialnie prostym można by rzec) rozwiązaniem, ale darmowa wersja nadaje się (moim zdaniem oczywiście) do zastosowań laboratoryjnych, lub do środowisk testowych/developerskich (w których nie potrzebujesz HA, migracji między klastrami itp. a chcesz zaoszczędzić na cenie licencji). Natomiast XenServer to rozwiązanie klasy Enterprise zupełnie za darmo.
Szczerze mówiąc, to jak popatrzyłem na zaproponowanego przez ciebie Promoxa, to wydaje się on dużo "kompletniejszy" niż ESXi.

A jaką infrastrukturę musisz zbudować za te 40-50k pln? Bo szczerze mówiąc to widzę za to jakieś dwa, w miarę mocne, serwery pod wirtualizację (np. HP DL580 G7 - ale to też raczej sprzęt klasy Enterprise). A gdzie macierz albo chociaż jakiś mały NAS? No chyba że to akurat macie na stanie.
Szczerze mówiąc, to żeby coś wyeskalować, musielibyśmy znać twój obecny sprzęt (ilość, rodzaj, parametry, średnia utylizacja) oraz to jakie systemy operacyjne chcesz na tym postawić.
Nie zaszkodziło by również opisanie jakie technologie będą stały na wirtualnych maszynach (np. JBOSS kocha RAM w każdej ilości, SQL zazwyczaj nie pogardzi niskimi opóźnieniami do dysków i wysokim IOPS'em).
Bo może się okazać że będziesz potrzebował zwirtualizować 5-10 maszyn (po dwa Core i 4 GB ram), a my tu rozpuszczamy wodzę fantazji na 60+ wirtualnych maszyn :)
MDH
Posty: 8
Rejestracja: 20 sierpnia 2013, 09:26

Post autor: MDH »

Mój obecny sprzęt:

Poczta (Linux): P4, 2GB RAM, 2x400GB HDD SATA
WWW (Linux): P4, 2GB RAM, 2x400GB HDD SATA
PBX (Linux) C2D, 2GB RAM, 2x 100GB HDD SATA
Oracle (Windows 2003): C2D, 4GB RAM, 4x 400GB HDD SATA
SQL (Windows 2003): C2D, 4GB RAM, 4x 400GB HDD SATA
SQL (Windows 2008) Xeon quad, 8GB RAM, 6x 300 HDD SAS
Serwer terminali (FreeBSD): Core i5, 4GB RAM, 2x 1TB SATA - testy dla 30 terminali.
Kopia zapasowa (Linux): C2D, 2GB RAM, 4x 1TB SATA

W firmie mamy 30 stanowisk, które "namiętnie" korzystają z powyższych serwerów.
Mam również uruchomiony mały serwer na Proxmox-ie z 5 wirtualkami Windows XP, 4 Windows7, 10 Linux - testy.

Jak widać, sprzęt już ma swoje lata i domaga się przejścia na zasłużony spoczynek.

5 wirtualek z Windows XP zapewnia mi dostęp do starych dosowych programów, jeżeli przejdą pomyślnie testy, to te 5 wirtualek wejdzie w skład nowego serwera.

Wstępne założenia są takie:

- 2 serwery jako nody;
- 1 serwer jako NAS.

NOD-y:
- płyta z dwoma prockami;
- 128GB RAM;
- 4x SSD 200GB;
- kontroler RAID10;
- 4x 1Gbp/s LAN

NAS:
- jeden procek;
- 64GB RAM;
- 4x SATA 3TB lub SAS;
- kontroler RAID10;
- 4x 1Gbp/s LAN

No i teraz pytanie, jeżeli NOD-y będą korzystać z NAS do przechowywania wirtualek, to czy potrzeba płyty z dwoma gniazdami i dysków SSD?

Również nie mogę się zdecydować, czy do NAS pchać SATA (klasy enterprise 24/7) czy SAS?

Również mam dylemat odnośnie konfiguracji, czy dwa NOD-y dać do tej samej szafy, a NAS w innym budynku? Czy może lepiej NOD1 i NAS w jednej szafie, a NOD2 w drugim budynku?

Chyba idealnie byłoby mieć dwa NOD-Y i dwa NAS-y, byłaby pełna replikacja - ale to już dodatkowe koszty.

Zastanawia mnie również taka sytuacja, NOD-y korzystają z NAS, jeżeli padnie NAS, to wszystko leży i kwiczy, czy NODY mogą przechowywać wirtualki na swoich dyskach? Jeżeli stwierdzą, że padł NAS, przełączą się na wirtualki z lokalnych dysków?
Jak Wy byście to skonfigurowali?

Mam tak dużo pytań i tak mało wiedzy ale na testy i na naukę mam jakieś 4-5 miesięcy.

Jeżeli będziecie na tyle wyrozumiali i chętni do pomocy, to może wyjść jakiś fajny poradnik z naszych postów, nie oczekuję na gotowe pliki itp. Uruchomię sobie mini-laba ze starych komputerów i będę ćwiczyć, ale bez Waszych rad i wskazówek nic z tego nie będzie.
manieak
Posty: 9
Rejestracja: 20 sierpnia 2013, 10:44

Post autor: manieak »

lun, odnośnie veeam słyszałem dużo dobrego, nie testuję bo wchodzimy w symanteca BackupExec-a. W ESXi za HA, FT, Live Migration, itp. trzeba płacić.

Sądząc po sprzęcie na jakim operujesz i biorąc pod uwagę liczbę użytkowników w firmie nie ma się co rozpędzać. SSD nie jest Ci potrzebne, a raczej nie stać Cię na SSD.

Biorąc pod uwagę wzrost wydajności i skuteczności obecnych CPU, strzelam, że całą obecną infrastrukturę obsłużyłbyś jednym procesorem 8core 3,6GHz - taka dywagacja (zakładam, że nie wysyłacie/otrzymujecie setek tys e-maili dziennie i odsłon milona/ms też nie macie na witrynach).

Proponuje 2x HP DL320 po 2 CPu (przy wirtualizacji ważna jest liczba rdzeni, na drugim miejscu GHz), 64GB RAM na noda w zupełności Ci wystarczy (8GB kości wychodzą najtaniej, 9banków na CPU (2CPU x 9banków x 8GB = 144GB na noda, zgadza się?).


Jeżeli zainwestujesz w macierz (FC jest drogie, iSCSI zagregowane do 2GB w zupełności wystarczy), nie potrzebujesz nawet dysków w serwerach, hypervisora można odpalić z karty SD, pena etc (poprawcie mnie jeżeli jest to złą praktyka proszę).
Dyski 7,2k w RAID5 mają spory potencjał odczytu ale pod VM sugeruje 10k, opóźnienie jest dużo mniejsze niestety cena dużo wyższa.

Na Twoim miejscu skupił bym się na wydajnej macierzy i z odpowiednim supportem (bo IOps może zabraknąć przy dużej ilości VM,s, a kolejki szybko Ci się odbiją czkawką.

Pamiętaj, jeżeli tworzysz cluster HA i FT to nie potrzebujesz inwestować w nadmiarowość sprzętu (zasilacze, pamięć, karty, dyski, etc)

Jeżeli chcesz NODy po budynkach rozstrzelić to będziesz musiał zainwestować w światło, a tego nie chcesz.

Proponuje NODy z pamięcią blisko siebie, niekoniecznie w jednej szafie, a kopie zapasowe w innej lokalizacji. Prawdopodobnie jak padnie Ci główna lokalizacja to i tak nikt nie będzie miał dostępu do sieci - zgaduję. Powinieneś się zabezpieczyć na wypadek całkowej utraty danych.
Z replikacją NAS/SAN nie będzie łatwo.


Czy obecnie w sieci masz GB Ethernet, czy monitorujesz utylizacje sieci?

Jak widać, temat rzeka.
Pozdrawiam.
MDH
Posty: 8
Rejestracja: 20 sierpnia 2013, 09:26

Post autor: MDH »

I już coś wiem.

Co znaczy skrót FC i FT?
Możesz zaproponować jakiś model macierzy?
Cała nasza sieć jest na GB (połączenie między budynkami również).
ODPOWIEDZ