Linux за българи: Форуми

Linux секция за напреднали => Хардуерни и софтуерни проблеми => Темата е започната от: wfw в Feb 14, 2014, 23:07



Титла: Стар Debian + SSD (или SAS) и RAID1
Публикувано от: wfw в Feb 14, 2014, 23:07
Здравейте,
имам стар Дебиан 5, на който работи един много тегав проект, който няма как да бъде мигриран на по-нова версия на ОС. MySQL се задъхва малко покрай повечето I/O операции на дисковия масив (софтуерен RAID1 от SATA дискове, 7200 оборота). Да кажем, че бюджета ми е около 1000лв за подобряване на ситуацията откъм хардуера. Виждам няколко алтернативи:
- Софтуерен RAID1 от SSD
- Хардуерен RAID1 от SSD
- Хардуерен RAID1 от SAS дискове 15К оборота
Самата машина не е твърде зле: някакъв Xeon E3/8GB RAM/ 6 SATA2 порта.

Имам някои притеснения:
1) Дебиан 5, та дори Дебиан 6 (доколкото проверих) не съдържат програмата fstrim, с която мога да правя TRIM на SSD дисковете. Поддръжката на TRIM през fstab (опцията discard) не се поддържа от Дебиан 5
2) Евтините уж хардуерни RAID контролери като LSI MegaRAID 9240-4i не работят добре при write в RAID1 и достигат доста по-ниски от очакваните стойности http://www.pugetsystems.com/labs/articles/Product-Roundup-Intel-LSI-RAID-cards-98/ ($2) (едва 70МБ/сек)
3) Във връзка с точката по-горе какъв е смисъла да ползвам хардуерен RAID + SAS дискове, не е ли по-добре да ползвам контролера, за да вържа 15К оборотните дискове и да направя софтуерен RAID?
4) хардуерния контролер се явява SPOF, това за притеснение ли е или по друг начин казано, гърмял ли ви е RAID контролер?


Титла: Re: Стар Debian + SSD (или SAS) и RAID1
Публикувано от: backinblack в Feb 15, 2014, 02:57
(http://imageshack.com/a/img528/5029/21568329.png)

Ето ти един скрииншот от моя стария райд5 масив с такъв контролер с 4х1ТБ Сигейт Баракуда 7200.12. На единичен диск в десктопа ми същия прави 160МБ средна скорост на четене. Сървъра ми е с Е3-1230 с 16ГБ рам с ESXi, но на 10 виртуални уиндоуса с по 2 ядра и 2ГБ рам на виртуалка издъхваше! Не можа да се натовари процесора повече от 2/3-ти. С 2-3 виртуалки с по-голям ресурс си товари на макс перфектно.

Сега съм с 9271 с ББУ и с 4х1ТБ Сигейт Констилейшън(1500лв +ДДС за контролер, ббу и дискове) и положението 6+ с 15 виртуалки

(http://imageshack.com/a/img163/336/8kpy.png)

Това е скрииншот от новия ми масив. Не можах да ги измеря на единичен, но по спецификация ги дават Констилейшъна 175МБ скорост.

Слабичък е 9240, но едва ли ще можеш да го натовариш достатъчно, ако няма да виртуализираш.


П.С. 9240 съм го обявил за продажба в продавалника за 200 лева. Ползван е по-малко от 2 години и май е още в гаранция от Перси.


Титла: Re: Стар Debian + SSD (или SAS) и RAID1
Публикувано от: Naka в Feb 15, 2014, 11:26
3) Във връзка с точката по-горе какъв е смисъла да ползвам хардуерен RAID + SAS дискове, не е ли по-добре да ползвам контролера, за да вържа 15К оборотните дискове и да направя софтуерен RAID?
4) хардуерния контролер се явява SPOF, това за притеснение ли е или по друг начин казано, гърмял ли ви е RAID контролер?

Софуерният md райд1 ще се представи точно толкова добре колкото и с най- добрият хардуерен контролер. Все пак raid1 абсолютно нищо не прави само дублира сектори. Не изчислява и чек суми. Даже казват че до 4 диска в raid5 хардуерният и софтуерният райд са еднакви.

Сега софтуерният райд е много по-надежден във времето. Защото ако ти гръмне контролер след време ще трябва да търсиш абсолютно същият контролер - или поне от същата фирма. А дали тогава ще го има на пазара. С друг контролер може да не ти разпознае масива и гориш. Докато при софтуерният райд, може и дъно даже да смениш и пак ще разпознае масива.

Но от друга страна софтуерният райд е много по труден за поддръжка. Не трябва да се пипат кабели... Трабва винаги правилно да се изключва... Трябва да знаеш командите и т.н.


Аз за 2 диска райд1 бих предпочел със сигурност софтуерен райд и колкото се може с по-бързи дискове.





Титла: Re: Стар Debian + SSD (или SAS) и RAID1
Публикувано от: Naka в Feb 15, 2014, 11:33
backinblack ти го купи този контролер и въобще не се похвали. Я дай малко повече инфо че да научим и ние нещо ::)

Пусни я пак тази последната графика че да се види скоростта. Отляво си я отрязал и не се чете.


Титла: Re: Стар Debian + SSD (или SAS) и RAID1
Публикувано от: wfw в Feb 15, 2014, 11:46
Благодаря за отговорите, а дали хардуерния RAID ще намали iowait, ако няма промяна в скоростите на четене и запис?


Титла: Re: Стар Debian + SSD (или SAS) и RAID1
Публикувано от: backinblack в Feb 15, 2014, 12:28
backinblack ти го купи този контролер и въобще не се похвали. Я дай малко повече инфо че да научим и ние нещо ::)

Пусни я пак тази последната графика че да се види скоростта. Отляво си я отрязал и не се чете.

Ами оръсих се! То си беше ебати и мъките със стария! Като натоварят 5-6 виртуалки и почват да замръзват, а процесора не вдига повече от 2/3-ти натоварване. Като се натоварят само 2-3 с по-тежки неща, няма проблем! Форсира се на макс!
Сега с новия няма такива проблеми! Преди 2 дни на 10 виртуалки едновременно пуснах ъпдейтите и повече от 1 час процесора фучеше на 100% като през това време си се стартираха браузери и други дребни неща без проблеми. Със стария щеше да е замръзнал тотално. Вече имам чувството, че процесора не може да го натовари на 100% масива.
Без малко щях да посрещам нова година в инсталации и възстановяване от бекъпи :D ! На 29-вечерта бекъпвах, на 30-ти го сменях в Перси на място и вечерта инсталирах и възстановявах от бекъпи почти до обяд на 31-ви   :D , а комплекта го купих почти цял месец и повече преди това, но щото се работеше и нямаше чалъм да го спра за 2-3 дни.

Не съм орязал дясната колона, а съм го замервал от лайв сидито с вече направени таблици и инсталирана система, а то измерва скоростта на запис само когато е нов диска или масива, без създадени таблици.


Титла: Re: Стар Debian + SSD (или SAS) и RAID1
Публикувано от: backinblack в Feb 15, 2014, 12:33
Цитат
Сега софтуерният райд е много по-надежден във времето. Защото ако ти гръмне контролер след време ще трябва да търсиш абсолютно същият контролер - или поне от същата фирма. А дали тогава ще го има на пазара. С друг контролер може да не ти разпознае масива и гориш. Докато при софтуерният райд, може и дъно даже да смениш и пак ще разпознае масива.

Аз както знаеш, нямам кой знае какъв опит, но специално по този въпрос съм се информирал от техниците в Перси и те ми казаха, че ако е отделна платка, а не тези вградените на дъното, няма проблем със смяната на контролера! Само новия контролер да не е от по-нисък клас. Сменя се платката, мушка се буксата в която се събират четирите кабела за дисковете и всичко си е ток и жица.


wfw, за два диска само, и аз съм на мнение, че няма нужда от хардуерен! Софтуерния е за предпочитане пред вградения в дъното, а отделна платка е излишно оскъпяване.
Раид1 прави копие на диска и скоростта на четене и запис теоретично ще ти е колкото е скоростта на самия диск или на най-бавния от двата, ако не са еднакви. С Райд0 или 10 получаваш 2х скоростта на единичен диск, но за 10 ти трябват 4 диска, а 0 няма смисъл да я коментираме. За 5 с 4 диска, теоретично скоростта трябва да бъде сумарна на 3-те и за това аз съм избрал 5 с 4 диска, а не 10.
В моя случай с новия контролер и дискове, би трябвало да направя 3х175МБ, но са само 2.5, но пък ако беше 10, теоретично трябваше да станат не повече от 350МБ.
С два диска, това е положението! Трябват ти поне 4 за 5 или 10 и за такъв масив не е за предпочитане софтуерния. Аз успях да прецакам  един софтуерен райд5 докато си правех експерименти точно заради някаква хардуерна ебавка докато ребилдваше.

За райд5 скоростта ще ти зависи от бързината на процесора в контролера, но в твоя случай, и евтиния 9240 ще е перфектен, но с 4 диска.


Титла: Re: Стар Debian + SSD (или SAS) и RAID1
Публикувано от: wfw в Feb 16, 2014, 00:50
Никой не може да ме накара да направя RAID5 масив. При цените на дисковете в момента, винаги бих предпочел RAID10, но сървъра няма толкова място за дискове. Мога да сложа максимум още 2 диска.

Проблема е, че теоретичната скорост е много далеч от реалната, затова се допитах, ако някой има реални наблюдения и е правил някакви тестове...

Освен това бях чел някъде, че софтуерния РАИД1 чете от двата диска едновременно и може да даде дори по-голяма скорост на четене от максималната на самите дискове, но не мога да намеря инфото в нета...


Титла: Re: Стар Debian + SSD (или SAS) и RAID1
Публикувано от: backinblack в Feb 16, 2014, 01:15
И аз така съм чел за четенето и то не само за софтуерния райд, но пък за това и има различни видове масиви. На мен ми трябва скорост на запис по-висока, а не на четене и за това предпочитам райд5. На виртуалките диска е файл който постоянно се презаписва. В твоя случай, четенето е доста повече от писането, но с 2 диска само в райд1, едва ли ще направиш повече от 1,5 скоростта на самия диск. Проблема с мястото е най-малкия! Кутия се сменя за 30-40 минути!
Наката в една друга тема беше споменал, че със софтуерен райд5 е постигал теоретичните скорости, но с контролер си требе да е добър щото прави много изчисления за контролни суми, а добрите са скъпи.
Има някакъв финт с добавяне на ССД за кеширане към масива и се получава нещо като хибридните дискове, но не съм запознат с тези работи. Иначе това трябва да работи надеждно, защото инфото ти не стои на ССД-то, а на райд масива.
При мен в менюто на ESXi-то има такава опция за добавяне на ССД диск за кеширане. Наскоро четох, че и в новите ядра май има нещо такова до колкото разбрах и ми стана любопитно и питах тук, но никой не ми отговори. До колкото съм разбрал от четенето, и Интел имат някаква такава технология в техните дъна за добавяне на ССД за кеширане, но дали е масова идея си нямам. Ще ми е любопитно и на мен някой да внесе повечко подробности, но перфектното ти решение за по-малко кинти е да добавиш ССД за кеширане...... ако става.


Титла: Re: Стар Debian + SSD (или SAS) и RAID1
Публикувано от: wfw в Feb 16, 2014, 12:00
Твоя контролер мисля, че поддържа кеширане на SSD, само трябва да си купиш cachecade софтуера (440лв) на LSI и 2 малки SSD диска. Мернах и някаква процедура за това, май си правиш отделен volume като RAID1 и казваш на другия volume да ползва този за кеширане.

Това е непотвърдена информация, просто последните дни четох доста и това ми е останало в главата като спомен. Относно поддръжката на тази екстра в Linux ядрото нямам информация.