Спокойствие T3

Проектът се нарича TQ Tech III (ТК от пълното име, EVE Online главен сървър "Спокойствие") се дължи на факта, че Ева физически инфраструктурни промени за трети път. SSR прави значителни инвестиции в нова техника (мрежово оборудване, системи за съхранение и сървъри) и я прехвърля на нов хостинг в Лондон.

В миналото, което направихме като труда на Херкулес. Ето няколко от връзки, за да опресните паметта си:

Според парадигмата на "Ева завинаги", че е време отново да се актуализира "спокойствие" и въоръжени с нови техники и технологии през последните години, да ги изпратите за да се осигури и поддържа най-сложната игра света, както и достъп до услуги.

В ТК Tech III има много аспекти, които ще обясня с помощта на своите колеги програмисти.

Забележка: Сега ще има много супер-шикозен технология!

Допълнителна съкращения

Система за съхранение "Спокойствие" се дублира и излишни. Масив на съхранение винаги е бил с наднормено тегло, но сега са се увеличили броя на елементите на отказоустойчивост.

Ние ще имаме пълно огледало на мрежи за съхранение на данни (SAN огледало) едновременно да поддържа "Спокойствие" и архивирането в експлоатация, както и за прецизно "Спокойствие" възпроизвеждане на база данни от другата страна на океана в Исландия, страна с лед и огън.

Ето как ще изглежда "Спокойствие" от хранилището на данни след работа:

Можете да видите две от IBM SAN контролер, определяне на ефективността на два контролера V5000 същата фирма; те, от своя страна, запазват всички данни за трите стълба на разширяване, съдържащ 9 SSD, 800 GB, за общо 83 1.2Tb 10K SAS диск. Не забравяйте, че всичко се дублира, така че пълна картина на двойни номера!

Той работи много бързо, и новия магазин трябва да се отнася до сървърите ...

новите сървъри

В първия ден на "Ева" работи на IBM блейд сървъри. За надграждане, ние избрахме новото поколение IBM сървъри, наречена IBM FLEX. На снимката по-горе можете да видите връзката на FLEX шаси със системата за съхранение.

FLEX концепция е подобна на остриета, че шасито осигурява захранването и охлаждането, и може да носи до 14 възли (възел) на всяко шаси.

За сравнение, остриета днес "Спокойствие" работят с четири Gigabit Ethernet връзки, всяка от 14-те единици има достъп до два гигабитови връзки, защото те имат две мрежови карти.

Новият IBM Flex шасито ще получи четири desyatigigabitnyh връзка, като всеки възел пропускателна способност в 2х10 Gbps.

Днес тя е твърде много за "Ева", но след инсталацията, нашите инженери ще могат да експериментират с нови и вълнуващи начини да се мащабират "Спокойствие" производителност и архитектура като цяло. Това, разбира се, ще отнеме време, но непосредственият ефект е много бързо освобождаване на актуализации!

Освен това, в резултат на сериозно подобряване на нашата виртуална сървърна среда, като например прехвърляне на реално време виртуална машина на друго физическо домакин.

О, да, ние ще 6 от шасито. D

Може да забележите, изобилие от излишни елементи. И замислена: да служи на "спокойствие" да можем да изключим едно и също шаси напълно, а играчите ще продължат да се борят, за да напишете в чат стая, производство, научни изследвания и заблуди по отношение на останалите пет стелажи.

Сървъри са свързани към системата за съхранение чрез shestnadtsatigigabitnye превключва IBM SAN 2498-F48. Всички кръстосано свързани, така че да се избегне съществуването на потенциално лоши точки в зависимост от една система възел.

Сега имаме един от компонентите на клъстер "Спокойствие", което наричаме "Еверест". Той се използва в случаите, когато това е необходимо, за да се справят с много високо натоварване - обикновено се случва по време на края на войната в MMO.

В "Спокойствие T3" ще бъде шест "Еверест" тип възли.

Той едновременно ще взриви много кораби. И в случай на нужда, някои съюзи могат да бъдат едновременно забравят да плащат важни законопроекти!

Очарователна база данни "Спокойствие"

Нека погледнем по-отблизо в клъстера. Нека започнем с оборудване за работа с базата данни "Спокойствие".

Всеки от Microsoft SQL база данни машината четири е впечатляващ 768 GB оперативна памет, работещ с честота от 1866 MHz. Те ще имат две Intel E7-8893 v3 процесор - процесор с честота от 3.2 GHz и 4 ядра (8 gipertredingom) и кеш до 45 MB, което ги прави идеални за интензивна работа с базата данни.

Ето един по-подробен профил на базата данни от неговите администратори.

база данни клъстери

Сега имаме три основни база данни на клъстера:

• "Спокойствието" (2 hprotsessorny 32 ядра в gipertredinge)
• Web Server (2-hprotsessorny с 24 ядра в gipertredinge)
• отчети и управлението на фактуриране сървър (2 hprotsessorny-24 ядра в gipertredinge)

И тримата работят на съвсем различни видове оборудване от различни поколения на архитектури, взаимосвързан надежден matarskoy лента, Амарр благочестиви молитви, наивни и пролетно настроение Gallenteans и ниско качество тел, маса произведена в Caldari държава. На новия клъстер "Спокойствие" ние ще се оптимизират всички и освободите място, така че се присъедини към уеб сървър и управление и плащания на сървъра сметка. "Спокойствие" ще остане отделно от останалите.

Не забравяйте, че това е само за броя на активните възли. Ако ние считаме, вторични и пасивни възли, общият размер на паметта клъстер "Спокойствие" трябва да се удвои. 3TB оперативна памет до 2 работни клъстери - Мммм, добре!

Ние се има предвид възможността за използване на един активен-активна група от два възела, но се отказа поради различни причини. Например, ако един от cluster.exe спре да работи, целия офис може да бъде покрита. Клъстерът изолиран "Спокойствие" ще бъде спокоен за цялата система.

Така че, ние имаме 4 невероятно мощен компютър за базата данни, съдържаща две от нашия клъстер. Това ни доведе до една много интересна идея, която дава възможност за увеличаване на устойчивост на откази.

Виртуализира всички!

Ние искаме да създадем една ферма от 4 ESXi клъстер с 4 възела чудовищно. На върха на хипервайзора, ние ще създадем нашите две касетъчни SQL сървъри, задаване на всеки възел на клъстера с цел един сървър ESXi - като че ли са физически там. Всъщност, нищо няма да се промени, но ...

Реалните ползи от това ще се появяват, когато (или "ако", а по-скоро само "когато") е един от физическите сървъри, необходими, за да изключите по някаква причина, или за извършване на рутинна поддръжка. В този случай, обичайната физическа клъстера на две възли ще бъдат показвани само в един възел, а ние ще трябва да стискайте палци с надеждата, че един възел, който е сега-а-много не се случва нищо. Ние ще се нуждаят от много набожен молитви Amarr.

В случай на виртуално решение, ние можем просто да се движат през VMotion пасивен клъстър със своя личен ESXi домакин на друг хост ESXi (този, който съдържа пасивен възел на втория клъстер). и ние в царят! Разбира се, домакин с две пасивни възли ще се претовари, но проблеми ще възникнат не по-рано, отколкото ние ще загубят още две домакин!

В резултат на това, ние не само да получите допълнителна защита на бази данни, използващи Windows Failover Clustering, но също така да бъде в състояние да оцелеят провала на няколко хардуерни компоненти! Ние трябва да прекарват много тестове, но цялостната технология вече е известно, така че в действителност, това, което може да се обърка?

ККП денормализирани, ККП Хънтър, ККП Стефани и CCP Jolin

Обратно към клъстера!

Технически подробности за "Спокойствие" днес и "Спокойствие T3"

обновяване на мрежата

Досега говорихме за бързи сървъри и изобилието на съхранение при високи скорости. Но нещо трябва да се комбинира всичко това в едно, но също така и за да се свържете с мястото, където обикновено се съхранява смешни снимки с уплътнения (т.е. интернет). В противен случай, EVE Online ще бъде напълно ... не онлайн.

Давам думата на нашата мрежа отбор

Независимо от това, технологията не е просто влезе и скочи напред в последните шест години. Време е да се изпрати на старите рутери на заслужена почивка и да ги замени с ново поколение маршрутизатори. За по-голяма от най-известните пилоти на Ню Eden, ние отново се използва най-доброто от най-доброто оборудване. Нищо друго "Спокойствие" не заслужавате!

Нови машини с капацитет от 120 Gbit / сек и два пъти капацитета на паметта със заповед по-мощен, което ви позволява да се увеличи броят свързани с доставчиците на контакт служби. С допълнителната памет те съхраняват предварително изчислена архивиране BGP маршрути за всеки активен маршрут, който ви позволява да превключвате по грешен начин за замяна в рамките на няколко милисекунди. Това означава, че ако нещо се обърка с доставчика пряко свързан с нас, повечето от играчите, чиито маршрут минава през мрежата на доставчика на услуги, преминали към друг доставчик, без да губи връзката. Новите маршрутизатори ще ни позволят да се подобри свързаността и поради повишения памет и процесорна мощ, ще се отвори пред нас разпиляване на нови функции.

Друга основна част от днешните мрежова инфраструктура "Спокойствие" разпределение на натоварването са Cisco ACE 30. Тези кутии са много трудни за конфигуриране, но те притежават специално място в сърцата ни, обичащи високите технологии. Те ни позволяват да бързо да доведе до "Спокойствие" значителни промени и са надеждни като скала.

Въпреки това, преди няколко години, Cisco е оставил пазар мрежови балансьори на ляво и ACE платформа да умре бавна смърт. От тогава сме преживели различни платформи и най-накрая намери отличен заместител, който не само предлага повишена производителност, но също така предоставя нов vozmozhnostti.

Само по отношение на производителност, новият "спокойствие", ние ще се увеличи капацитета до 16 Gbit / сек до 30 Gbit / сек, а максималния брой едновременни връзки увеличи 4000000-24000000. Новата мрежа балансьори не оставят безразлични не само отборът операции, но и целия отдел развитие Ева. Ние се разтрива ръцете си точно като kapsulor, за първи път седна на "Титан".

мрежови връзки

Не само, че ние се актуализира на оборудването, но и търси нови възможности за подобряване на връзката с мрежата от гледна точка на опита на играчите. Един свързаната инициатива бе стартирането на нова платформа интелигентна маршрутизация за оптимизиране BGP маршрути. Тази система автоматично проверява както за забавяне и загуба на пакети за всеки играч, свързан към "Спокойствие", като едновременно тестване на маршрути за всеки свързан към нашия Интернет доставчик на плейъра. Той е прозрачен за потребителя превключва връзката с най-добрите налични път. Активните съединения се изпитват редовно в продължение на няколко часа. Тази система вече е доказал, че може да незабавно да се заобиколят с много препятствия и прекратявания на мрежови възли към Вечния вълна на Интернет. Отлични отчетите от инструмента ще ни позволят да създадете списък на доставчиците на услуги, които предоставят най-добрите условия достъпът до EVE Online.

Както се вижда от резултатите от тестовете в снимките горе, интелигентна платформа за маршрутизация се е подобрило качеството на връзката с над 7000 доставчици на мрежи по целия свят, намаляване на загуба на пакети, когато се свързвате към "Спокойствие" от 91%, където е възникнала загуба, както и 59% случаи, заобикаляйки деактивирани сайтове в интернет. Latency е също е намалял значително е намалял с 20% в повече от половината от всички бавни връзки. Това са резултатите, които са винаги се радвам да ви видя!

В заключение, ние ще продължим да разширяваме нашето сътрудничество с Linx (Лондон Network Exchange), която ще ни позволи да се свърже директно с голям брой интернет доставчици. По този начин, на играчите, които използват тези услуги доставчици могат да се свързват директно с "Спокойствие", без да преминават през ненужно обща мрежа в интернет, намаляване на броя на хмел и осигуряват много по-стабилно съединение.

Бихме искали да ви кажа много зашеметяващи подробности за нашите нови играчки (повярвайте ми, можем да говорим за тях завинаги!), Но експерти от отдела за сигурност заявиха, че те трябва да се пази в тайна. Но! Но! Но! Ако си на следващото "Fanfest" посещение на кръгла маса с екипа операции от специалисти, ние обещаваме да леко вдигне завесата на секретността и кажете малко за новия прекрасен свят подобрен мрежови връзки в Интернет.

- ККП Лука и CCP Skylark

В продължение на няколко месеца, те ще се движат паралелно в двата центъра. След това, когато всичко е готово, ние ще се включи към сървъра на новото място и се опита да направи минималното време на прекъсване.

След това бързо напред, което скоро ще бъде известен като дом на "Олд спокойствие", в Исландия, в центровете за данни «Верн Global» (който е снабден с електричество от мистериозен вулканична геотермална енергия). На този сървър, сглобен от части на стари "спокойствие" и малки допълнения, ние планираме да организираме всички наши тестови сървъри "Singyuleriti '," Multiplisiti "т.н.

След това ще започне нов дубликат DB "Спокойствие" от Лондон до Исландия, че са били допълнителен източник в случай на избухването на Ragnarok в центъра на Англия.

отдел поддръжка развълнуван и горд от проекта "Спокойствие T3" и стойността му да EVE Online, и играчите.

Но достатъчно, за да пиша. Това е време да се върнат на работа.

ККП Gunshow, от името на Ops екипите на ККП

спокойствие. изостава. желязо. EVE Online. сървър. ъпгрейд. gikporno