- Макропоказатели ЦОДа: проектируем на коленке
- Макропоказатели ЦОДа: проектируем на коленке
- Определение мощности потребления одной серверной стойки
- Определение количества стоек для размещения в выбранных помещениях
- Оценка общей мощности ЦОДа
- Оценка мощности системы кондиционирования и ее габаритов
- Расчет мощности ИБП и ДГУ
- Построение современного ЦОДа с нуля. Часть II
- Часть II. Разработка документации, строительство ЦОДа, сдача в эксплуатацию
- 📸 Видео
Видео:Дневники стройки: Вводим в эксплуатацию первую очередь ЦОД "Москва-V" уровня TIER IVСкачать
Макропоказатели ЦОДа: проектируем на коленке
Многие сталкивались с ситуацией, когда нужно оперативно рассмотреть возможность строительства ЦОДа на той или иной площадке. Как приблизительно оценить технические характеристики будущего объекта и его стоимость?
Работая более 15 лет в отрасли ЦОДов и не владея глубоко приемами проектирования инженерных систем, я вывел для себя ряд эмпирических закономерностей, позволяющих существенно упростить решение данной задачи на уровне руководителя.
Как правило, при осмотре объекта у заказчика возникают такие вопросы: «сколько здесь можно разместить оборудования?», «каковы необходимые площадь и энергомощность?», «сколько это может стоить?». Очевидно, что без разработки детального технического задания, без полного понимания разнообразия вариантов технических решений для реализации инженерных систем ЦОДа и без формирования проектной документации точные ответы на поставленные вопросы получить затруднительно. Но порядок цифр, который, собственно, и интересует заказчика, оценить вполне можно. Часто достаточно таких ответов, как «20–25 стоек», «300–350 кВт» или «17–19 млн руб.».
Последовательность действий при подобной оценке следующая:
- определение мощности, требуемой на одну стойку;
- определение количества стоек, которое можно разместить в выбранных помещениях;
- определение общей мощности, потребляемой ЦОДом, и номиналов оборудования отдельных инженерных подсистем;
- определение площадей, требуемых для внешних блоков инженерных систем;
- и наконец, определение бюджета строительства объекта.
Следует сразу оговорить некоторые детали подобной оценки, особенно ее финансовой составляющей. Стоимость разных моделей инженерного оборудования для дата-центров может существенно различаться в зависимости от бренда, страны производства, применяемых технологий и материалов. Различия могут быть также обусловлены комплектацией и дополнительными опциями. Поэтому точно определить стоимость строительства ЦОДа без разработки технического задания и хотя бы предварительной проработки проектных решений невозможно.
Например, стоимость системы мониторинга сильно зависит от требований к объему контролируемых параметров. Так, в ЦОДе, состоящем из 20 стоек, могут контролироваться такие параметры, как температура и влажность в коридорах, наличие напряжения на энерговводах. По протоколу SNMP могут собираться данные с оборудования ИБП, ДГУ и системы кондиционирования. Эта информация будет предоставляться пользователю через веб-интерфейс, а сообщения об авариях могут передаваться по GSM-каналу. Стоимость подобной системы может колебаться в пределах 300–800 тыс. руб. в зависимости от производителя и дополнительного функционала.
Но если заказчик захочет осуществлять мониторинг каждого блока розеток в каждой стойке, не говоря уже о контроле каждой розетки или управлении ими, то стоимость системы мониторинга может возрасти многократно, поскольку стоимость блока розеток на 20–25 портов с возможностью контроля только общего энергопотребления начинается от 40–60 тыс. руб. А таких блоков розеток нужно 40 штук, общей стоимостью порядка 2 млн руб.
Определение мощности потребления одной серверной стойки
По большому счету этот параметр должен задать заказчик, но нередко он сам не представляет четко, что собирается строить. В таком случае рекомендуется исходить из следующих предпосылок: если заказчик не планирует массово размещать в ЦОДе облачные структуры, виртуальные машины или оборудование для научных исследований, «крутящее» сложные вычисления, а предполагает устанавливать клиентское оборудование или собственные информационные системы, то мощность стойки принимается равной 5 кВт. Целесообразность такого выбора подтверждена многочисленными статистическими данными, полученными от коммерческих дата-центров.
При необходимости увеличить мощность, потребляемую одной стойкой, количество стоек, которые можно разместить в конкретном помещении, и иные характеристики ЦОДа можно будет пересчитать с помощью несложного алгоритма.
Определение количества стоек для размещения в выбранных помещениях
Я неоднократно сталкивался с желанием заказчика создать ЦОД в самых необычных помещениях, например на этажах недостроенной телебашни круглого сечения, в эркерах, подвалах неправильной формы и т.д. Оценивать такие помещения с точки зрения количества устанавливаемых в них серверных стоек существенно сложнее, чем обычные прямоугольные, – здесь нужна немалая инженерная фантазия. Поэтому остановимся на традиционных площадках. Следует только иметь в виду, что вместимость любых помещений неправильной формы будет на 20–50% меньше, нежели обычных.
Рассмотрим планировку типового ЦОДа на 96 стоек размером 600×1000 мм (рис. 1). Помещения для ИБП и АКБ на данном этапе не учитываем.
Для простоты расчетов предположим, что ряды стоек будут располагаться параллельно короткой стороне помещения. Для больших помещений такой подход с высокой долей вероятности приводит к более удобной компоновке оборудования в машинном зале. Кроме того, он облегчает соблюдение ограничения на максимальное расстояние от серверного оборудования до внутренних блоков системы кондиционирования. Для небольших помещений данное ограничение несущественно, и погрешность в оценке количества стоек становится небольшой.
Следующий этап – расположение холодных и горячих коридоров. Расстановка стоек по коридорам ограничивается традиционными размерами выпускаемых плит фальшпола, габаритами стоек и эргономическими требованиями к ширине проходов между рядами. Как правило, размеры плит фальшпола составляют 600 × 600 мм, габариты (Ш × Г) серверных стоек – 600–800 × 800–1200 мм. Для стоек мощностью до 5–7 кВт ширину холодного коридора принимают равной ширине двух рядов вентиляционных плит, а ширину горячего коридора – 1000 мм для стоек глубиной также 1000 мм (рис. 2).
Безусловно, при выборе ширины коридоров между рядами стоек возможна масса вариаций. Можно уменьшить горячий коридор до 800 мм и даже до 600 мм, используя двойные распашные двери и забывая об удобстве обслуживания. Можно устанавливать стойки не по линии стыка двух рядов плит фальшпола. Но все эти варианты стоит рассматривать лишь в ходе детального проектирования, при нехватке пространства для размещения оборудования.
Расположение рядов стоек описывается следующим образом:
- не менее 3,2 м для одного ряда стоек;
- не менее 5,2 м для полноценного холодного коридора (т.е. холодный коридор, два ряда стоек и два горячих коридора);
- каждый следующий холодный коридор (два ряда стоек, холодный коридор и горячий коридор) – плюс 4,2 м;
- каждый следующий ряд стоек (и холодный коридор) – плюс 2,2 м.
На основании этих данных при первичной оценке вместимости помещения можно рассчитать количество N холодных коридоров (два ряда стоек на коридор), которые можно разместить в помещении заданной длины L, используя формулу:
N = (L – 5,2) / 4,2 + 1.
Например, в помещении длиной 19 м можно сформировать минимум (19 – 5,2) / 4,2 + 1 = 4 холодных коридора (восемь рядов стоек).
Теперь подсчитаем, сколько стоек можно разместить в каждом ряду. Мы приняли, что ширина стойки 600 мм, соответственно ширина каждого ряда будет составлять 0,6 × К, где K – количество стоек в ряду. Кроме того, в торце каждого ряда могут быть установлены электрические распределительные щиты глубиной 300–400 мм. Далее нужно предусмотреть коридор для прохода персонала и проноса оборудования шириной не менее 1000–1200 мм и разместить внутренний блок системы кондиционирования глубиной 800–900 мм.
В итоге приблизительно 2–2,4 м по короткой стороне помещения занимают коридор для прохода, кондиционер и электрощит, а остальное пространство можно использовать под установку серверных стоек (рис. 3).
Количество стоек в ряду можно определить по следующей формуле:
K = (S – 2,4) / 0,6,
где S – ширина помещения.
Например, при ширине помещения S = 9,6 м количество стоек в ряду составит (9,6 – 2,4) / 0,6 = 12.
Однако необходимо помнить, что последнюю стойку в ряду рекомендуется располагать не далее 10–12 м от блока кондиционера. Это ограничение обусловлено физическими характеристиками распределения воздуха в подфальшпольном пространстве. Данные цифры не являются константой и зависят от высоты фальшпола, наличия препятствий воздушному потоку, напора кондиционера, но в большинстве типовых случаев их можно брать за основу. При расстоянии между последней стойкой и кондиционером более 10–12 м от следует запастись местом под установку второго ряда кондиционеров (+ 2 м к ширине зала).
В итоге получаем, что в нашем гипотетическом ЦОДе размерами 19 × 9,6 м можно разместить 12 × 4 × 2 = 96 стоек габаритами 600 × 1000 мм, и этот расчет совпадает с изначальным планировочным решением.
Есть более простой способ оценки вместимости ЦОДа. Он основан на статистических данных, полученных из реализованных проектов (табл. 1), и хотя он менее точен, чем произведенный нами расчет, но его погрешность вполне допустима для приблизительной оценки.
Построенные дата-центры (примеры 1–3) подтверждают статистические данные табл. 1. Однако не следует полагаться на приведенные цифры безоглядно, поскольку геометрия машинного зала – не единственный фактор, определяющий емкость ЦОДа. Нужное место в дата-центре занимает еще целый ряд объектов:
- пандусы и колонны;
- ИБП и системы АГПТ;
- помещения кроссовых;
- ГРЩ ЦОДа;
- хладоцентр.
В частности, по грубым прикидкам, площадь, необходимая для размещения ИБП и ГРЩ, составляет до 20% площади машинных залов.
Кроме того, на плотность установки оборудования могут повлиять такие факторы, как увеличение времени автономии ИБП и мощности одной стойки: повышение мощности с 5 до 10 кВт повлечет за собой увеличение площади машинных залов и технических помещений внутри здания на 40–60%.
Оценка общей мощности ЦОДа
Для начала проведем верхнеуровневую оценку общей максимальной мощности потребления ЦОДа исходя из количества стоек, рассчитанного на предыдущем этапе, и средней мощности серверной стойки. Для упрощения расчетов сделаем несколько «директорских» допущений. В частности, примем, что потери на ИБП составляют 8–10%, потребление системы кондиционирования – 35% потребления стоек и ИБП (для фреоновых систем) и 45% – для чиллер
ных систем. Потребление остальных инженерных систем – 5% потребления стоек и ИБП.
Общее максимальное потребление ЦОДа (Pобщ) рассчитывается по следующей формуле:
Pобщ = количество стоек × мощность стоек + потери на ИБП + потребление системы кондиционирования + потребление остальных систем.
Предположим, что у нас 30 стоек по 6 кВт. В этом случае:
потребление ИТ-оборудования = 30 × 6 = 180 кВт
потери на ИБП = 1800,08 = 14,4 кВт
общее потребление ИБП + стойки = 180 + 14,4 = 194,4 кВт
потребление фреоновой системы кондиционирования = 194,4 × 0,35 = 68,04 кВт
потребление остальных систем 194,4 × 0,05 = 9,72 кВт
общее потребление ЦОДа = 194,4 + 68,04 + 9,72 = 272 кВт.
Оценка мощности системы кондиционирования и ее габаритов
Общая мощность охлаждения системы кондиционирования (Pк) рассчитывается по формуле:
Pк = (потребление ИТ-оборудования + потери ИБП) × 1,1, где 1,1 – это запас.
При этом следует учитывать, что мощность одного шкафного фреонового кондиционера составляет в среднем 10–90 кВт. Кондиционеры мощностью до 40–50 кВт традиционно выпускаются в одноконтурном исполнении, что означает наличие одного компрессора и соответственно одного внешнего блока. Кондиционеры мощностью более 40–50 кВт – это уже двухконтурные машины (т.е. два компрессора и два внешних блока).
Средние размеры внутренних блоков фреоновых кондиционеров приведены в табл. 2 (у разных производителей эти параметры могут незначительно различаться).
Размер внешнего блока кондиционера мощностью 40–50 кВт составляет порядка 0,8–1 × 2,0–2,5 м. С учетом зоны обслуживания минимальная площадь, необходимая для установки внешнего блока мощностью 40–50 кВт, – 4 кв. м (2,5 × 1,5).
Исходя из опыта реализованных проектов (см. примеры 4 и 5), можно принять, что для размещения внешних блоков фреоновых кондиционеров требуется 30–35% площади машинных залов ЦОДа.
Расчет мощности ИБП и ДГУ
При расчете требуемой мощности источников бесперебойного питания (ИБП) и дизель-генераторной установки (ДГУ) будем использовать все те же «директорские» допущения.
Модель ИБП в общем случае подбирается исходя из мощности, потребляемой серверным оборудованием, с учетом параметра cos(f), который в среднем равен 0,85–0,95. Параметр cos(f) варьируется в зависимости от марки и модели оборудования. С мощностью ДГУ ситуация несколько более сложная. Для успешного запуска ДГУ в случае, когда одной из нагрузок является ИБП, следует учитывать коэффициент согласования (множитель), который колеблется в диапазоне 1,2–2. Такое требование обусловлено нелинейностью нагрузки ИБП, которая может оказывать существенное сопротивление запуску дизеля. Современные ИБП, построенные на IGBT-транзисторах, сократили необходимый запас мощности при выборе ДГУ, снизив коэффициент согласования до 1,2–1,5. Однако у разных производителей он может различаться. Чтобы уменьшить риск выбора ДГУ недостаточной мощности, в предварительных расчетах я рекомендую принимать коэффициент согласования равным 1,4.
Расчет мощности ИБП проводится по формуле:
Рибп (кВА) = количество стоек × мощность стойки (кВт) / cos(f).
Значение cos(f) выбирается равным 0,9.
Мощность ДГУ рассчитывается по формуле:
Рдгу (кВА) = Рибп (кВА) × 1,4 + потребление кондиционеров (кВт) / 0,7.
В данном случае 0,7 – это типичное значение cos(f) кондиционеров.
Площадь, необходимая для размещения ДГУ на прилежащей к ЦОДу территории, зависит от ее мощности (табл. 3).
Целесообразность использования межрядных фреоновых кондиционеров
Как правило, при строительстве традиционного ЦОДа, рассчитанного на установку стоек мощностью 5–7 кВт, целесообразнее использовать шкафные фреоновые кондиционеры в силу существенно более низкой стоимости 1 кВт их холодопроизводительности. Но в ряде случаев приходится прибегать к альтернативным техническим решениям. К этому могут вынудить следующие обстоятельства:
- высота помещения менее 2,8 м;
- расстояние от кондиционера до потолка меньше, чем высота фальшпола;
- тепловыделение на 1 стойку больше 8–9 кВт;
- невозможно организовать фальшпол;
- затруднен пронос оборудования системы кондиционирования (габариты самого большого межрядного кондиционера мощностью 35 кВт 0,6 × 2 × 1,2 м, в то время как габариты шкафного кондиционера (90 кВт) – 2,5 × 2 × 0,9 м).
Перед финальной (финансовой) частью статьи хотелось бы сделать несколько замечаний, которые помогут упростить оценку возможности строительства ЦОДа на обследуемой площадке.
Рассматривая систему кондиционирования, следует иметь в виду, что обычно производители рекомендуют ограничивать трассу фреоновых систем 35–40 м. На практике нередки случаи реализации систем с протяженностью трассы до 50–60 м, но при выполнении дополнительных технических условий. Ряд производителей заявляют о возможности прокладки трассы длиной до 100 м, однако примеров применения подобных экспериментальных решений в ЦОДах замечено не было. Если место установки внешних блоков системы кондиционирования находится на расстоянии 50 м от машинного зала, то нужно задуматься о переходе на чиллерные системы.
При выборе схемы резервирования основного инженерного оборудования, особенно в небольших ЦОДах, не стоит забывать о том, что порой решение 2N может оказаться дешевле решения N + 1 (или сравнимым с ним по цене), так как, например, для изготовления трех кондиционеров необходимо использовать три контроллера, три компрессора, три корпуса и т.д., а при изготовлении двух кондиционеров понадобится всего по два, хотя и большей мощности.
Оценка бюджета строительства объекта
В табл. 4 приведена удельная стоимость отдельных подсистем ЦОДа, реализованного с применением наиболее популярных технических решений.
При составлении таблицы были сделаны следующие допущения:
- вместимость ЦОДа – от 50 стоек;
- длина трассы кондиционеров – 20–30 м;
- фреоновое охлаждение;
- резервирование не выше N + 1 (ДГУ – без резервирования);
- выбор оборудования среднего ценового диапазона;
- мониторинг среднего уровня глубины.
Как отмечалось выше, стоимостные характеристики можно оценить только «в среднем по больнице», с существенными оговорками. Но даже такие оценки могут стать точкой, от которой можно будет отталкиваться при принятии решения о целесообразности строительства ЦОДа.
Видео:Кто работает в ЦОД? Ежедневный обход с дежурным инженером.Скачать
Макропоказатели ЦОДа: проектируем на коленке
Работая более 15 лет в отрасли ЦОДов и не владея глубоко приемами проектирования инженерных систем, я вывел для себя ряд эмпирических закономерностей, позволяющих существенно упростить решение данной задачи на уровне руководителя.
Как правило, при осмотре объекта у заказчика возникают такие вопросы: «сколько здесь можно разместить оборудования?», «каковы необходимые площадь и энергомощность?», «сколько это может стоить?». Очевидно, что без разработки детального технического задания, без полного понимания разнообразия вариантов технических решений для реализации инженерных систем ЦОДа и без формирования проектной документации точные ответы на поставленные вопросы получить затруднительно. Но порядок цифр, который, собственно, и интересует заказчика, оценить вполне можно. Часто достаточно таких ответов, как «20–25 стоек», «300–350 кВт» или «17–19 млн руб.».
Последовательность действий при подобной оценке следующая:
- определение мощности, требуемой на одну стойку;
- определение количества стоек, которое можно разместить в выбранных помещениях;
- определение общей мощности, потребляемой ЦОДом, и номиналов оборудования отдельных инженерных подсистем;
- определение площадей, требуемых для внешних блоков инженерных систем;
- и наконец, определение бюджета строительства объекта.
Следует сразу оговорить некоторые детали подобной оценки, особенно ее финансовой составляющей. Стоимость разных моделей инженерного оборудования для дата-центров может существенно различаться в зависимости от бренда, страны производства, применяемых технологий и материалов. Различия могут быть также обусловлены комплектацией и дополнительными опциями. Поэтому точно определить стоимость строительства ЦОДа без разработки технического задания и хотя бы предварительной проработки проектных решений невозможно.
Например, стоимость системы мониторинга сильно зависит от требований к объему контролируемых параметров. Так, в ЦОДе, состоящем из 20 стоек, могут контролироваться такие параметры, как температура и влажность в коридорах, наличие напряжения на энерговводах. По протоколу SNMP могут собираться данные с оборудования ИБП, ДГУ и системы кондиционирования. Эта информация будет предоставляться пользователю через веб-интерфейс, а сообщения об авариях могут передаваться по GSM-каналу. Стоимость подобной системы может колебаться в пределах 300–800 тыс. руб. в зависимости от производителя и дополнительного функционала.
Но если заказчик захочет осуществлять мониторинг каждого блока розеток в каждой стойке, не говоря уже о контроле каждой розетки или управлении ими, то стоимость системы мониторинга может возрасти многократно, поскольку стоимость блока розеток на 20–25 портов с возможностью контроля только общего энергопотребления начинается от 40–60 тыс. руб. А таких блоков розеток нужно 40 штук, общей стоимостью порядка 2 млн руб.
Определение мощности потребления одной серверной стойки
По большому счету этот параметр должен задать заказчик, но нередко он сам не представляет четко, что собирается строить. В таком случае рекомендуется исходить из следующих предпосылок: если заказчик не планирует массово размещать в ЦОДе облачные структуры, виртуальные машины или оборудование для научных исследований, «крутящее» сложные вычисления, а предполагает устанавливать клиентское оборудование или собственные информационные системы, то мощность стойки принимается равной 5 кВт. Целесообразность такого выбора подтверждена многочисленными статистическими данными, полученными от коммерческих дата-центров.
При необходимости увеличить мощность, потребляемую одной стойкой, количество стоек, которые можно разместить в конкретном помещении, и иные характеристики ЦОДа можно будет пересчитать с помощью несложного алгоритма.
Определение количества стоек для размещения в выбранных помещениях
Я неоднократно сталкивался с желанием заказчика создать ЦОД в самых необычных помещениях, например на этажах недостроенной телебашни круглого сечения, в эркерах, подвалах неправильной формы и т.д. Оценивать такие помещения с точки зрения количества устанавливаемых в них серверных стоек существенно сложнее, чем обычные прямоугольные, – здесь нужна немалая инженерная фантазия. Поэтому остановимся на традиционных площадках. Следует только иметь в виду, что вместимость любых помещений неправильной формы будет на 20–50% меньше, нежели обычных.
Рассмотрим планировку типового ЦОДа на 96 стоек размером 600×1000 мм (рис. 1). Помещения для ИБП и АКБ на данном этапе не учитываем.
Для простоты расчетов предположим, что ряды стоек будут располагаться параллельно короткой стороне помещения. Для больших помещений такой подход с высокой долей вероятности приводит к более удобной компоновке оборудования в машинном зале. Кроме того, он облегчает соблюдение ограничения на максимальное расстояние от серверного оборудования до внутренних блоков системы кондиционирования. Для небольших помещений данное ограничение несущественно, и погрешность в оценке количества стоек становится небольшой.
Следующий этап – расположение холодных и горячих коридоров. Расстановка стоек по коридорам ограничивается традиционными размерами выпускаемых плит фальшпола, габаритами стоек и эргономическими требованиями к ширине проходов между рядами. Как правило, размеры плит фальшпола составляют 600×600 мм, габариты (Ш×Г) серверных стоек – 600–800 × 800–1200 мм. Для стоек мощностью до 5–7 кВт ширину холодного коридора принимают равной ширине двух рядов вентиляционных плит, а ширину горячего коридора – 1000 мм для стоек глубиной также 1000 мм (рис. 2).
Безусловно, при выборе ширины коридоров между рядами стоек возможна масса вариаций. Можно уменьшить горячий коридор до 800 мм и даже до 600 мм, используя двойные распашные двери и забывая об удобстве обслуживания. Можно устанавливать стойки не по линии стыка двух рядов плит фальшпола. Но все эти варианты стоит рассматривать лишь в ходе детального проектирования, при нехватке пространства для размещения оборудования.
Расположение рядов стоек описывается следующим образом:
- не менее 3,2 м для одного ряда стоек;
- не менее 5,2 м для полноценного холодного коридора (т.е. холодный коридор, два ряда стоек и два горячих коридора);
- каждый следующий холодный коридор (два ряда стоек, холодный коридор и горячий коридор) – плюс 4,2 м;
- каждый следующий ряд стоек (и холодный коридор) – плюс 2,2 м.
На основании этих данных при первичной оценке вместимости помещения можно рассчитать количество N холодных коридоров (два ряда стоек на коридор), которые можно разместить в помещении заданной длины L, используя формулу:
N = (L – 5,2) / 4,2 + 1.
Например, в помещении длиной 19 м можно сформировать минимум (19 – 5,2) / 4,2 + 1 = 4 холодных коридора (восемь рядов стоек).
Теперь подсчитаем, сколько стоек можно разместить в каждом ряду. Мы приняли, что ширина стойки 600 мм, соответственно ширина каждого ряда будет составлять 0,6×К, где K – количество стоек в ряду. Кроме того, в торце каждого ряда могут быть установлены электрические распределительные щиты глубиной 300–400 мм. Далее нужно предусмотреть коридор для прохода персонала и проноса оборудования шириной не менее 1000–1200 мм и разместить внутренний блок системы кондиционирования глубиной 800–900 мм.
В итоге приблизительно 2–2,4 м по короткой стороне помещения занимают коридор для прохода, кондиционер и электрощит, а остальное пространство можно использовать под установку серверных стоек (рис. 3).
Количество стоек в ряду можно определить по следующей формуле:
K = (S – 2,4) / 0,6,
где S – ширина помещения.
Например, при ширине помещения S = 9,6 м количество стоек в ряду составит (9,6 – 2,4) / 0,6 = 12.
Однако необходимо помнить, что последнюю стойку в ряду рекомендуется располагать не далее 10–12 м от блока кондиционера. Это ограничение обусловлено физическими характеристиками распределения воздуха в подфальшпольном пространстве. Данные цифры не являются константой и зависят от высоты фальшпола, наличия препятствий воздушному потоку, напора кондиционера, но в большинстве типовых случаев их можно брать за основу. При расстоянии между последней стойкой и кондиционером более 10–12 м от следует запастись местом под установку второго ряда кондиционеров (+ 2 м к ширине зала).
В итоге получаем, что в нашем гипотетическом ЦОДе размерами 19×9,6 м можно разместить 12×4×2 = 96 стоек габаритами 600×1000 мм, и этот расчет совпадает с изначальным планировочным решением.
Есть более простой способ оценки вместимости ЦОДа. Он основан на статистических данных, полученных из реализованных проектов (табл. 1), и хотя он менее точен, чем произведенный нами расчет, но его погрешность вполне допустима для приблизительной оценки.
Построенные дата-центры (примеры 1–3) подтверждают статистические данные табл. 1. Однако не следует полагаться на приведенные цифры безоглядно, поскольку геометрия машинного зала – не единственный фактор, определяющий емкость ЦОДа. Нужное место в дата-центре занимает еще целый ряд объектов:
- пандусы и колонны;
- ИБП и системы АГПТ;
- помещения кроссовых;
- ГРЩ ЦОДа;
- хладоцентр.
В частности, по грубым прикидкам, площадь, необходимая для размещения ИБП и ГРЩ, составляет до 20% площади машинных залов.
Кроме того, на плотность установки оборудования могут повлиять такие факторы, как увеличение времени автономии ИБП и мощности одной стойки: повышение мощности с 5 до 10 кВт повлечет за собой увеличение площади машинных залов и технических помещений внутри здания на 40–60%.
Оценка общей мощности ЦОДа
Для начала проведем верхнеуровневую оценку общей максимальной мощности потребления ЦОДа исходя из количества стоек, рассчитанного на предыдущем этапе, и средней мощности серверной стойки. Для упрощения расчетов сделаем несколько «директорских» допущений. В частности, примем, что потери на ИБП составляют 8–10%, потребление системы кондиционирования – 35% потребления стоек и ИБП (для фреоновых систем) и 45% – для чиллерных систем. Потребление остальных инженерных систем – 5% потребления стоек и ИБП.
Общее максимальное потребление ЦОДа (Pобщ) рассчитывается по следующей формуле:
Pобщ = количество стоек × мощность стоек + потери на ИБП + потребление системы кондиционирования + потребление остальных систем.
Предположим, что у нас 30 стоек по 6 кВт. В этом случае:
потребление ИТ-оборудования = 30×6 = 180 кВт
потери на ИБП = 1800,08 = 14,4 кВт
общее потребление ИБП + стойки = 180 + 14,4 = 194,4 кВт
потребление фреоновой системы кондиционирования = 194,4×0,35 = 68,04 кВт
потребление остальных систем 194,4 × 0,05 = 9,72 кВт
общее потребление ЦОДа = 194,4 + 68,04 + 9,72 = 272 кВт.
Оценка мощности системы кондиционирования и ее габаритов
Общая мощность охлаждения системы кондиционирования (Pк) рассчитывается по формуле:
Pк = (потребление ИТ-оборудования + потери ИБП)×1,1, где 1,1 – это запас.
При этом следует учитывать, что мощность одного шкафного фреонового кондиционера составляет в среднем 10–90 кВт. Кондиционеры мощностью до 40–50 кВт традиционно выпускаются в одноконтурном исполнении, что означает наличие одного компрессора и соответственно одного внешнего блока. Кондиционеры мощностью более 40–50 кВт – это уже двухконтурные машины (т.е. два компрессора и два внешних блока).
Средние размеры внутренних блоков фреоновых кондиционеров приведены в табл. 2 (у разных производителей эти параметры могут незначительно различаться).
Размер внешнего блока кондиционера мощностью 40–50 кВт составляет порядка 0,8–1×2,0–2,5 м. С учетом зоны обслуживания минимальная площадь, необходимая для установки внешнего блока мощностью 40–50 кВт, – 4 кв. м (2,5×1,5).
Исходя из опыта реализованных проектов (см. примеры 4 и 5), можно принять, что для размещения внешних блоков фреоновых кондиционеров требуется 30–35% площади машинных залов ЦОДа.
Расчет мощности ИБП и ДГУ
При расчете требуемой мощности источников бесперебойного питания (ИБП) и дизель-генераторной установки (ДГУ) будем использовать все те же «директорские» допущения.
Модель ИБП в общем случае подбирается исходя из мощности, потребляемой серверным оборудованием, с учетом параметра cos(f), который в среднем равен 0,85–0,95. Параметр cos(f) варьируется в зависимости от марки и модели оборудования. С мощностью ДГУ ситуация несколько более сложная. Для успешного запуска ДГУ в случае, когда одной из нагрузок является ИБП, следует учитывать коэффициент согласования (множитель), который колеблется в диапазоне 1,2–2. Такое требование обусловлено нелинейностью нагрузки ИБП, которая может оказывать существенное сопротивление запуску дизеля. Современные ИБП, построенные на IGBT-транзисторах, сократили необходимый запас мощности при выборе ДГУ, снизив коэффициент согласования до 1,2–1,5. Однако у разных производителей он может различаться. Чтобы уменьшить риск выбора ДГУ недостаточной мощности, в предварительных расчетах я рекомендую принимать коэффициент согласования равным 1,4.
Расчет мощности ИБП проводится по формуле:
Рибп (кВА) = количество стоек×мощность стойки (кВт) / cos(f).
Значение cos(f) выбирается равным 0,9.
Мощность ДГУ рассчитывается по формуле:
Рдгу (кВА) = Рибп (кВА)×1,4 + потребление кондиционеров (кВт) / 0,7.
В данном случае 0,7 – это типичное значение cos(f) кондиционеров.
Площадь, необходимая для размещения ДГУ на прилежащей к ЦОДу территории, зависит от ее мощности (табл. 3).
Видео:Как устроен и функционирует Дата-центр. Для нас открыли все двери в ЦОДе Greenbush dcСкачать
Построение современного ЦОДа с нуля. Часть II
В первой части Александр Лебедев уже рассказал о том, как разработать план и составить техническое задание для участников команды. Сегодня поговорим о проектировании, строительстве и сдаче в эксплуатацию центра обработки данных.
Видео:Как работает ЦОД: источник гарантированного питания (ДГУ)Скачать
Часть II. Разработка документации, строительство ЦОДа, сдача в эксплуатацию
Строительство ЦОДа: этап 2. Проектирование и разработка технической документации
Процесс проектирования ЦОДа – задача, которая требует комплексного подхода и учета достаточно большого количества взаимосвязанных факторов. На данном этапе реализуется разработка эскизного проекта дата-центра, определяются конструктивные и архитектурные особенности, предварительная планировка, перечень и номиналы необходимого инженерного оборудования.
Бесперебойная эксплуатация ЦОДа зависит от качества и детальности проработки проекта. На данном этапе крайне важны не только высокий профессионализм и компетенция проектировщиков, но и их реальный опыт в проектировании, строительстве и эксплуатации дата-центров, начиная от устранения причин протечки крыши и коротких замыканий в электроцепи, заканчивая знаниями всех элементов вентиляции и других звеньев функциональных структур.
Первый наш опыт построения серверной был не самым удачным, мы допустили ряд ошибок, не были проработаны все детали и элементы структуры. В результате чего малейшие незначительные действия (кто-то задел проводок или отсоединился патч-корд) приводили к большим проблемам. Был случай соединения питания под фальш-полом через сетевой фильтр, который перегорел, а мы долго искали, где разрыв цепи. Была потрачена уйма времени и сил, не говоря о простое в работе.
Вот как выглядела наша старая серверная:
Проектирование ЦОД осуществляется в соответствии с постановлением Правительства РФ от 16.02.2008 г №87 «О составе разделов проектной документации и требованиями к их содержанию», региональными строительными нормами и требованиями технического задания. При проектировании ЦОД учитываются требования действующего законодательства и нормативных документов по пожарной безопасности, охране труда и экологии.
В России с 1 августа 2020 года вводятся в действие два новых национальных стандарта, устанавливающих нормы создания и эксплуатации инженерной инфраструктуры ЦОДов. Эти стандарты (ГОСТ Р 58811-2020 «Центры обработки данных. Инженерная инфраструктура. Стадии создания» и ГОСТ Р 58812-2020 «Центры обработки данных. Инженерная инфраструктура. Операционная модель эксплуатации. Спецификация») опубликованы на официальном портале Федерального агентства по техническому регулированию и метрологии (Росстандарт). В эпоху глобальной цифровизации введение такие стандартов в области регулирования строительства и использования дата-центров является немаловажным шагом в развитие отрасли в целом. Данные стандарты позволят улучшить качество предоставляемых услуг, оптимизировать строительство и эксплуатацию ЦОД.
Помимо национальной нормативной базы существует ряд международных стандартов, широко применяемых на практике:
- Стандарты Tier Standard: Topology и Tier Standard: Operational Sustainability, определяющие критерии классификации физической инфраструктуры ЦОД, разработанные The Uptime Institute;
- Международный стандарт ISO/IEC 30134 «Информационные технологии – Центры обработки данных – ключевые показатели эффективности», содержащий общие требования и положения, нормы эффективности использования мощности (PUE), регламент возобновляемого энергетический фактора;
- Стандарт 002–2010: Data Center Design and Implementation Best Practices, разработанный Международной консультативной службой строительной отрасли и расширенный в 2015 году с выходом ANSI/BICSI 002–2014;
- Европейский стандарт EN 50600, подготовленный Европейским комитетом электротехнической стандартизации (CENELEC), определяющий регламент проектирования сооружений и инфраструктуры центров обработки данных;
- Стандарт ANSI/TIA-942-A Telecommunications Infrastructure Standard for Data Centers, разработанный Ассоциацией телекоммуникационной отрасли (TIA) и Американским национальным институтом стандартов (ANSI), затрагивающий в основном кабельную и сетевую инфраструктуру, и предусматривающий избыточность и надежность в соответствии с уровнями The Uptime Institute;
- И другие стандарты.
В процессе проектирования ЦОДа и разработки комплекта проектной и рабочей документации осуществляется постановка и решение задач следующего направления:
- Формулирование общей концепции проекта ЦОД, планирование инфраструктуры. Составляются эскизы размещения оборудования, выбираются оптимальные пути прокладки кабельных трасс. Рассчитываются параметры потребляемой мощности, а также отводимого тепла;
- Проектирование и построение структурированных кабельных систем (СКС) с учетом заданных параметров и пожеланий заказчика. СКС связывают между собой компоненты дата-центра;
- Обустройство помещения с учетом требований пожарной безопасности;
- Монтаж источников бесперебойного питания;
- Построение эффективных систем охлаждения и кондиционирования, позволяющих создать необходимый для оборудования микроклимат;
- Расстановка серверных стоек и шкафов, монтаж патч-панелей, заведение основных магистралей и подключение питания;
- Размещение серверного и другого активного оборудования;
- Обеспечение безопасности объекта за счет установки видеонаблюдения и контроля доступа на объект.
Главные требования к дата-центрам – это надежность оборудования, достаточная скорость передачи данных, безопасность информации и наращиваемость инфраструктуры. Все эти показатели достигаются путем применения самых современных решений в организации структурированных кабельных систем и локальных вычислительных сетей. Поскольку именно они являются основой для организации других инженерных и телекоммуникационных систем, рассмотрим более подробно основные элементы инженерной инфраструктуры ЦОДа.
Помещение дата-центра
Помещение центра обработки данных (серверной) не должно быть проходным. Нецелесообразно размещать ЦОД рядом с внутренними конструкциями здания, которые ограничивают возможное расширение в будущем: лестничные марши, лифтовые шахты и т.д. Рекомендуется под ЦОД использовать помещение без окон, а если все-таки окна имеются, то размещать оборудование на северной или северо-восточной стороне здания. Необходимо избегать близкого размещения к источникам мощных электромагнитных полей, а также размещать рядом с оборудованием с повышенной вибрацией.
Минимально допустимый размер помещения ЦОДа (серверной) – 14 кв. м. Помещение должно иметь площадь для правильного расположения вычислительных ресурсов и обслуживающего оборудования или составлять 0,07 кв. м на каждые 10 кв. м обслуживаемых рабочих мест. Минимальная высота потолка должна составлять 2,44 м. Перекрытия здания должны выдерживать нагрузку минимум 1000 кг на 1 кв. м.
Пол, в соответствии с п.17.20 РД 45.120-2000, должен быть ровным и иметь антистатическое покрытие с сопротивлением 106 Ом, обеспечивающее стекание и отвод статического электричества. Настил пола осуществляется на несгораемое основание. Рекомендуется использовать фальшпол.
Дата-центр – это помещение с определенной структурой. Оно может состоять из таких элементов, как:
- Машинный зал, в котором размещается оборудование, связанное кабельной системой;
- Комната ввода, которая подключается к одному или нескольким интернет-провайдерам;
- Главная распределительная зона, в которой располагаются коммутаторы и маршрутизаторы;
- Горизонтальная распределительная зона, связывающая элементы ЦОД с помощью кабелей;
- Аппаратные зоны (например, серверные стойки и распределительные шкафы);
- Кабельная система.
Наш центр обработки данных занимает помещение общей площадью 100 кв. м правильной прямоугольной формы с допусками не более 1 см. Состоит из зон: главная зона с оборудованием (серверная), горизонтальная распределительная система (трасса для слаботочных систем и зона для оборудования пожаротушения (см. Рис.5). Основное оборудование размещено в комнате без окон, где имеется фальшпол (высотой 0,5 м от уровня основного пола).
Рис. 5. План-схема ЦОДа ООО «РТП»
Система электроснабжения ЦОДа
Обеспечение постоянного и бесперебойного энергоснабжения – основная задача при создании ЦОДа. Предусматривается несколько вводов электроснабжения, чтобы обеспечить надежность работы центра. Для бесперебойного функционирования оборудования, дата-центры оснащаются надежной системой электропитания с защищенными кабельными линиями и автоматизированной системой диспетчеризации (позволяющей дистанционно проводить мониторинг работы оборудования и аварийных ситуаций), управления и перехода на резервные линии электропитания. Система бесперебойного электропитания дата-центров строится на базе ИБП, что позволяет при сбоях работать автономно, пока неполадки с электроснабжением не будут устранены. Внедрение ИБП помогает не только избежать перебоев в работе ЦОДа, но и уменьшить число отказов оборудования за счет повышения качества электропитания. С целью исключения возможности простоя дата-центра при длительных отключениях электроэнергии, предусматривается поддержка в виде дизель-генератора, который может осуществлять энергоснабжение в полном объеме.
Наш ЦОД обладает всеми параметрами уровня TIER-II, а по ряду характеристик соответствует уровню TIER-III. Электропитание осуществляется от двух независимых вводов от города и подается одновременно на два комплекта ИБП (для основной и инженерной нагрузок). Каждый комплект ИБП подключен к отдельному ДГУ, рассчитанному на 8-часовое отключение от основного источника электропитания. Чтобы не перегружать перекрытия здания, ИБП расположены на первом этаже здания, а ДГУ — в подвале. Сам ЦОД расположен на 6 (и последнем) этаже офисного помещения, в максимальной близости к антенному посту. Кабельные линии ВОЛС и электропитания проложены по двум вертикальным стоякам в разных концах здания. В каждой стойке предусмотрено 2PDU для бесперебойной работы оборудования с двумя БП.
Системы кондиционирования и климата
Для создания необходимых условий работы дата-центра требуется поддерживать в нем заданную влажность, температуру и подвижность воздуха. Система вентиляции и кондиционирования должна функционировать в режиме 24х7х365, поэтому ее работа должна дополнительно поддерживаться с помощью резервного генератора, и при этом работа оборудования не должна зависеть и от внешних погодных условий.
Основные климатические показатели для дата-центров представлены в Таблице 2.
Таблица 2. Значение предельных климатических показателей для ЦОДов
Показатель | Значение в пределах нормы |
---|---|
Температура воздуха в помещении | +18…+25°С |
Влажность воздуха | 40…55% |
Скорость изменения влажности | Не более 6% в час |
Запыленность | Не более 0,0001 г/м 3 |
Достичь «идеальных» показателей не так просто. Даже у крупных и профессиональных ЦОДов бывают определенные сложности с этим. Так, например, в загруженном помещении дата-центра температура воздуха может повышаться до 30°С, что негативно сказывается на производительности оборудования, его отказоустойчивости и долговечности. На некоторых этажах ММТС-9 (X этаж), где располагались наши стойки, температура иногда серьезно превышала данный показатель.
Основная цель системы кондиционирования – не максимально охладить оборудование, ведь тогда нарушается теплообмен и нормальные условия работы оборудования, а отвести произведенное тепло от оборудования. В связи с чем выделяют системы кондиционирования (охлаждения) ЦОДа следующих видов:
1. Охлаждение на уровне зала. Установка одного или нескольких прецизионных кондиционеров в помещении. Неизбежное смешивание теплых и холодных потоков воздуха может снизить эффективность системы в целом.
А) Используются прецизионные кондиционеры (см. Рис. 6). Эффективность охлаждения 1-3 кВт на стойку.
Рис. 6. Схема охлаждения прецизионным кондиционером на уровне зала
Б) Используются прецизионные кондиционеры и фальшполы (с системой вытяжной вентиляции или без нее – см. Рис. 7 и 8). Потоки холодного воздуха подаются непосредственно через холодные коридоры фальшпола. Эффективность охлаждения до 5 кВт на стойку.
Рис. 7. Схема охлаждения на уровне зала с использованием фальшпола
Использование системы вытяжной вентиляции способствует предотвращению перемешивания потоков холодного и горячего воздуха путем вывода последнего от стоек через специальные воздухоотводы в общую систему вытяжной вентиляции. При этом сопла вытяжки располагаются непосредственно над горячими коридорами.
Рис. 8. Схема охлаждения на уровне зала с использованием фальшпола и системы вытяжной вентиляции
2. Охлаждение на уровне рядов (см. Рис. 9). Кондиционеры устанавливаются в ряду самих шкафов, путь циркуляции воздуха становится короче. Не нужны мощные вентиляторы, что снижает общие энергозатраты.
Рис. 9. Схема охлаждения на уровне рядов.
А) С изоляцией холодного коридора. В этом случае шкафы располагаются в один ряд напротив стены либо в 2 ряда друг напротив друга. Зона подачи холодного воздуха перекрывается крышей и дверями/шторками, создавая изолированный объем.
Б) С изоляцией горячего коридора. В этом случае шкафы располагаются спиной друг к другу, и изолируется зона горячего коридора.
3. Охлаждение на уровне стоек (см. Рис. 10). Для каждого серверного шкафа устанавливается свой кондиционер и средства изоляции пространства вокруг кондиционера. Воздушные потоки не попадают во внешнюю среду помещения – замкнутая система кондиционирования. Самое эффективное охлаждение без потерь.
Рис. 10. Система охлаждения на уровне стоек
Разные дата-центры выбирают подходящие системы кондиционирования помещения под свои нужды в зависимости от геометрии помещения, высоты потолков, плотности застройки и других технических характеристик.
Рис. 11. ЦОД StoreData. Система охлаждения на уровне ряда с изолированием холодных коридоров.
Рис. 12. ЦОД Останкино. Система охлаждения на уровне ряда с изолированием холодных коридоров.
Рис. 13. ЦОД МТС – Авантаж. Система охлаждения на уровне ряда с изолированием холодных коридоров.
Рис. 14. DataSpace. Разграничение горячего и холодного коридора без изолирования зон
Рис. 15. MCN Telecom. Система охлаждения на уровне стойки
Рис. 16. ЦОД Нагорная. Система охлаждения на уровне зала (в зале для нестандартного оборудования)
Для нашего ЦОДа мы выбрали систему охлаждения на уровне зала: четыре прецизионных кондиционера Schneider-Electricи наличие фальшпола, благодаря чему в помещении поддерживается температура воздуха на уровне +22°С. При помощи двух промышленных увлажнителей Carel серии HumiSteam X-Plus поддерживаем относительную влажность воздуха в пределах 45%. С целью предотвращения запыленности помещения регулируем приток воздуха из системы вентиляции, чтобы он был сильнее, чем мощность вытяжки, таким образом «прибивая» пыль к полу. Также наш фальшпол оснащен специальным антистатическим покрытием, препятствующим накоплению на поверхности статического электрического заряда (блуждающие статические токи), что способствует уменьшению пылеобразования в помещении. Ежедневно в помещении проводится влажная уборка. Все сотрудники при посещении ЦОДа надевают бахилы.
Система пожаротушения
Во многом надежность сохранения информации в дата-центрах зависит от мероприятий по пожарной безопасности, применяемых методов и средств пожаротушения. Системы пожаротушения для ЦОД проектируются с учетом требований по пожарной безопасности для данной категории помещений. Существует несколько типов систем пожаротушения (см. Табл. 4).
Таблица 4. Основные типы систем пожаротушения и их сравнительные характеристики 1
Характеристики | Аэрозольная/ Порошковая | Газовая | Тонкораспыленная вода высокого давления | Гипоксический метод тушения |
---|---|---|---|---|
Описание | Выброс порошковой химии и распыление продуктов горения аэрозоля, образующих пленку, предотвращающую проникновение кислорода | Ввод специального газа в помещение, снижающего содержание кислорода и препятствующего процессу горения | Распыление мелкодисперсного водяного тумана на область горения, что приводит к снижению уровня кислорода на местном уровне и охлаждает зону возникновения огня | Создание и поддержание атмосферы, в которой пожар не может возникнуть. Постоянное снижение содержания кислорода в помещении до уровня ниже 14% путем введения азота |
Рыночная стоимость СПТ для помещения 2,6 тыс. м 3 , млн руб. | 0,2 – 0,5 | 6,5 – 11,8 | 15,9 – 16 | ≈20 |
Опасность для оборудования | Да, проявляется со временем | Нет | Нет | Нет |
Опасность для человека и окружающей среды | Да | Да | Нет | Нет |
Последствия ложного срабатывания | Небольшие убытки, замена сработавших модулей | Огромные убытки, перезаправка всей системы | Минимум | — |
Шанс ложного срабатывания | Присутствует | Присутствует | Присутствует | Отсутствует |
Особые требования к помещению (герметичность, контроль состояния дверей, доп. клапаны, затворы, особая вентиляция и пр.) | Нет | Да | Нет | Да |
Пожаротушение серверной с помощью других автоматических систем пожаротушения не рекомендуется по причине высокой вероятности повреждения оборудования и потери данных.
В нашем ЦОДе мы установили газовую систему пожаротушения, с удвоенным объемом баллонов (основные и резервные). Используемый тип огнетушащего вещества Novec 1230 (Фторкетон ФК-5-1-12).
Система безопасности и контроля доступа
Для предотвращения проникновения посторонних и кражи данных, в дата-центрах используются различные системы ограничения физического доступа, системы видеонаблюдения, охранной и пожарной сигнализации, системы контроля доступа, использующие RFID и биометрическую авторизацию. А в некоторых ЦОДах (например, DataLine) используют проход через несколько контрольно-пропускных пунктов, прежде чем человек попадает непосредственно в помещение ЦОДа.
Для безопасности нашего ЦОДа мы используем:
- Современную систему видеонаблюдения, исключающую «слепые зоны» и передающую информацию в режиме реального времени на панель видеонаблюдения службы безопасности дежурному сотруднику. Дополнительно вся информация хранится на защищенных серверах службы безопасности в течение месяца. В помещении машинного зала в дополнение к охранной системе видеонаблюдения установлены камеры технического видеонаблюдения, которое охватывает каждую стойку для контроля работоспособности оборудования и удаленной технической помощи дежурному персоналу, с обязательным хранением информации не менее 6 месяцев.
- СКУД – многофункциональную отечественную систему Parsec для регулирования санкционированного входа/выхода сотрудников ЦОД и учета рабочего времени каждого сотрудника. Помимо общей системы контроля и управления доступом в помещения нашего ЦОД и прилегающих территорий, реализована система видеоверификации, и в ближайшее время будет осуществлена интеграция системы биометрического доступа в наиболее ответственные помещения. На каждой двери на вход и выход установлены контролеры доступа с источником бесперебойного питания и передачей информации по IP. Даже при возникновении чрезвычайной ситуации доступ в технические помещения имеет только сертифицированный персонал с правом доступа, так как ЦОД оснащен современной системой автоматического пожаротушения, не нуждающейся в присутствии человека. В дневное время доступ на территорию объекта осуществляется через пункт охраны с обязательной проверкой личности. В ночное время доступ в ЦОД имеют только дежурные технические службы.
- Систему пожарной сигнализации, интегрированную с системой газового пожаротушения. Также в нашем ЦОДе реализована система оповещения о возможном перегреве силовых кабелей как часть системы пожарной сигнализации. Это система предварительного оповещения о возможной проблеме. Перегрев кабеля питания может сигнализировать об излишней нагрузке на нем, о проблеме оборудования или контактов, о повышенной плотности прокладки силовых линий на каком-либо участке, либо же о локальном перегреве и возгорании. Термокабель проложен так, чтобы по схеме было понятно, на каком участке и с каким силовым кабелем возникла проблема. Соответственно в пожарном щите установлены приемно-контрольные модули для этого кабеля, с которых сигнал идет в общую систему управления и мониторинга пожарной сигнализации.
Этап 3. Строительство ЦОДа
Для выполнения всего комплекса работ по строительству ЦОДа требуется штат сотрудников, обладающих высоким уровнем знаний и большим практическим опытом по созданию дата-центров. А такие специализированные системы, как пожаротушение, кондиционирование и пр., лучше адресовать профильным организациям.
Порядок проведения строительных работ:
1. Предварительные строительные работы. Подготовка зала: архитектура помещения, его геометрия и зонирование, существенно влияет на климат внутри помещения, распределение воздушных потоков, уровень влажности и пр. На данном этапе также происходит подготовка стен, пола и потолка.
2. Инженерные работы, монтаж:
- Кондиционирование;
- Система приточно-вытяжной вентиляции;
- Система электроснабжения (в т.ч. бесперебойного);
- Система пожаротушения и удаления продуктов тушения после пожара;
- Система пожарной сигнализации;
- Система охранной сигнализации ;
- Система видеонаблюдения;
- СКУД;
- СКС ЦОД;
- Мониторинг;
- Заземление и молниезащита.
3. Пуско-наладочные работы. Происходит поставка оборудования, размещение его на местах, подключение к энергосетям и информационным каналам. Идет наладка серверного оборудования и структурированных кабельных сетей.
На каждом этапе могут возникнуть свои проблемы: начиная от выбора подрядчика, заканчивая отслеживанием каждого этапа строительства с фото- и видеофиксацией проделанной работы. Крайне важно проверять каждый этап работ, ведь любая малейшая ошибка может привести к серьезным последствиям и многомиллионным убыткам.
Из нашего опыта: образовалась протечка основной крыши, а затем протекла и дополнительная крыша из-за сверления одного отверстия в неположенном месте, что привело к проведению ремонтных работ в помещении и дополнительным денежным затратам.
Этап 4. Сдача в эксплуатацию
На последнем этапе строительства производится ввод дата-центра в эксплуатацию. После сбора и расстановки серверных стоек, соединения всех блоков и элементов системы между собой, проверяется правильность коммутации. Проводится настройка системы и ее запуск в тестовом режиме, во время которого изучается ее работоспособность и отслеживаются все основные показатели (скорость подключения, ширина канала, общая работоспособность, надежность защиты от кибернетических угроз и пр.).
После успешного прохождения всех тестов ЦОД официально переходит в рабочий режим.
В нашем дата-центре размещено 20 шкафов и 18 открытых стоек для услуг коллокации. Сам ЦОД размещен в непосредственной близости к собственному антенному посту. Антенны позволяют принимать с высокими качественными характеристиками сигналы со всех орбитальных позиций, доступных для Москвы. ЦОД соединен с ММТС-9, ММТС-10 нашими собственными волоконно-оптическими линиями связи, что позволяет нам, помимо традиционной передачи данных, передавать сигналы КТВ и заниматься медиалогистикой. Более того, из нашего ЦОДа есть выход к любому оператору спутникового телевидения, у нас агрегируется большинство телеканалов в формате SDI.
Итак, создание ЦОДа далеко не дешевое (сотни миллионов рублей) и очень трудозатратное удовольствие, проведение всех работ может занять до 1 года. Однако, это сейчас является одним из самых перспективных направлений, и если грамотно к нему подходить, закладывая возможности на перспективу, то можно не только упрочить свои текущие позиции на рынке, но и получать хорошую прибыль!
📸 Видео
ЦОД для компаний финансовой группы «Открытие» (2021)Скачать
Модульный ЦОД (МЦОД) концепция Ай-ТекоСкачать
Заземление в ЦОД (серверной)Скачать
ЦОД OXYGEN ввел в эксплуатацию новый машинный залСкачать
Модульный ЦОД Нижний НовгородСкачать
КАК ПОСТРОИТЬ ОПТИМАЛЬНЫЙ ЦОД?Скачать
Что такое ЦОД? Особенности кондиционирования серверных и центров обработки данныхСкачать
Мифы древнего дата-центра. Кирилл Малеванов, Технический директор SelectelСкачать
Основные задачи проектировщика по архитектуре ЦОДСкачать
Сетевые и системные инженеры / Что скрывают ЦОДы / Выпуск из дата-центра SelectelСкачать
Сеть дата-центров КРОК. ЦОД «Волочаевская-2»Скачать
Как с серверной стойки снять 40 кВт тепла?Скачать
Пробная классификация действующих ЦОД по новому стандарту – из первых уст и рукСкачать
Как устроен Центр Обработки Данных с иммерсионным жидкостным охлаждением Immers Cloud?Скачать
076 Работа в дата центреСкачать
Технологии охлаждения ЦОД (центров обработки данных)Скачать