Тепловой удар для данных: почему простои систем охлаждения останавливают все

Когда проблема с охлаждением центра обработки данных остановила торговлю фьючерсами и опционами на Чикагской товарной бирже, это привлекло внимание к скрытой инфраструктуре, которая становится все более важной для повседневной жизни: центрам обработки данных. Эти объекты необходимы для всего, от торговли сырьевыми товарами до загрузки фотографий со смартфона в облако.

Они также находятся в центре сотен миллиардов долларов, вливаемых в искусственный интеллект, энтузиазм по поводу которого помог превратить Nvidia Corp. в самую ценную публичную компанию мира.

Но хранение и обработка больших объемов данных генерирует огромное количество тепла. Поддержание достаточного охлаждения центров обработки данных для предотвращения сбоев может составлять до 15% капитальных затрат на эти проекты. Как показал многочасовой сбой в работе CME Group Inc. — крупнейшего в мире оператора фьючерсной биржи — когда что-то идет не так, это может иметь глобальные последствия.

Почему центры обработки данных так нагреваются?

Центры обработки данных — это здания, заполненные серверами или стеками микросхем, которые работают вместе для обработки и хранения данных. Их вычислительную мощность часто называют «вычислительной мощностью», которая является ключевым ресурсом для компаний, занимающихся искусственным интеллектом, которые стремятся обучать свои модели.

Центры обработки данных зарабатывают деньги, сдавая вычислительные ресурсы в аренду другим компаниям, которые хотят использовать их для размещения своей интернет-инфраструктуры, обучения моделей или обработки подсказок пользователей. Это означает, что они заинтересованы в том, чтобы разместить как можно больше серверов в одном пространстве, чтобы максимизировать мощность.

Все эти серверы требуют много электроэнергии. Поскольку они очень энергоемкие и работают круглосуточно, центр обработки данных использует до 50 раз больше энергии на квадратный фут, чем типичное офисное здание. Большая часть потребляемой ими энергии тратится на отработанное тепло. Подумайте, как нагревается ваш ноутбук или телефон, когда вы много им пользуетесь или выполняете сложные задачи.

Как компании охлаждают центры обработки данных?

Серверы традиционно охлаждались холодным воздухом, подобно тому, как работает кондиционер в доме. Вентиляторы продувают охлажденный воздух через серверы, а теплый воздух удаляется из серверной комнаты.

Однако, начиная примерно с 2022 года, системы жидкостного охлаждения стали более популярными, поскольку центры обработки данных, используемые для искусственного интеллекта, генерировали больше тепла. Холодная жидкость может подаваться по трубам через пластины, расположенные под чипами, или весь сервер может быть погружен в резервуар, заполненный жидкостью.

Также существуют системы, которые используют жидкости с низкими температурами кипения, поглощающие тепло при контакте с горячей стружкой и испаряющиеся — подобно тому, как пот отводит тепло от человеческого тела — прежде чем конденсироваться обратно в жидкость и возвращаться в резервуар.

Жидкости могут переносить больше тепловой энергии в заданном объеме, чем воздух, что делает их более эффективными. Но эти системы сложны в установке и дороже. Они также проблематичны, если что-то пойдет не так — никто не хочет, чтобы жидкость попала на его дорогие микросхемы.

Независимо от того, используется ли воздух или жидкость, после того, как она поглотит тепло от стружки, оно передается в охлаждающий водяной контур. Затем эта вода подается в градирню или чиллер — по сути, промышленный холодильник — который может выделять тепло во внешнюю среду.

Когда вы читаете о центрах обработки данных, которые используют много воды, это потому, что градирни испаряют часть этой воды, чтобы избавиться от тепла. Существуют опасения, что потребление воды центрами обработки данных создает нагрузку на местное водоснабжение, особенно в районах, которые уже страдают от нехватки воды.

Что происходит, когда центры обработки данных перегреваются?

Перегрев может привести к потере данных, повреждению ценных микросхем в серверах и простоям для клиентов. Результаты могут быть очень похожи на недавние перебои, вызванные сбоями в компаниях, которые обеспечивают цифровую инфраструктуру, необходимую для питания Интернета.

Серьезный сбой в сети компании по кибербезопасности Cloudflare Inc. в ноябре заблокировал работу таких веб-сайтов, как платформы социальных сетей X и ChatGPT. Проблемы с облачным сервисом Amazon.com Inc., CrowdStrike Holdings Inc. и Microsoft Corp. вызвали аналогичные проблемы, что подчеркивает, насколько мир зависит от небольшого количества фирм, чтобы оставаться онлайн.

Центры обработки данных обычно инвестируют значительные средства в резервирование, включая дополнительные генераторы питания, дополнительные охлаждающие блоки и даже репликацию всего объекта, чтобы минимизировать вероятность перебоев. Но поскольку системы становятся все более сложными, перебоев может быть труднее избежать.

Что произошло во время инцидента с CME?

Торговая платформа CME расположена в кампусе недалеко от Чикаго в Авроре, штат Иллинойс, который принадлежит CyrusOne, оператору центров обработки данных, который в 2022 году был приобретен частными инвестиционными группами KKR & Co. и Global Infrastructure Partners.

Компания CyrusOne сообщила, что 27 ноября на одном из ее объектов в Авроре произошел сбой чиллерной установки, который повлиял на работу нескольких холодильных агрегатов. Это привело к длительному сбою, который вызвал многочасовой сбой на рынках акций, иностранной валюты, облигаций и сырьевых товаров, а также повлиял на контракты на триллионы долларов. Масштабы потрясений, вызванных неисправной системой охлаждения, показали, насколько многое зависит от такой инфраструктуры.

После начала отключения компания CyrusOne заявила, что развернула временное охлаждающее оборудование в дополнение к постоянным системам, пока работала над восстановлением полной мощности охлаждения. По словам компании, их кампус оснащен «передовой технологией охлаждения», а также использует воздушно-охлаждаемые чиллеры и естественно охлаждаемый наружный воздух или воду, когда температура ниже -1°C (30°F). По данным Weather Underground, пока оператор центра обработки данных продолжал устранять неисправность, температура воздуха в Авроре в 10:40 утра по местному времени 28 ноября составляла около -1°C. На веб-сайте CyrusOne указано, что на объекте в Авроре имеются дополнительные охладительные блоки для защиты от сбоев чиллерной установки с воздушным охлаждением. Неясно, помогло ли это резервирование во время последнего инцидента.