Как охлаждают серверы для ИИ и почему они не перегревают планету

Опубликовал
Павло Чуйкін

Каждый раз, когда вы отправляете очередной запрос в ChatGPT, где-то в дата-центре просыпается мощный сервер, обрабатывает запрос, генерирует ответ и снова «засыпает». Однако главное здесь в том, что весь этот процесс сопровождается огромным тепловыделением. Серверы в современных дата-центрах потребляют десятки киловатт электроэнергии и выделяют большое количество тепла. Но самое интересное не в том, сколько электроэнергии расходует один ваш запрос, а в том, как индустрия научилась превращать это тепло из проблемы в её решение, а затем даже в ресурс. И именно об этом мы и поговорим в материале ниже.

Тепло как главный враг вычислений

Наверное, технически подкованная часть наших читателей и без меня знает, что любой процессор — будь то CPU или GPU — по сути является нагревательным элементом. И чем выше его мощность, тем выше его температура. Традиционно с этим боролись с помощью вентиляторов и систем охлаждения, что до сих пор часто используется в домашних ПК. Это простое решение на самом деле очень неэффективно для крупных масштабов. Те же кондиционеры иногда потребляют столько же энергии, сколько и сами серверы, а в некоторых дата-центрах на потери на охлаждение составляют до 40 % от общего потребления электроэнергии, а это колоссальная цифра.

Для небольшого серверного помещения какой-нибудь компании это просто дополнительная статья расходов. Однако когда речь идет о суперкомпьютерах для научных исследований или дата-центрах, где может находиться сверхмощное оборудование, воздушное охлаждение не помогает вообще. Физически невозможно прокачать достаточное количество воздуха через такую плотность оборудования, чтобы поддерживать нормальную рабочую температуру.

Для таких случаев существуют различные системы жидкостного охлаждения, а как поклонник ноутбуков Lenovo Thinkpad а также о бренде в целом я расскажу далее и поясню на примере системы Lenovo Neptune. Однако отмечу, что в мире существует и множество других, не менее эффективных решений.

Прямое водяное охлаждение

В Lenovo Neptune процесс охлаждения осуществляется тремя способами: прямое охлаждение узлов горячей водой, теплообменник на задней панели стойки и гибридные решения, сочетающие воду и воздух в зависимости от конкретной задачи.

Однако ключевым элементом здесь всё же является прямое водяное охлаждение, при котором трубки из медного сплава подводятся непосредственно к процессорам, графическим процессорам, модулям памяти, сетевым картам и регуляторам напряжения. Вода отводит тепло от компонентов, нагревается и возвращается в контур охлаждения. То есть здесь вообще нет вентиляторов, а вместе с ними и шумной турбулентности воздуха.

Заявлено, что решения на базе этого Lenovo Neptune позволяют отводить жидкостью до 98% всего тепла, вырабатываемого сервером. И это впечатляющий показатель, которого не может достичь ни одна воздушная система даже теоретически. Говорят, что флагманская модель ThinkSystem N1380 Neptune шестого поколения, представленная ещё в 2024 году, обеспечивает уже 100% отвод тепла с помощью жидкости, включая блоки питания. То есть серверы на его основе могут размещаться в стойках мощностью более 100 киловатт без какого-либо специализированного кондиционера в зале.

Кто уже использует эти системы?

Давайте посмотрим на реальные научные учреждения, которые уже используют эти и подобные системы. Например, есть такой Берлинский институт Цузе (Zuse Institute Berlin, ZIB), который является одним из самых выдающихся исследовательских центров Германии. Их крупная система состоит из 168 серверов Lenovo ThinkSystem с процессорами AMD EPYC и той самый охладитель Neptune DWC. В совокупности это обеспечивает производительность в 9 петафлопс (PFLOPS). Здесь эффективность отвода тепла водой составляет 98%.

Еще одним примером является Потсдамский институт климатических исследований (Potsdam Institute for Climate Impact Research, PIK), который изучает влияние климатических изменений на природные и социальные системы. Здесь установлено более 250 серверов Lenovo ThinkSystem на базе AMD EPYC с водяным охлаждением Neptune. По сравнению с предыдущим примером из Германии здесь исследователи добились десятикратного (!) увеличения производительности и пятикратного увеличения вычислительных мощностей. Интересно, что тепло, которое раньше просто выбрасывалось в воздух, теперь стало частью системы отопления здания института. Но об этом мы ещё поговорим ниже.

Национальная лаборатория высокопроизводительных вычислений в Чили (NLHPC) сотрудничает с исследователями в области климатического моделирования, астрофизики и геномики. У этих ребят есть серверы Lenovo ThinkSystem с процессорами AMD EPYC и видеокартами AMD Instinct, оснащенные системой Neptune Liquid Cooling. 6912 ядер процессоров и ускорители AMD Instinct позволяют выполнять больше операций с плавающей запятой в секунду при том же энергопотреблении.

В Италии, в Европейском институте онкологии и Кардиологическом центре Монцино, имеющаяся система производительностью 475 терафлопс на серверах Lenovo ThinkSystem SR645 V3 и SR685a V3 ускоряет изучение механизмов развития рака и сердечных заболеваний, интегрируясь с клиническими базами данных. Вся эта система обрабатывает огромные массивы медицинской информации, а затем учёные и врачи могут делать определённые выводы о заболеваниях.

Чтобы вам было немного интереснее, скажу, что жидкостное охлаждение Neptune не ограничивается исключительно академическими суперкомпьютерами. Показательным примером является «Формула-1». Эта серия транслирует свои гонки для более чем 820 миллионов зрителей по всему миру. Все эти трансляции, аналитика, системы искусственного интеллекта для работы с данными во время гонок требуют серьезных вычислительных мощностей, которые сосредоточены в специальном технологическом центре «Формулы-1».

После установки Neptune Liquid Cooling На серверах Lenovo ThinkSystem SD665-N V3 они получили возможность запускать более ресурсоемкие ИИ-нагрузки и обрабатывать данные прямо в своём дата-центре без существенного увеличения энергетического следа. Систему жидкостного охлаждения просто интегрировали в существующий зал с воздушным охлаждением без необходимости перестройки всей системы.

Наука тоже не обходится без системы охлаждения

Но зачем учёным такое сверхмощное оборудование, требующее столь сложных систем охлаждения? Эти кучи серверов с системами охлаждения стоят дорого, но есть ли в этом смысл? Ученые говорят, что да, ведь современные ученые часто используют научное моделирование, и именно для этого и нужны такие мощности.

Например, моделирование климата требует расчета взаимодействия атмосферы, океанов, ледяных шапок и человеческой деятельности в огромных масштабах. Одна такая симуляция может занимать недели на обычном кластере. А исследователи различных онкологических заболеваний строят свои модели для разработки новых лекарств. Также в этом случае ИИ уже помогает им отбирать молекулы-кандидаты в разы быстрее, чем они делали это раньше. Ну и физики уже давно моделируют различные взаимодействия на атомном уровне, астрофизики просчитывают эволюцию галактик и так далее, так далее, так далее.

Одна из самых интересных особенностей технологии Neptune — возможность повторного использования тепла. Традиционный дата-центр с воздушным охлаждением вырабатывает тепло, которое кондиционеры просто выбрасывают наружу. Но вся эта энергия теряется.

Системы Neptune спроектированы таким образом, что водяной контур может функционировать при температуре теплоносителя на входе до 45 градусов по Цельсию. Это означает, что подогретая вода, выходящая из серверов, обладает достаточным количеством тепловой энергии, чтобы использоваться для обогрева зданий или в других системах охлаждения. Поэтому эта система фактически обогревает офисы теплом от своего суперкомпьютера, и это уже реально работает.

Что означают эти цифры для нас

Вернёмся к запросу в ChatGPT. Итак, ваш промпт или любой другой запрос обрабатывается на сверхмощных серверах, но эта система обрабатывает миллионы запросов в день. Поэтому всё это приводит к серьёзному энергопотреблению, и мне, наверное, не нужно объяснять, что разница между эффективным и неэффективным дата-центром в таких масштабах очень ощутима.

Теперь давайте посчитаем. Если дата-центр с традиционным охлаждением тратит условно 40 % электроэнергии на кондиционирование, а система Neptune или любая другая подобная система сокращает затраты на охлаждение до минимума за счет 98–100% жидкостного теплоотвода, то при одинаковой нагрузке второй вариант потребляет значительно меньше электроэнергии из сети. Получается, что снижение затрат на 40% в масштабах такого гигантского дата-центра означает мегаватты сэкономленной энергии каждый год.

Однако важнее то, что такое жидкостное охлаждение позволяет устанавливать в этих же дата-центрах гораздо более мощное оборудование на той же площади. Мне кажется, в этом и заключается суть современных эффективных облачных и HPC-вычислений.

Инновации, которые мы не замечаем

Технологии жидкостного охлаждения, в частности Neptune, интересны ещё и тем, что они остаются в основном незаметными для конечного пользователя. Никто из нас не видит медных трубок внутри серверов, никто не задумывается, почему моделирование климата стало быстрее или почему онкологи получили больше мощности для поиска новых лекарств. Но это и есть признак зрелой инженерной технологии, когда она решает проблему настолько элегантно, что она не перестает существовать, но теперь решается, и всё это происходит незаметно.

Именно поэтому ваш условный запрос в ChatGPT действительно не сжигает планету. И всё это в значительной степени возможно благодаря инженерам, которые разрабатывают подобные технологии и серверы.

Контент сайту призначений для осіб віком від 21 року. Переглядаючи матеріали, ви підтверджуєте свою відповідність віковим обмеженням.

Cуб'єкт у сфері онлайн-медіа; ідентифікатор медіа - R40-06029.