- Что такое иммерсионная жидкость («сухая вода») и где ее применяют?
- Что это такое?
- Недостатки
- Когда стоит использовать иммерсионное охлаждение?
- Выбор составов для иммерсионного охлаждения для майнинга криптовалютИнновации
- ПЕРЕЙДЕМ К ВЫБОРУ
- Что такое иммерсионная жидкость («сухая вода») и где ее применяют?
- Принцип работы иммерсионного жидкостного охлаждения для майнинг ферм
- Эксперимент с жидкостным охлаждением майнинг фермы
- Преимущества применения жидкостного иммерсионного охлаждения для майнинга
- Сравнение жидкостного и воздушного охлаждения
- Способы использования тепла от ферм
Что такое иммерсионная жидкость («сухая вода») и где ее применяют?
Что это такое?
Иммерсионное охлаждение – это снижение температуры компьютерного оборудования путем его погружения в диэлектрическую теплопроводную жидкость. В качестве жидкости в основном используется непроводящее неемкостное минеральное масло, так как оно не выводит из строя электронику.
Народные умельцы заливают жидкость в аквариум и опускают в нее майнер с включенными вентиляторами. Вместо воздуха он прогоняет масло, которое нагревается и затем испаряется, вентиляторы эффективно перемешивают жидкость и поддерживают низкий уровень температуры. В дата-центрах используются гибридные закрытые системы охлаждения, состоящие из насосов, внешних радиаторов и иммерсионной жидкости. В основном применяют диэлектрическую жидкость с низкой температурой кипения – она испаряется, конденсируется на стенках и затем стекает в специальный бак. Благодаря замкнутому циклу работы удается сократить расходы на дорогостоящую жидкость.
Водоохлаждение ASIC-майнера в домашних условиях. Фото: BitCluster
Недостатки
У вас может возникнуть резонный вопрос: если иммерсионная система охлаждения настолько эффективна, то почему большинство майнеров пользуются вентиляторами? Дело в том, что у жидкостного охлаждения есть свои недостатки.
- Высокая стоимость. На обслуживание системы иммерсионного охлаждения от заводов-производителей уходит в среднем 25% от затрат на обеспечение работы майнеров. Другими словами, если ваше оборудование потребляет электричество на 10 тыс. рублей в месяц, то 2,5 тыс. рублей вы будете тратить на систему охлаждения. Жидкость, к сожалению, стоит дорого.
- Труднодоступность. Бак с иммерсионной жидкостью открывается только сверху, поэтому установить оборудование на стеллажах не получится.
- Грязь. Во время работы с майнером (замена кабеля, вентилятора) жидкость может пролиться на пол, ее очень трудно оттереть, особенно, если вы используете масло.
- Фильтрация. Охлаждающую жидкость необходимо фильтровать, чтобы избежать образования осадка и загрязнений.
Когда стоит использовать иммерсионное охлаждение?
Одной из первых компаний, которая начала разрабатывать системы иммерсионного охлаждения видеокарт для майнинга криптовалют, стала Green Revolution Cooling. Ведущий эксперт Брэндон Мур уверен в том, что развитию жидкостных систем охлаждения будут способствовать два главных фактора: высокая стоимость электричества и дорогая недвижимость.
Выбор составов для иммерсионного охлаждения для майнинга криптовалютИнновации
Новые возможности применения компьютеров, совершенствование чипов для сложных вычислений, механизмов и систем обработки цифрового кода, стремительными темпами внедряются в нашу жизнь.
Мы являемся свидетелями и участниками рождения новых отраслей использования компьютерной техники и майнинга криптовалют, бурного развития технологии вычислений Big-Data и технологии BlockChain. При этом многократно растет энергопотребление вовлеченной в эти процессы компьютерной мощности (ХЭШРЕЙТ), и задачи старой экономики – обеспечить электричеством новые потребности крипто-сообщества и вычислительных гигантов.
Энергоэффективность и сохранение экологии планеты – главный движущий мотив развития инновационных систем охлаждения суперкомпьютеров. Не на последнем месте также стоит и бизнес-интерес – чем лучше и эффективнее охлаждается процессор и плата, тем большую производительность она может обеспечить для вычислений, тем больше блоков и задач в итоге решит сервер, при меньшем энергопотреблении.
Не важно, говорим ли мы о нагреве графических видеопроцессоров (GPU), или чипов на хэш-платах, или блоках питания и преобразования энергии – применение иммерсионных (погружных) систем охлаждения несет в себе огромный потенциал для увеличения эффективности работы таких систем, и несомненные преимущества по сравнению с привычным воздушным охлаждением. К таковым преимуществам можно отнести:
- Лучший, в сотни раз по сравнению с воздухом, теплообмен, соответственно, и более эффективное охлаждение.
- Снижение электропотребления оборудования засчет меньшего нагрева.
- Повышение хэш-рейта, т.е. производительности оборудования. Возможность увеличения производительности чипов за счет лучшего охлаждения.
- 100% пожаробезопасность засчет исключения замыкания, самовозгорания. Применение диэлектрической среды для охлаждения, решает также задачу по борьбе со статическим электричеством на рабочих поверхностях чипа, которое может возникнуть при работе вентиляторов, и разнополярно заряженных пылевых частиц.
- Повышение долговечности работы чипов. При «разгоне» чипа на максимальной частоте, рабочее тело кристалла плавится, деформируется, происходит диффузия, и срок службы чипа резко снижается: либо чип «вылетает» (иногда не только он один), либо вся хэш-плата. Использование более эффективной системы охлаждения многократно продлевает срок эксплуатации систем.
- Решение проблемы сильного фонового шума. Невыносимый шум вентиляторов снижает до нуля популяцию мелких млекопитающих, насекомых, и паразитов в районе 100 м. от любой майнинг-фермы. Иммерсионная система дружелюбна к природе и к органам слуха человека.
- Уменьшение затрат на обслуживание оборудования. В погружных системах платы не нуждаются в профилактике, очистке, продувке от пыли и грязи, и не теряют своего «товарного вида» и рабочих характеристик, пока нормально работает иммерсионный состав.
ПЕРЕЙДЕМ К ВЫБОРУ
Какую иммерсионную систему охлаждения выбрать начинающему или продвинутому майнеру? Универсального ответа нет, но попробуем разобраться.
Про воздушное охлаждение написано много трудов и материалов, в контексте этой статьи мы вообще не будем рассматривать его, как способ охладить чип. Это популярное ныне решение рано или поздно, ввиду его минусов, будет «растоптано» прогрессом и требованиями рынка, и канет в Лету вслед за патефоном, флоппи-диском, и лампам накаливания. ОНО ВООБЩЕ НЕ ОТНОСИТСЯ К ИММЕРСИОННЫМ СИСТЕМАМ ОХЛАЖДЕНИЯ.
Дистиллированная вода. Особенности и последствия такого выбора.
- Приобрести качественную дистиллированную воду не так уж просто. Как и многие продукты на отечественном рынке, она далека от нормативов. В большинстве случаев в дистиллированной воде, пусть в минимальных количествах, но присутствуют различные соли, другие химические примеси.
- Даже если вам удалось приобрести качественную дистиллированную воду, чтобы обеспечить сохранение ее чистоты нужно сохранить полную стерильность системы. А этого в домашних условиях достичь практически не возможно. Со временем она теряет свои свойства, в резервуарах происходит размножение бактерий и результат – появление осадка, цветения, загрязнение системы. Вода теряет свои качества, а вместе с ними и диэлектрическую проницаемость.
- Потери жидкости. И это не обязательно банальные утечки, но и совершенно неконтролируемые и не фиксируемые потери в узлах и “переходниках”кустарно собранных систем.
- В полностью герметичных системах, при нагревании жидкости увеличивается ее объем и, как следствие, растет давление. А это повышает риски выхода оборудования из строя и снижает безопасность работы оборудования.
- Главное преимущество дистиллированной воды –самая низкая стоимостьтеплоносителя среди всех кто будет входить в сравнение.
- Кипение воды происходит при температуре +100 градусов по Цельсию. Это означает, что практически весь рабочий диапазон температур чипа, вода как теплоноситель, остается в жидком агрегатном состоянии, что позволяет проектировать однофазную систему охлаждения, которая более доступна и в инженерном, и в коммерческом плане. Но не отменяет вышеозначенных минусов.
Вообще стоит отметить, что водяное охлаждение используется и сегодня крупными игроками на рынке охладительных систем. Например, это компания Aquilaи ее серверная система Aquarius с водяным охлаждением; проект Asetekс оригинальной версиейпрямоконтактных систем жидкостного охлаждения.
Минеральное масло. Недостатки и преимущества.
Большой опыт использования его в качестве теплоотводящей жидкости для механизмов в машиностроении и тяжелой промышленности (трансформаторы, высоковольтные выключатели) заставил и его послужить в качестве охладителя и в компьютерах. Очень много в сети выложено материалов, которые описывают противоречивый опыт погружного охлаждения в емкостях, наполненных маслом. Главное здесь – все правильно подключить с первого раза, и не производить потом ревизию блока, потому что делать это уже после вынимания из “масляного”аквариума (маслариума) под силу только самым терпеливым и нацеленным на положительный результат майнерам.
Какие же недостатки погружного масляного охлаждения?
- Во первых, это должны быть минеральные масла. В противном случае, достаточно быстро происходит окисление этого масла.
- В открытых системах, коими и являются используемые для масла емкости, при попадании в масло пылевых частиц из внешней среды происходит его загустевание.
- С минеральными маслами в емкости для охлаждения остается необходимость использования гидравлики и помп. А значит, энергозатраты у пользователя все равно сохраняются.
- При охлаждении высокотемпературных поверхностей открытая, негерметичная система всегда обнаруживает себя зловонным запахом горелого масла, который делает непригодным применение таких систем в жилых помещениях.
- Данные системы также основаны на однофазном принципе, что дешевле двухфазных систем, но, конвекция и теплообмен внутри маслариума происходит менее эффективно, чем в воде, засчет большей вязкости жидкости, т.е. перемешиваниенагретых объемов масла с охлажденной массой менее интенсивное, что не позволяет излишне плотно упаковывать хэш платы на материнской плате. И необходимо учесть при проектировании коридоры для лучшей конвекции тепловых потоков.
Тем не менее, и в наше время есть современные промышленные системы, которые используют в качестве иммерсионного агента минеральное масло. Например, Carnot Jet System от Green Revolution Cooling – универсальная система, которая совместима с большим количеством оборудования и устанавливается в стойки, заполненые маслом. Но конечно не тем, которые доступны рядовому пользователю, речь идет о специализированном составе.
- Не всегда, но часто, цена масел, которые предпочитают отечественные владельцы майнеров, может быть сравнительно доступной.
- Малая испаряемость, а значит, нет большой необходимости регулярно пополнять резервуар.
Сухая вода, Novec™ и Fluorinert™. Только лучшее для современного майнера. Третья каста – специально разработанные инженерные жидкости и инертные составы, огнетушащие вещества, которые успешно используются и для тушения возгораний различных классов опасности (ингибируют пламя, быстро и эффективно снижают температуру в очаге возгорания) и для охлаждения интенсивно работающего оборудования. В чем их преимущества?
- Снижение энергозатрат на 97%.
- Абсолютная пожарная и электрическая безопасность для оборудования.
- Десятикратное уменьшение размеров серверных стоек.
- Полная бесшумность работы системы охлаждения.
- Экологичность и безопасный токсикологический профиль.
- Срок гарантии от производителя таких инженерных жидкостей – 30 лет.
На рынке есть жидкости, которые предназначены как для однофазного (температура кипения начинается от 95 градусов, например, это жидкости Fluorinert FC-770, FC-3283, FC-40, FC-43, FC-70 и Novec 7300, 7500 и 7700) и двухфазного охлаждения (температура кипения не выше 76 градусов, например, это жидкости Fluorinert FC-3284 и FC-72, Novec 7000, 49, 7100, 7200 и 774).
Принципиальное различие конструктивасистем такого охлаждения состоит в том, что в первом случае – это системы в которых жидкость с помощьюгидравлики и помп перемешиваетсядля конвекции нагретого и холодного объема, а во втором –двухфазном охлаждении, происходит интенсивное кипение вещества, пары отбирают тепло от чипа, и в верхней части куба в результате охлаждения, переходят снова в жидкое состояние (Принцип самогонного аппарата или ректификационной колонны с дефлегматором). Постоянные переходы действующего иммерсионного вещества из жидкой в парообразную фазу и обратно, в непрерывном процессе теплообмена, дают наименьшие затраты энергии на работу такой системы, и наиэффективнейший способ охлаждения рабочих поверхностей хэш-платы. В обоих случаях это полностью герметичные системы, с компенсаторами давления и системами контроля физического состояния.
И те, и другие варианты рассчитаны под определенные требования, но в любом случае обладают всеми вышеперечисленными преимуществами.
Где применяются системы иммерсионного охлаждения с агентом Novec™ и Fluorinert™ и их аналогами? Центры обработки данных, высоковольтные системы, майнинг, облачная коммерциализация. Это не полный список.Что выбрать вам? Решение всегда принимается на основании всей информации. Мы вам постарались ее изложить. И это не последняя статья на эту тему.
Но эволюция – это всегда выход на качественно новый уровень. Давайте шагать вверх, а не топтаться на месте.
Источник
Что такое иммерсионная жидкость («сухая вода») и где ее применяют?
В данном контексте иммерсионным охлаждением называют процесс отвода тепла от работающего оборудования путем его погружения в контейнер с иммерсионной жидкостью
Иммерсионная жидкость – это техническая жидкость, имеющая определенную формулу (у многих производителей они запатентованы), имеющая такие уникальные свойства как:
Негорючесть, низкую токсичность, инертность, высочайшие диэлектрические свойства.
Таким образом, данная жидкость не вступает в химическую реакцию практически ни с чем и является абсолютным диэлектриком, что позволяет использовать ее в контакте с любым электронным оборудованием без последствий для него.
ВАЖНО! Применение данной жидкости абсолютно безопасно для любого оборудования, а также для людей работающих с ней.
Применение данных жидкостей в промышленных масштабах началось много лет назад и по сей день имеет очень широкий спектр. Например, для охлаждения стоек оборудования в дата-центрах (ЦОД), в системах пожаротушения опасных и ценных объектов (архивы, дата-центры и т.д.), где последствия пожаров наносят часто гораздо больше вреда, чем сам пожар.
Традиционно при строительстве нового дата-центра около 35% капитальных затрат расходуется на охлаждающее оборудование, а впоследствии на него приходится еще 50% эксплуатационных расходов. Количество данных, которые необходимо хранить растет в геометрической прогрессии, стимулируют спрос на более и более крупные центры обработки данных (ЦОД), наряду со значительными инвестициями, понятно, что необходимо искать все более экономичные и эффективные технологии охлаждения.
Многочисленные исследования доказывают, что процесс жидкостного охлаждения имеет очень высокий коэффициент эффективности использования энергии (Power Usage Effectiveness; PUE) это позволяет добиться феноменальных показателей с точки зрения эффективности и экономичности данной технологии.
Таким образом, жидкостное охлаждение подходит для абсолютно любых майнеров — асиков (Antminer S9, L3+, D3 и др.) и видеокарт NVIDIA Geforce 1070 GTX, 1060 GTX, AMD Radeon RX 470, 480 ,580 и т.д.)
Принцип работы иммерсионного жидкостного охлаждения для майнинг ферм
Принцип достаточно простой для понимания. Поскольку охлаждающая жидкость абсолютно инертна, нетоксична и является диэлектриком, мы без каких-либо опасений погружаем работающую ферму, будь то ASIC (асик) Antminer S9 или блок из видеокарт в контейнер жидкостью. Оборудование работает и выделяет тепло, которое нагревает жидкость. Теплоемкость жидкости в 4000 раз выше теплоемкости воздуха, что позволяет отводить тепло гораздо меньшим объемом теплоносителя.
В данном случае основная задача сводится к тому, чтобы качественно отводить тепло от самой жидкости и поддерживать температуру такой, чтобы температура на чипах майнеров не превышала допустимую и позволяла работать на максимальной производительности без перебоев.
Рис. 1 – Пример работы электроники в охлаждающей жидкости
Эксперимент с жидкостным охлаждением майнинг фермы
Проводя первые эксперименты в нашей лаборатории, мы нервно наблюдали, как компьютерная система под напряжением, включенная и мигающая, медленно погружалась в чистую, водянистую жидкость. Каждый ребенок с детства знает, что жидкость и электричество несовместимые вещи, поэтому было совершенно невообразимо наблюдать за безупречной работой компьютера, полностью погруженного в то, что казалось ничем иным, как водой.
Во всем мире существует достаточно много производителей жидкостей, предназначенных для многих целей работы с электронной техникой, которые позволяют в том числе и охлаждать ее.
Собственно сам эксперимент с майнинг фермой:
Мы провели ряд испытаний с применением нескольких видов жидкостей. Основной задачей при подборе жидкости было скорее найти состав с наиболее хорошими теплофизическими свойствами, что соответственно повышает эффективность теплообмена.
Эксперимент проводился на стендовом образце с фермой из 6 видеокарт Nvidia Geforce GTX 1070 с суммарной мощностью около 1,2 кВт. Охлаждение жидкости было реализовано с помощью обыкновенной системы холодного водоснабжения.
Оборудование было погружено в аквариум и полностью залито жидкостью. Для большей равномерности охлаждения и температуры самой жидкости была обеспечена циркуляция, с помощью циркуляционного насоса. Испытания проводились на протяжении нескольких дней. Были исследованы все возможные режимы работы.
Рис. 2 – Пример работы видеокарты Nvidia Geforce в охлаждающей жидкости
Результаты подтвердили все наши ожидания и расчеты:
- Оборудование работает стабильно и без перегревов.
- Меняя различные параметры нам без особых усилий удается добиться повышения производительности карт на 15%, но мы уверены, что и это далеко не предел.
- Регулируя систему охлаждения мы легко смогли установить необходимый тепловой режим с минимальным расходованием холодной воды и соответственно минимизировать затраты.
- Для охлаждения чипов видеокарт не нужны вентиляторы
Преимущества применения жидкостного иммерсионного охлаждения для майнинга
На основании ряда фактов:
- Многолетний мировой опыт применения технических жидкостей в различных сферах промышленности
- Гарантийные обязательства производителей технических жидкостей
- Наши лабораторные испытания
- Анализ и расчеты
Мы нашли несколько существенных преимуществ данного способа охлаждения применительно к оборудованию для майнинга:
- Производительность оборудования повышается минимум на 10-15%.
Этот показатель зависит от самих майнеров – асики или видеокарты. Различные модели имеют ряд собственных особенностей и ограничений для разгона, но приложив некоторые усилия при возможности поддержания температуры на чипе не больше 40-50°С можно достичь даже больших показателей. - Срок службы оборудования
Асики и видеокарты гораздо медленнее изнашиваются, когда находятся при постоянной температуре в рабочем диапазоне и не перегреваются. При отсутствии системы охлаждения, майнеры постоянно отключаются по перегреву. - Бесшумность работы
Майнеры в жидкости работают совершенно бесшумно. Помимо того, что вентиляторы самих асиков или карт отключены, также отсутствует шум от воздушной системы охлаждения, которая по уровня шума для больших мощностей сопоставима с мощностью вентиляции промышленных цехов. - Размеры ферм
В контейнере с иммерсионной жидкостью размерами к примеру 1,5х1,5 м можно плотно разместить оборудования на 20-30 кВт без каких-либо сложностей. Таким образом, мощность фермы на 100 кВт можно разместить на площади 5-10 м2. - Снижение стоимости видеокарт
Для качественного жидкостного охлаждения асиков или видеокарт нет надобности в вентиляторах (кулерах) на самих майнерах. Соответственно можно заказывать с завода по сути голые чипы — без вентиляторов, корпусов и т.д. Таким образом, стоимость самих карт снижается как минимум на 20-30%, к тому же уменьшаются ее габаритные размеры, что позволяет компоновать ферму еще более плотно.
Сравнение жидкостного и воздушного охлаждения
Для наглядности преимуществ и недостатков можно сравнивать жидкостное и воздушное охлаждение — классическая система вентиляции и кондиционирования. В данном случае все преимущества, о которых мы уже рассказали и являются по сути преимуществами в сравнении с воздушным охлаждением.
В целом конечно воздушное охлаждение вполне хорошо выполняет свою функцию, и требует не менее серьезных и качественных расчетов. С его помощью можно обеспечить также абсолютно бесперебойную и надежную работу оборудования круглый год, хотя как известно летом охлаждение майнинг ферм осуществляется более трудным путем, нежели в зимний период года.
Из недостатков иммерсионного охлаждения, можно отметить:
- Высокая сложность расчетов
- Малое количество компетентных специалистов на рынке
- Труднодоступность необходимой жидкости
- Высокая цена
Тем не менее, при грамотном проектировании, стоимость данной системы будет сопоставима со стоимостью системы воздушного охлаждения, а если учесть еще все преимущества, о которых мы писали выше, то окупаемость данного решения не заставит себя ждать.
Как мы выяснили, иммерсионное охлаждение более энергоэффективно и является передовой технологией для такого рода задач.
Способы использования тепла от ферм
Как известно, большая часть потребляемой энергии в процессе работы оборудования переходит в тепловую энергии. При больших мощностях майнинг ферм разумеется сразу появляется желание как-то использовать тепло, которое они производят. Мы приведем примеры нескольких способов, которые можно применить как в бытовом, так и в промышленном масштабе. Каждый интересующийся возможно найдет для себя какую-то идею.
- Подогрев какого-либо водоема – рыбхозяйство, бассейн и т.д.
В данном случае, мы передаем тепло от внутреннего контура охлаждающей жидкости во внешний контур через водяной теплообменик, что позволяет нам получить теплую или горячую воду на выходе из него. - Обогрев воздуха в помещении – офис, цех, частный дом, теплица и т.д.
В данном случае мы охлаждаем внутренний контур жидкости через теплообменник вода-воздух и используем горячий/теплый воздух для наших целей - Теплые полы в доме
По сути как и в первом примере, мы используем теплообменник вода-вода и это позволяет нам использовать горячую воду для подогрева полов.
Разумеется все способы утилизации тепла необходимо индивидуально рассчитывать и продумывать саму схему работы. Трудно найти какое-то универсальное решение. Мы в наших проектах, как правило подбираем и просчитываем индивидуальную схему отвода тепла от майнинг фермы и его полезное использование на проектах, где есть такая задача.
Для решения подобных задач, применяются промышленные установки жидкостного охлаждения. Ознакомиться с подбробным описанием и приницпом работы данных систем вы можете на странице «Установки иммерсионного охлаждения майнинг ферм».
В заключение хотелось бы отметить, что жидкостное охлаждение это «мэйнстрим» в сфере IT технологий и энергоэффективности.
Источник