По оценкам экспертов, графические процессоры Nvidia H100 в 2024 году будут потреблять больше энергии, чем некоторые страны. Каждый такой GPU потребляет 700 Вт энергии, а ожидается, что в следующем году будет продано 3,5 млн штук.
700 Вт энергии — это объём потребления, который больше, чем у среднестатистического американского домохозяйства. Теперь, когда Nvidia продает большие объемы своих новых графических процессоров для задач искусственного интеллекта, совокупное энергопотребление этих графических процессоров, по прогнозам, будет таким же высоким, как и в крупном американском городе. Некоторые расчёты показывают, что GPU будут потреблять даже больше энергии, чем небольшие европейские страны.
Ещё в октябре общее энергопотребление центров обработки данных, используемых для приложений искусственного интеллекта, было сопоставимо с энергопотреблением на Кипре, подсчитали во французской компании Schneider Electric.
Пол Чернок, главный инженер-электрик отдела технического управления и стратегии центров обработки данных в Microsoft, считает, что к концу 2024 года, когда будут развёрнуты миллионы этих графических процессоров, H100 будут потреблять больше энергии, чем все домохозяйства в Фениксе, штат Аризона.
«При годовом использовании 61% это эквивалентно энергопотреблению среднестатистического американского члена семьи (из расчета 2,51 человека на семью). Предполагаемые продажи Nvidia графических процессоров H100 составляют 1,5–2 млн в 2024 году. По сравнению с бытовым энергопотреблением они заняли бы 5-е место по величине, сразу после Хьюстона, штат Техас, и опередили бы Феникс, штат Аризона», — написал Чурнок. Всего, по его подсчётам, к концу 2024 года будет развёрнуто 3,5 млн таких процессоров. В общей сложности они будут потреблять колоссальные 13 091 820 000 киловатт-часов электроэнергии в год или 13 091,82 ГВтч. Для сравнения: такой объём электроэнергии ежегодно потребляют некоторые страны, такие как Грузия, Литва или Гватемала.
Одновременно эффективность искусственного интеллекта и высокопроизводительных вычислений растёт. Таким образом, хотя B100 на базе Nvidia Blackwell, скорее всего, превзойдёт H100 по энергопотреблению, он будет предлагать более высокую производительность и, следовательно, выполнять больше работы на каждую единицу энергии.
Ранее сообщалось, что в третьем квартале 2023 года Nvidia продала рекордное количество ИИ-ускорителей. В этот период компания реализовала почти полмиллиона моделей A100 и H100. При этом спрос на данные устройства оказался настолько высоким, что сроки поставки серверов с ускорителями увеличились с 36 до 52 недель.
