Чтобы измерить воздействие ИИ на выбросы CO2, а следовательно, и на работу графических процессоров в центре обработки данных, необходимо учитывать все типы выбросов.
Существует 3 типа, они называются 3 областями:
- Область 1: напрямую из центра обработки данных: аварийные генераторы, работающие на топливе
- Область 2: косвенно связана с типом энергии, используемой центром обработки данных: ядерная, ветровая, угольная, газовая и т. д.
- Область 3: косвенно связана со строительством центра обработки данных, производством графических процессоров, транспортировкой всех этих деталей в центр обработки данных и т.д.
Это определение содержится в Протоколе по парниковому эффекту.
Тема выбросов CO2 сложна, и очень быстро можно прочитать много ерунды. Например: тепловой автомобиль выбрасывает около 1 кг CO2 на расстояние 5 км. Да, но это только область 2, косвенные выбросы, связанные с энергией, дизельным топливом, бензином. Сколько CO2 выбрасывается в атмосферу в зоне 3 при строительстве этого автомобиля? Затем нам необходимо амортизировать этот объем 3 на протяжении 100 000 км и добавить к нему объем 2, 1 кг на 5 км. А потом… Настоящая головная боль!
В OVHcloud мы в течение 2 лет усердно работали над тем, чтобы всесторонне измерить все наши выбросы, и теперь мы сертифицируем наши результаты внешним органом. Мы измеряем его в кг CO2, выбрасываемых в месяц (кг CO2/мес) по категории 1+2+3.
Таким образом, мы смогли сравнить выбросы по категории 1+2+3 между всеми нашими центрами обработки данных в Европе, Северной Америке и Азии. Во-первых, различия связаны с энергетическим балансом страны. Например, во Франции у нас много атомной энергетики: 38 кг CO2/месяц, в Квебеке много гидроэнергетики: 28 кг CO2/месяц, в Индии и Польше уголь: 318 кг CO2/месяц и 350 кг CO2/месяц (рисунок 1)
В Европе и Канаде за два года компания OVHcloud перешла на зеленую энергию. В результате во Франции мы сократили выбросы категории 1+2+3 до 30 кг CO2/месяц, а в Польше — до 20 кг CO2/месяц. Мы делаем это в США (рисунок 1).
На рисунке 2 мы видим влияние CO2 на область 1+2+3 между самой маленькой виртуальной машиной (ВМ) B3-8 и самой большой T2 с графическим процессором NVidia H100. Конечно, это связано с потреблением электроэнергии, но также и с выбросами CO2 нашими поставщиками при производстве электронных компонентов. Для создания виртуальной машины с графическим процессором, безусловно, требуется больше CO2, чем для создания виртуальной машины без графического процессора.
В заключение необходимо выбрать, в какой стране, в каком центре обработки данных запускать ИИ, графические процессоры, какой тип энергии использовать (смешанную или зеленую энергию страны), какой тип охлаждения использовать (воздушное или водяное). Все это оказывает огромное влияние на выбросы CO2 ИИ в процессе обучения и вывода. Мы можем себе представить, что выберем подходящее место в мире для обучения моделей LLM, например, Францию или Квебек в Канаде, но каждая страна должна приложить собственные усилия для снижения воздействия CO2 в Inference, которое обязательно будет максимально локальным.
