00 · まず3分で
答えは、3つの要点でわかる
- 1演算、メモリ転送、通信、冷却が電力を消費します。
- 2水利用は施設内の冷却、発電、製造で生じ得ます。
- 3モデル、機器、場所、稼働率なしの「一質問当たり」は誤解を招きます。
01 · モデルは機械で動く
モデルは機械で動く
行列演算をプロセッサが実行し、データをメモリへ運びます。サーバー、記憶装置、ネットワーク、電力変換も加わります。
02 · 学習と利用は違う
学習と利用は違う
学習は大きな計算を一時期に集中させ、推論は利用のたびに繰り返します。広く使われるモデルでは、運用の累積が学習を上回ることもあります。
モデルは機械で動く
行列演算をプロセッサが実行し、データをメモリへ運びます。サーバー、記憶装置、ネットワーク、電力変換も加わります。
演算学習と利用は違う
学習は大きな計算を一時期に集中させ、推論は利用のたびに繰り返します。広く使われるモデルでは、運用の累積が学習を上回ることもあります。
記憶と通信熱を外へ運ぶ
空冷、冷凍機、蒸発冷却などが熱を移します。気候と設計で現地の水使用は変わり、発電側の間接使用もあります。
冷却効率化だけでは総量が決まらない
一演算当たりが減っても需要が増えれば総量は増えます。計算量、電源の炭素強度、時間、場所を合わせて見ます。
場所で変化03 · 熱を外へ運ぶ
熱を外へ運ぶ
空冷、冷凍機、蒸発冷却などが熱を移します。気候と設計で現地の水使用は変わり、発電側の間接使用もあります。
04 · 効率化だけでは総量が決まらない
効率化だけでは総量が決まらない
一演算当たりが減っても需要が増えれば総量は増えます。計算量、電源の炭素強度、時間、場所を合わせて見ます。
05 · 境界を明記して数える
境界を明記して数える
運用電力、機器製造、水の取水と消費を分けます。範囲が違えば、精密に見える数値同士でも比較できません。
06 · 出典と証拠
出典と証拠
主張を、基礎論文・標準文書、または更新記事の一次研究までたどれます。
- 01Carbon Emissions and Large Neural Network Training一次研究 ↗
この記事の仕組み・測定事実・確度の境界を支える資料です。
- 02Making AI Less Thirsty一次研究 ↗
この記事の仕組み・測定事実・確度の境界を支える資料です。
- 03Energy and AI研究機関の報告 ↗
この記事の仕組み・測定事実・確度の境界を支える資料です。
