AI研究のエネルギー効率が、大幅に向上するシンプルな方法
大量の電力を使う深層学習モデルの訓練において、クラウド・サービスの設定を変更するだけでエネルギー消費量や排出量を削減できるという研究が発表された。ただ、実際には手間暇かけてそれを実践する研究者は少ない。 by Tammy Xu2022.07.12
高度な画像認識、ボード・ゲームの王者「アルファ碁(AlphaGo)」、GPT-3のような言語モデルといった世間の注目を浴びる機械学習の成功例には、深層学習が欠かせない。だが、深層学習の驚異的な能力には代償が伴う。深層学習モデルの訓練には膨大なエネルギーが必要なのだ。
このほど発表された新たな研究は、クラウド・プラットフォーム上で深層学習アルゴリズムを訓練する際、エネルギー消費を劇的に削減し、二酸化炭素の排出量を大幅に減らす方法を示すものだ。クラウドの設定をある程度変更するだけで、重要な成果が得られという。
深層学習の環境負荷を研究した論文が3年前に初めて発表されて以来、研究者の間では、研究で消費したエネルギーや排出量を自己申告する動きが活発化している。正確な数値データを把握することは変化に向けた重要なステップだが、そうしたデータを実際に収集するのが困難な場合もある。
「測定できないものは、改善できません」。シアトルにあるアレン人工知能(AI)研究所(Allen Institute for AI)のジェシー・ドッジ科学研究員はそう語る。「排出量の削減を進める第一歩は、正しい測定をしなくてはなりません」。
正しい測定を実現するため、アレンAI研究所は最近、マイクロソフト、AI企業のハギング・フェイス(Hugging Face)、そして3つの大学との共同プロジェクトを実施した。プロジェクトの目的は、マイクロソフトのクラウドサービス「アジュール(Azure)」で実行される機械学習プログラムの電力使用量を測定するツールを開発することだ。このツールにより、新しいAIモデルを作成中のユーザーは画像処理装置(GPU:並列計算の実行を専門とするコンピューター・チップ)で消費される総電力を確認できる。モデルの選択・訓練から実際の適用に至るまで、プロジェクトの各段階で確認できるようになるのだ。アジュールは大規模なクラウド提供者として初めて、機械学習プログラムのエネルギー面での影響に関する情報をユーザーに提供している。
ローカル・サーバーで実行される機械学習アルゴリズムのエネルギー消費や排出量を測定するツールはすでにある。しかし、マイクロソフトやアマゾン、グーグルなどの企 …
- 人気の記事ランキング
-
- A skeptic’s guide to humanoid-robot videos すごすぎる人型ロボット動画、騙されないためのチェックポイント
- Promotion MITTR Emerging Technology Nite #30 MITTR主催「生成AIと法規制のこの1年」開催のご案内
- A new way to build neural networks could make AI more understandable ニューラルネットの解釈性を高める新アプローチ、MITなど提案
- The UK is building an alarm system for climate tipping points 気候変動「臨界点」に備え、 英政府が早期警報システム
- Beyond gene-edited babies: the possible paths for tinkering with human evolution 「進化」の未来—— 遺伝子編集ベビーの 次に来るもの