アリババの新しい時系列予測モデルに関する論文がICML2022に選出されました

一定期間の履歴データがあれば、AI は天候の変化、グリッド負荷需要、交通渋滞を正確に予測できるでしょうか?これは時系列予測の問題です。 Alibaba DAMO Academyは最近、業界最高の方法よりも14.8%以上の精度向上を実現した新しい長期予測モデルFEDformerを提案しました。このモデルは電力網の負荷予測に適用されています。関連する論文は、トップクラスの機械学習カンファレンス ICML2022 に掲載されました。

ICMLは機械学習分野におけるトップの学術会議であり、2022年の年次会議は今週の日曜日（7月17日）に開幕します。 DAMO アカデミーの Decision Intelligence Laboratory の論文「FEDformer: 長期シリーズ予測のための周波数強化分解トランスフォーマー」は、機械学習の分野における古典的な問題である時系列予測に焦点を当てています。

時系列予測とは、簡単に言えば、過去のデータを使用して将来の情報を予測することです。予測は短期予測、中期予測、長期予測に分けられます。予測に必要な時間枠が長くなるほど、予測は難しくなります。この技術は、気象、電力、小売、輸送など多くの業界で広く使用されています。

従来の時系列予測モデルでは、一般的に LSTM や CNN などの方法が使用されますが、これらの方法は精度と使用シナリオが限られており、大規模なデータを処理できません。近年、研究者は長期時系列予測にトランスフォーマー モデルを導入し始めていますが、結果はまだ理想的ではありません。簡単に言えば、モデルの中核にある注意メカニズム モジュールは、時系列データに対して十分な感度を持っていません。

DAMO アカデミーが提案する長期時系列予測モデル FEDformer は、トランスフォーマーと従来の信号処理手法を組み合わせたものです。たとえば、フーリエ/ウェーブレット変換を使用して時間領域情報を周波数領域情報に分解すると、トランスフォーマーは長い時系列内の依存関係をより適切に学習できるようになります。 FEDformer は干渉を排除し、堅牢性も向上します。周期的なトレンド項目分解モジュールは、複数の分解を通じて入力と出力の変動を減らすように特別に設計されており、それによって予測精度がさらに向上します。

DAMO アカデミー FEDformer モデルアーキテクチャ

実験の結果、DAMO アカデミーの新しいモデルは、電力、交通、気象を含む 6 つの標準データセットで最高の記録を達成したことがわかりました。予測精度は、業界最高の以前のモデルと比較して、それぞれ 14.8% (多変量) と 22.6% (単一変数) 向上しました。特筆すべきは、このモデルが研究室の外に出て、地域の電力網で概念検証を完了し、電力網の負荷予測の精度が大幅に向上したことです。

DAMOアカデミーのFEDformerモデルは6つのデータセットで最高の結果を達成しました

DAMO アカデミーの意思決定インテリジェンス研究所は、数学的モデリングを使用して複雑な現実世界の問題を解決することを目的としていると理解されています。同社の主要な研究分野には時系列予測が含まれており、今年の ICASSP'22 AIOps Challenge で優勝したばかりです。 DAMOアカデミーが開発したグリーンエネルギーAIは、時系列予測、最適化ソルバーMindOpt、セキュア強化学習などの独自開発の基盤技術に基づいて、全国の多くの電力網や発電会社に徐々に導入され、グリーンエネルギーの消費と電力網の安全な運用を促進しています。