【論文紹介】非定常トランスフォーマー

最新AI論文をキャッチアップするAI-SCHOLARへの投稿をご紹介します。NeurIPS 2022採択論文です。

非定常区間を含む時系列データについての予測モデル「非定常トランスフォーマー」を提案しています。このモデルは2つの部分からなります。系列定常化と非定常化アテンションです。これにより、系列予測能力とモデル能力との間のジレンマを解決しました。6つの実世界のデータを用いて、従来の主要なモデルと性能比較し、50%近いMSE削減を実現しました。