Chronosは時系列を「言葉」として学習したモデル

Chronosは、Amazonの研究者が2024年3月に発表した時系列の基盤モデルです(Ansariら、arXiv 2403.07815)。時系列の値をスケーリングし、一定の区間ごとに量子化してトークン(単語に相当する記号)に変換し、T5系の言語モデルの構造で学習します。パラメータ数は2,000万〜7.1億で、複数のサイズが公開されています。

従来の需要予測は、自社のデータでモデルを学習してから予測します。Chronosは多数の公開時系列で事前に学習しており、新しいデータに対して追加学習なしで予測を出せます。これをゼロショット予測と呼びます。

論文上の実力

論文では42のデータセットで評価しています。うち15は学習データに含まれるドメイン内、27は学習に使っていないゼロショットの評価です。ゼロショットのデータセットでも、そのデータで学習した手法と同等か、時に上回る性能を示したと報告されています。

評価に使ったデータセット数
42
Ansari et al.(Amazon, arXiv 2403.07815, 2024年3月)
うち学習に使っていないゼロショット評価
27
同上
公開モデルのパラメータ数
2,000万〜7.1億
同上

ただし評価対象は公開データセットで、小売・エネルギー・交通・気象など多様な系列が中心です。製造業の受注データのように、少数顧客の発注に左右され、内示や設計変更の影響を受ける系列での性能は、論文からは分かりません。

製造業で使える場面と使わないほうがよい場面

場面判断理由
履歴が1年未満の品目使える自社データで学習するには短すぎる系列でも予測を出せる
数千品目の初回ベンチマーク使える学習なしで全品目の比較基準を短時間で作れる
予測モデル構築前の当たり付け使えるどの品目が予測しやすいかを早く把握できる
内示・販促が効く品目主力にしない説明変数を入れる仕組みが基本形にない
受注生産で需要が離散的主力にしない少数顧客の発注パターンは公開データと性質が違う
予測理由の説明が必要主力にしない予測根拠を特徴量で説明しにくい

実務では、Chronosを主力モデルにするより、比較基準と補助に使うのが現実的です。LightGBMなどの主力モデル、ナイーブ予測、Chronosの3つを同じ評価期間で比べ、品目群ごとに勝った手法を採用します。比較の作り方は需要予測AIはナイーブ予測に勝っているかを参照してください。

ナイーブ予測、時系列基盤モデル、自社学習モデルを同じ評価期間で比較し品目群ごとに採用を決める流れ ナイーブ予測 基盤モデル(学習なし) 自社学習モデル 同じ評価期間で品目群ごとに比較 品目群ごとに採用手法を決定
時系列基盤モデルの位置づけ。主力モデルと並べて比較し、品目群ごとに採用を決める。

なぜ「言葉の学習方法」で時系列が予測できるのか

言語モデルは、前の単語の並びから次の単語を予測するように学習します。Chronosは、時系列の値を区切って記号に置き換え、同じ仕組みで「次の値の記号」を予測します。数値の大小関係や周期性といった時系列の特徴を、言葉の文法を学ぶのと同じように多数の系列から学んでいると考えると分かりやすいでしょう。

この方式には利点と制約があります。利点は、大量の多様な時系列で事前学習しておけば、新しい系列にも共通のパターン(季節性、トレンド、水準の変化)を当てはめられることです。制約は、値を量子化して扱うため、極端に大きい値や小さい値の表現に限界があること、そして予測に使えるのが基本的に系列自身の過去の値だけであることです。製造業の需要が、顧客の生産計画や設計変更といった系列の外の要因で動く場合、過去の値だけでは捉えられない変化が残ります。

導入時のデータ・運用面の論点

Chronosはオープンに公開されており、社内サーバーで動かせます。受注データを社外のクラウドAPIに出せない場合でも使える点は、製造業にとって利点です。一方で、大きなモデルは推論にGPUが必要になり、数千品目を毎週予測するなら計算資源の見積もりが必要です。

予測区間(確率的な予測)を出せるのも特徴で、安全在庫の計算に使える形で出力できます。この点は需要予測をS&OPと生産計画につなぐで説明する、予測区間を在庫に変換する考え方と相性がよいです。

よくある質問

Chronosは生成AI(ChatGPTのようなもの)ですか?

言語モデルと同じ構造で学習していますが、文章ではなく数値の時系列を入出力します。対話や文書生成はできません。

自社データで追加学習(ファインチューニング)すべきですか?

まずゼロショットで比較し、効果が見込める品目群があれば追加学習を検討します。追加学習すると再学習の運用が必要になり、「学習不要」の利点は薄れます。

他の時系列基盤モデルとどう選べばよいですか?

同じ品目・同じ評価期間・同じ指標で比べるしかありません。モデルの規模や発表元より、自社データでナイーブ予測を上回るかで判断してください。

この記事に出てくる用語

用語集(日・英・中)をすべて見る

この特集について

製造業の生成AI、どこまで任せられるか

文書検索、手順書の生成、品質報告のドラフト。人が承認する範囲と任せてよい範囲の線引き 全91本

  1. 製造業の生成AI活用の全体像:業務別12ユースケースと導入の順番
  2. 製造業の社内文書RAG入門:手順書・図面・品質記録を検索する5層構成
  3. Siemens Industrial Copilotの全体像:5系統の提供状況と狙い
  4. 生成AIの情報漏えい対策:製造業が決めるべき入力禁止情報とログ管理の7項目
特集の記事をすべて見る →

この記事を書いた人

株式会社サオス

株式会社サオス 製造DX部

DELMIA Apriso を中核とした MES / 製造DX の導入・運用・人材育成と、製造業向けAIの調査・開発・教育を手がけるITコンサルティング企業。ISO 9001:2015 / ISO 27001:2022 認証取得。 日本・中国・米国で製造業のMES・データ基盤・AI導入を手がけた実務者が、欧米・中国の一次情報にあたって書いています。