半世紀前、カオス理論の先駆者たちは、「バタフライ効果」によって長期予測が不可能になることを発見しました。複雑なシステム (天候、経済、またはその他のあらゆるもの) に対するほんのわずかな混乱でさえ、一連の出来事が連鎖して、劇的に分岐した未来につながる可能性があります。これらのシステムの状態を正確に特定して、それがどのように展開するかを予測することができず、私たちは不確実性のベールの下で暮らしています。
しかし、今はロボットが助けてくれます。
ジャーナルフィジカルレビューレターで報告された一連の結果 そしてカオス 科学者たちは、人工知能における最近の成功の背後にあるのと同じ計算技術である機械学習を使用して、驚くほど遠い地平線に至るカオスシステムの将来の進化を予測しました。このアプローチは外部の専門家によって画期的であり、広く応用できる可能性があると称賛されています。
ドイツのブレーメンにあるジェイコブス大学の計算科学教授、ハーバート・イェーガー氏は、システムの混沌とした進化を「彼らがどれほど遠い未来まで予測しているかは、本当に驚くべきことだと思う」と語った。
この研究結果は、ベテランのカオス理論家エドワード・オットとメリーランド大学の4人の共同研究者らによるものだ。彼らは、倉本・シヴァシンスキー方程式と呼ばれる典型的なカオス システムの力学を「学習」するために、リザーバー コンピューティングと呼ばれる機械学習アルゴリズムを採用しました。この方程式の進化する解は火炎面のように振る舞い、可燃性媒体中を進むにつれてちらつきます。この方程式はプラズマやその他の現象の漂流波も記述しており、「乱流と時空間カオスを研究するためのテストベッド」として機能すると、オットの大学院生で新しい論文の筆頭著者であるジェイディープ・パサックは述べています。
倉本・シヴァシンスキー方程式の過去の進化から得たデータに基づいて自らを訓練した後、研究者のリザーバーコンピューターは、炎のようなシステムが今後 8 回の「リアプノフ時間」までどのように進化し続けるかを厳密に予測することができました。大まかに言えば、これまでの方法で許容されていたより 8 倍も先のことです。リアプノフ時間は、カオス系の 2 つのほぼ同一の状態が指数関数的に発散するまでにかかる時間を表します。そのため、通常は、予測可能性の地平線が設定されます。
「これは実に素晴らしいことだ」とドイツのドレスデンにあるマックス・プランク複雑系物理学研究所のカオス理論家ホルガー・カンツ氏は、リャプノフの8回分の予測について語った。 「機械学習技術は、いわば真実を知っているのとほぼ同じです。」
このアルゴリズムは、倉本・シヴァシンスキー方程式自体については何も知りません。方程式の進化する解について記録されたデータのみが表示されます。これにより、機械学習アプローチが強力になります。多くの場合、カオス システムを説明する方程式は不明であり、カオス システムをモデル化して予測する力学学者の努力を台無しにしています。オットと会社の結果は、方程式は必要なく、データだけが必要であることを示唆しています。 「この論文は、いつか、大気の洗練されたモデルではなく、機械学習アルゴリズムによって天気を予測できるようになるかもしれないことを示唆しています」とカンツ氏は述べました。
専門家らは、この機械学習技術は天気予報以外にも、差し迫った心臓発作の兆候がないか不整脈を監視したり、ニューロンスパイクの兆候がないか脳内のニューロンの発火パターンを監視したりするのに役立つ可能性があると述べている。さらに推測すると、船舶や場合によっては地震さえも危険にさらす不正波の予測にも役立つ可能性があります。
オット氏は、この新しいツールが、1859 年に太陽の表面 35,000 マイルにわたって噴火した太陽嵐のような太陽嵐を事前に警告するのに役立つことを特に期待しています。その磁気爆発により、地球のあちこちで見えるオーロラが発生し、一部の電信システムが破壊され、同時に他の回線が電源を切っても動作できるように十分な電圧を生成しました。もし今日、そのような太陽嵐が予想外に地球を襲ったとしたら、地球の電子インフラに深刻なダメージを与えるだろうと専門家らは言う。 「嵐が来ると分かっていたら、電源を切って、後でまた入れればいいのです」とオットは言いました。
彼、Pathak 氏、およびその同僚の Brian Hunt 氏、Michelle Girvan 氏、および Zhixin Lu (現在ペンシルバニア大学に在籍) 氏は、既存のツールを統合することで成果を達成しました。 6 ～ 7 年前、「ディープ ラーニング」として知られる強力なアルゴリズムが画像認識や音声認識などの AI タスクを習得し始めたとき、彼らは機械学習について読み、それをカオスに適用する賢い方法を考え始めました。彼らは、深層学習革命に先立って、いくつかの有望な結果を知りました。最も重要なことは、2000 年代初頭に、イェーガー氏と同じくドイツのカオス理論家ハラルド ハース氏が、ランダムに接続された人工ニューロンのネットワーク (リザーバー コンピューティングの「リザーバー」を形成する) を利用して、カオス的に共進化する 3 つの変数のダイナミクスを学習したことです。 3 つの一連の数値でトレーニングした後、ネットワークは、驚くほど遠い地平線まで 3 つの変数の将来の値を予測できました。ただし、相互作用する変数が多数ある場合、計算は信じられないほど難しくなります。オットと彼の同僚は、相互に関連する変数が膨大にある大規模なカオス システムにリザーバー コンピューティングを関連付ける、より効率的なスキームを必要としていました。たとえば、進行する火炎の前面に沿ったすべての位置には、追跡すべき 3 つの空間方向の速度成分があります。
直接的な解決策を思いつくまでには何年もかかりました。パタック氏は、空間的に拡張されたカオス系における「我々が利用したのは相互作用の局所性だった」と述べた。局所性とは、ある場所の変数は近くの場所の変数の影響を受けるが、遠く離れた場所の変数は影響を受けないことを意味します。 「これを使用することで、本質的に問題をいくつかの部分に分割することができます」とパタック氏は説明しました。つまり、ニューロンの 1 つのリザーバーを使用してシステムの 1 つのパッチについて学習し、別のニューロンのリザーバーを使用して次のパッチについて学習するというように、相互作用を考慮して隣接するドメインをわずかにオーバーラップさせながら、問題を並列化できます。
並列化により、比例したコンピュータ リソースがタスク専用である限り、リザーバ コンピューティングのアプローチでほぼあらゆるサイズのカオス システムを処理できるようになります。
オット氏は、リザーバー コンピューティングを 3 段階の手順として説明しました。これを使用して、延焼する火災の推移を予測したいとします。まず、炎の前面に沿った 5 つの異なる点で炎の高さを測定し、一定期間にわたって炎のちらつきが進むにつれて、前面のこれらの点での高さを測定し続けます。これらのデータ ストリームを、リザーバー内のランダムに選択された人工ニューロンに送り込みます。入力データはニューロンの起動をトリガーし、接続されているニューロンを順番にトリガーして、ネットワーク全体に信号のカスケードを送信します。
2 番目のステップは、ニューラル ネットワークに入力データから進化するフレーム フロントのダイナミクスを学習させることです。これを行うには、データを入力するときに、リザーバー内でランダムに選択されたいくつかのニューロンの信号強度も監視します。これらの信号を 5 つの異なる方法で重み付けして結合すると、出力として 5 つの数値が生成されます。目標は、出力が次の入力セット (火炎面に沿って一瞬後に測定される 5 つの新しい高さ) と一貫して一致するまで、出力の計算に使用されるさまざまな信号の重みを調整することです。 「あなたが望むのは、出力が少し遅れて入力になることです」とオットは説明しました。
正しい重みを学習するために、アルゴリズムは出力の各セット、つまり 5 つの各点での予測された火炎の高さを、次の入力のセット、つまり実際の火炎の高さと単純に比較し、その組み合わせによって 5 つの出力の正しい値が得られるような方法で、毎回さまざまな信号の重みを増減させます。あるタイムステップから次のタイムステップに重みが調整されると、予測は徐々に改善され、アルゴリズムが 1 タイムステップ後の炎の状態を一貫して予測できるようになります。
「第 3 ステップでは、実際に予測を行います」とオット氏は言います。システムのダイナミクスを学習した貯水池は、それがどのように進化するかを明らかにすることができます。ネットワークは基本的に、何が起こるかを自問します。出力は新しい入力としてフィードバックされ、その出力は入力としてフィードバックされるというように、火炎面の 5 つの位置の高さがどのように変化するかを予測します。並行して動作する他の貯水池は、炎の他の場所の高さの変化を予測します。
PRL のプロット内 1 月に発表された論文によると、研究者らは、倉本・シヴァシンスキー方程式に対する予測された炎のような解が、カオスが最終的に勝利し、システムの実際の状態と予測された状態が発散するまでの 8 リアプノフ倍まで真の解と正確に一致することを示しました。
カオス システムを予測する通常のアプローチは、ある瞬間の状態をできるだけ正確に測定し、これらのデータを使用して物理モデルを校正し、その後モデルを進化させることです。大まかに見積もると、8 倍先の将来の進化を予測するには、一般的なシステムの初期状態を 1 億倍正確に測定する必要があります。
だからこそ、機械学習は「非常に便利で強力なアプローチである」と、ドイツのゲッティンゲンにあるマックス・プランク動的自己組織研究所のウルリッヒ・パルリッツ氏は述べた。同氏はイェーガー氏と同様に、2000年代初頭に機械学習を低次元のカオスシステムにも適用した。 「これは彼らが提示した例でうまく機能しているだけでなく、ある意味では普遍的であり、多くのプロセスやシステムに適用できると思います。」 Chaos に間もなく掲載される論文で 、パーリッツと共同研究者は、心臓組織などの「興奮性媒体」の動態を予測するためにリザーバーコンピューティングを応用しました。パーリッツ氏は、ディープラーニングは、リザーバーコンピューティングよりも複雑で計算量が多いものの、他の機械学習アルゴリズムと同様に、カオスへの対処にもうまく機能するのではないかと考えている。最近、マサチューセッツ工科大学とチューリッヒ工科大学の研究者は、一時的な情報を長期間保存できる反復ループを持つ「長期短期記憶」ニューラル ネットワークを使用して、メリーランド州のチームと同様の結果を達成しました。
彼らのPRLでの作業以来 論文、Ott、Pathak、Girvan、Lu および他の共同研究者は、彼らの予測技術の実用的な実装に近づいています。 Chaos での出版が承認された新しい研究において 彼らは、データ駆動型の機械学習アプローチと従来のモデルベースの予測をハイブリッド化することで、倉本・シヴァシンスキー方程式のようなカオス系の予測を改善できることを示しました。オット氏は、完全な高解像度データや完璧な物理モデルが常に存在するわけではないため、これは天気予報や同様の取り組みを改善するためのより可能性の高い手段であると考えています。 「私たちがすべきことは、私たちが持っている優れた知識をある場所で活用することです。そして、無知がある場合には、機械学習を使用して無知が存在するギャップを埋める必要があります。」と彼は言いました。貯留層の予測は本質的にモデルを校正できます。 Kuramoto-Sivashinsky 方程式の場合、正確な予測は 12 Lyapunov 倍まで拡張されます。
リアプノフ時間の長さは、ミリ秒から数百万年までシステムによって異なります。 (天候の場合は数日です。)それが短ければ短いほど、システムがバタフライ効果に敏感になるか、影響を受けやすくなり、同様の状態がより急速に異なる未来に向けて出発します。混沌としたシステムは自然界のどこにでも存在し、多かれ少なかれ急速に混乱していきます。しかし不思議なことに、カオスそのものを特定するのは難しい。シカゴ大学の数学教授、エイミー・ウィルキンソン氏は、「これは力学系のほとんどの人が使う用語ですが、使うときはちょっと遠慮がちです」と語る。 「何かが混沌としていると言うのは少し安っぽく感じます」と彼女は言いました。それは、合意された数学的定義や必要十分条件がないにもかかわらず、人々の注意を引くからです。 「簡単なコンセプトなどありません」とカンツ氏も同意した。場合によっては、システムの 1 つのパラメータを調整すると、システムが無秩序から安定に、またはその逆に変化することがあります。
ウィルキンソンとカンツはどちらも、パイ生地を作る際に生地を繰り返し伸ばしたり折りたたんだりするのと同じように、カオスを伸ばしたり折りたたんだりするという観点から定義しています。生地の各パッチは麺棒の下で水平に伸び、2 つの空間方向に急激に分離します。次に、生地を折りたたんで平らにし、近くのパッチを垂直方向に圧縮します。カンツ氏によると、天気、山火事、嵐のような太陽の表面、その他すべての混沌としたシステムは、まさにこのように作用するという。 「このような指数関数的な軌道の発散を実現するには、このストレッチが必要であり、無限に逃げないためには、ある程度の折り畳みが必要です。」 ここで、折り畳みは、システム内の変数間の非線形関係から生じます。
異なる次元での伸長と圧縮は、それぞれシステムの正と負の「リアプノフ指数」に対応します。 カオスの別の最近の論文 、 メリーランド州のチームは、リザーバーコンピューターがシステムの進化に関するデータからこれらの特徴的な指数の値を首尾よく学習できたと報告しました。リザーバーコンピューティングがカオスシステムのダイナミクスの学習に優れている正確な理由は、式がシステムのダイナミクスを再現するまで、コンピューターがデータに応じて独自の式を調整するという考えを超えて、まだ十分に理解されていません。実際、この手法は非常にうまく機能するため、オットとメリーランド州の他の研究者たちは現在、ニューラル ネットワークの内部の陰謀をより深く理解する方法としてカオス理論を使用するつもりです。
この記事は、スペイン語の Wired.com、Investigacionyciencia.es に転載されました。
