人間または機械がタスクを改善する方法を学習するたびに、証拠の跡が残されます。一連の物理的変化 (脳内の細胞またはアルゴリズムの数値) がパフォーマンスの向上の根底にあります。しかし、どのような変更を加える必要があるかをシステムが正確に把握する方法は、簡単なことではありません。これはクレジット割り当て問題と呼ばれ、脳または人工知能システムがパイプラインのどの部分がエラーの原因であるかを特定し、必要な変更を加えなければなりません。もっと簡単に言えば、誰が悪いのかを見つける責任ゲームです。
AI エンジニアは、1986 年に Geoffrey Hinton、David Rumelhart、および Ronald Williams の研究によって一般化されたバックプロパゲーションと呼ばれる強力なアルゴリズムを使用して、マシンのクレジット割り当て問題を解決しました。現在、ディープ ニューラル ネットワークとして知られる最も成功している AI システムの学習を強化するのは主力製品であり、入力層と出力層の間に人工の「ニューロン」の隠れ層があります。そして今、Nature Neuroscience に掲載された論文で 5 月には、科学者はついに、リアルタイムで機能する生きた脳に相当するものを発見した可能性があります。
オタワ大学の Richard Naud 氏と McGill 大学の Blake Richards 氏とケベック州の Mila AI Institute が率いる研究チームは、逆伝播プロセスを模倣できる脳の学習アルゴリズムの新しいモデルを明らかにしました。非常に現実的に見えるので、実験神経科学者は注目し、実際のニューロンを研究して、脳が実際にそれを行っているかどうかを調べることに関心を持っています.
ベルリンのフンボルト大学の実験神経科学者であるマシュー・ラークムは、「より理論的な側面から来るアイデアは、困難な実験を行う原動力となる可能性があり、私のお金で、この論文はその基準を超えています. 「それは生物学的にもっともらしく、大きな影響を与える可能性があります。」
ただし、2 つのプロセスはまったく同じではありません。深層ニューラル ネットワークが画像を認識するようにトレーニングされると、「学習」が行われるときに、最初に順方向の伝播が行われ、次に逆方向の伝播が行われます。最初の段階では、入力層のニューロンが画像の特徴をエンコードして渡します。次に、隠れ層のニューロンが計算を実行し、その結果を出力層に送信します。出力層は、「猫」のように画像の予測を吐き出します。しかし、画像が実際に犬のものである場合、バックプロパゲーション アルゴリズムが入ってきて、ニューロンを接続する重みを調整することで問題を修正する必要があります。
これらの変更は、出力層に最も近い上部のニューロンから始めて、各層を逆方向に移動しながら、すべてのニューロンが全体的なエラーにどのように寄与するかを計算することに基づいています。たとえば、特定のニューロンの活動を増やすと出力予測が改善されるとバックプロパゲーション アルゴリズムが推定する場合、そのニューロンの重みは増加します。目標は、出力予測がより頻繁に正しくなるまで、ニューラル ネットワーク内のすべての接続を (それぞれを少しずつ正しい方向に) 変更することです。
何十年もの間、研究者たちは、クレジット割り当ての問題を解決するために、脳がバックプロパゲーションのようなことをどのように実行するのかを理解しようと試みてきました。バックプロパゲーション自体は、生物学的にもっともらしくありません。なぜなら、実際のニューロンは、外界の処理を停止してバックプロパゲーションが始まるのを待つことができないからです。そうすると、視覚や聴覚に障害が発生することになります.
Naud と Richards の新しいモデルは、ニューロンがどのように相互に通信するかについての標準的な理解を単純に変更することで、この問題を回避しました。ニューロンがビットとして機能し、電気的活動のスパイクを別のニューロンに送信するか、送信しないかの 2 つの出力しかできないことは以前から知られていました。つまり、1 または 0 です。 」のスパイクが立て続けに。そして、そうすることでニューロン間の接続が変化することが証明されており、バーストはクレジット割り当て問題を解決するための自然な候補になります。新しいモデルでは、研究チームは、ニューロンが 3 番目の出力信号をバーストすると考えました。これは、1 のストリームが非常に接近しているため、実質的に 2 になります。2 は、外界について何かをコード化するのではなく、他のニューロンに伝える「教育信号」として機能します。回路の上部で発生したエラーに基づいて、相互の接続を強化するか弱めるか。
しかし、感覚処理を「一時停止」せずにクレジット割り当ての問題を解決するためのこの教示信号には、彼らのモデルには別の重要な要素が必要でした。 Naud と Richards のチームは、ニューロンの上部と下部に別々のコンパートメントがあり、完全に異なる方法で神経コードを処理することを提案しました。
「[私たちのモデル] は、実際に 2 つの信号 (1 つは上昇、もう 1 つは下降) があり、互いに通過できることを示しています」と Naud 氏は述べています。
これを可能にするために、彼らのモデルは、ニューロンの上部で入力を受け取る木のような枝が、接続を調整してエラーを減らすために、バースト (内部教師信号) のみをリッスンしていると仮定しています。チューニングは、バックプロパゲーションと同じようにトップダウンで行われます。これは、彼らのモデルでは、上部のニューロンが、その下のニューロンがバーストを送信する可能性を調整しているためです。研究者は、ネットワークのバーストが多い場合、ニューロンは接続の強度を高める傾向があるのに対し、バースト信号の頻度が低い場合、接続の強度は低下する傾向があることを示しました。アイデアは、バースト信号がニューロンに、タスク中にアクティブであるべきであることを伝え、そうすることでエラーが減少する場合、それらの接続を強化するというものです。バーストがないことは、ニューロンが非アクティブであるべきであり、接続を弱める必要があるかもしれないことをニューロンに伝えます.
同時に、ニューロンの下部にある分岐は、バーストを単一のスパイク (正常な外界信号) であるかのように扱います。これにより、ニューロンは中断することなく感覚情報を回路内で上向きに送信し続けることができます。
チューリッヒ大学および ETH チューリッヒ校の計算神経科学者 João Sacramento は、次のように述べています。 「素晴らしいと思います。」
他の人は、過去に同様の論理に従おうとしました. 20 年前、ペンシルバニア大学のコンラッド・コーディングとドイツのオスナブリュック大学のピーター・ケーニッヒは、2 つのコンパートメント ニューロンによる学習フレームワークを提案しました。しかし、彼らの提案には、生物学的に関連する新しいモデルの具体的な詳細の多くが欠けており、単なる提案にすぎませんでした。彼らは、クレジット割り当ての問題を実際に解決できることを証明できませんでした.
「当時は、これらのアイデアをテストする能力がなかっただけです」とコーディング氏は言います。彼は新しい論文を「途方もない仕事」と考えており、彼自身の研究室でフォローアップする予定です.
今日の計算能力により、Naud、Richards、およびその共同研究者は、バースト ニューロンが学習規則の役割を果たすモデルのシミュレーションに成功しました。彼らは、XOR として知られる古典的なタスクでクレジット割り当て問題を解決できることを示しました。このタスクでは、2 つの入力のうちの 1 つ (両方ではない) が 1 の場合に応答することを学習する必要があります。また、バースト ルールで構築されたディープ ニューラル ネットワークが近似できることも示しました。困難な画像分類タスクでの逆伝播アルゴリズムのパフォーマンス。しかし、バックプロパゲーション アルゴリズムはさらに正確であり、どちらも人間の能力と完全には一致しないため、まだ改善の余地があります。
「私たちが持っていない詳細が必要であり、モデルをより良くする必要があります」とNaud氏は言いました. 「この論文の主な目的は、機械が行っている種類の学習が生理学的プロセスによって近似できることを示すことです。」
脳がバックプロパゲーションをどのように近似するかを解明することで、最終的に AI システムの学習方法も改善される可能性があるため、AI 研究者も興奮しています。オランダのラドバウド大学ドンダース研究所の人工知能部門の主任であるマルセル・ヴァン・ガーベンは、次のように述べています。 P>
新しいモデルは、神経科学と AI のパートナーシップが、それぞれの理解を超えて、脳と機械が何かを学習できるようにするために必要な一般原則を見つける可能性があることを示唆しています。
「これらは、最終的にウェットウェアを超越する原則です」と Larkum 氏は述べています。
