私たちのどろどろした脳は、コンピュータ プロセッサの固体シリコン チップとはかけ離れているように見えますが、科学者はこの 2 つを比較してきた長い歴史があります。アラン・チューリングが 1952 年に述べたように、「私たちは、脳が冷たいお粥のような一貫性を持っているという事実には興味がありません。」言い換えれば、媒体は問題ではなく、計算能力だけが重要です。
今日、最も強力な人工知能システムは、ディープ ラーニングと呼ばれる一種の機械学習を採用しています。彼らのアルゴリズムは、ディープ ニューラル ネットワークと呼ばれる相互接続されたノードの隠れ層を介して大量のデータを処理することによって学習します。その名前が示すように、ディープ ニューラル ネットワークは脳内の実際のニューラル ネットワークに着想を得ており、ノードは実際のニューロンをモデルにしています。少なくとも、1950 年代に影響力のあるニューロン モデルがパーセプトロンが誕生しました。それ以来、単一ニューロンの計算の複雑さに対する理解が劇的に拡大したため、生物学的ニューロンは人工ニューロンよりも複雑であることが知られています。しかし、どのくらい?
これを解明するために、ヘブライ大学エルサレム校の David Beniaguev、Idan Segev、Michael London は、人工のディープ ニューラル ネットワークを訓練して、シミュレートされた生物学的ニューロンの計算を模倣しました。彼らは、深層ニューラル ネットワークが 1 つの生物学的ニューロンの複雑さを表すために、相互接続された「ニューロン」の 5 ～ 8 層を必要とすることを示しました。
著者でさえ、そのような複雑さを予期していませんでした。 「もっとシンプルで小さいものだと思っていました」とベニアゲフは言いました。彼は、セル内で実行される計算をキャプチャするには、3 つまたは 4 つのレイヤーで十分であると予想しました。
Google が所有する AI 企業 DeepMind で意思決定アルゴリズムを設計する Timothy Lillicrap は、新しい結果は、脳内のニューロンを機械学習の文脈でニューロンと大まかに比較するという古い伝統を再考する必要があるかもしれないことを示唆していると述べました。 . 「この論文は、それについてより慎重に考え、それらの類推をどの程度行うことができるかという問題を強制するのに本当に役立ちます」と彼は言いました.
人工ニューロンと実際のニューロンの最も基本的な類推は、入ってくる情報を処理する方法に関係しています。どちらの種類のニューロンも着信信号を受信し、その情報に基づいて、独自の信号を他のニューロンに送信するかどうかを決定します。人工ニューロンは単純な計算に基づいてこの決定を下しますが、何十年にもわたる研究により、生物学的ニューロンのプロセスははるかに複雑であることが示されています。計算神経科学者は、入出力関数を使用して、樹状突起と呼ばれる生物学的ニューロンの長い木のような枝が受け取る入力と、信号を送信するというニューロンの決定との関係をモデル化します。
この関数は、その複雑さを判断するために、新しい研究の著者が人工ディープ ニューラル ネットワークに模倣するように教えたものです。彼らは、ラットの皮質から、錐体ニューロンとして知られる、上部と下部に樹状枝の異なるツリーを持つニューロンのタイプの入出力機能の大規模なシミュレーションを作成することから始めました。次に、各層に最大 256 個の人工ニューロンを持つディープ ニューラル ネットワークにシミュレーションを入力しました。彼らは、シミュレートされたニューロンの入力と出力の間でミリ秒レベルで 99% の精度を達成するまで、層の数を増やし続けました。ディープ ニューラル ネットワークは、少なくとも 5 つ、ただし 8 つ以下の人工層を使用して、ニューロンの入出力機能の動作を予測することに成功しました。ほとんどのネットワークでは、これは 1 つの生物学的ニューロンに対して約 1,000 の人工ニューロンに相当します。
「[結果] は、生物学的ニューロンから人工ニューロンへの架け橋を形成します」と、ベイラー医科大学の計算神経科学者である Andreas Tolias 氏は述べています。
しかし、この研究の著者は、それはまだ単純な対応ではないことを警告しています. 「ニューラル ネットワークのレイヤー数とネットワークの複雑さとの関係は明らかではありません」と London 氏は述べています。そのため、たとえば 4 層から 5 層に移行することで、どれだけ複雑さが増したかはわかりません。また、1,000 個の人工ニューロンが必要だからといって、生物学的ニューロンが正確に 1,000 倍複雑であるとは言えません。最終的には、各層内で指数関数的に多くの人工ニューロンを使用することで、最終的に 1 つの単一層を持つディープ ニューラル ネットワークにつながる可能性がありますが、アルゴリズムが学習するには、より多くのデータと時間が必要になる可能性があります。
「私たちは多くの深さと多くのものを備えた非常に多くのアーキテクチャを試しましたが、ほとんどが失敗しました」と London 氏は述べています。作成者はコードを共有して、他の研究者がより少ないレイヤーで巧妙なソリューションを見つけることを奨励しています。しかし、ニューロンを 99% の精度で模倣できるディープ ニューラル ネットワークを見つけることがいかに困難であったかを考えると、著者らは、その結果が今後の研究にとって有意義な比較を提供すると確信しています。 Lillicrap は、多くの場合 50 層以上を必要とする画像分類ネットワークを脳に関連付ける新しい方法を提供する可能性があると示唆しました。各生物学的ニューロンが 5 層の人工ニューラル ネットワークのようなものである場合、おそらく 50 層の画像分類ネットワークは生物学的ネットワークの 10 個の実際のニューロンに相当します。
著者らはまた、その結果が AI における現在の最先端のディープ ネットワーク アーキテクチャを変えることを望んでいます。 「現在のディープ ネットワークの単純なユニットを、ニューロンを表すユニットに置き換えることで、脳の働きに近づけるために、ディープ ネットワーク テクノロジを置き換える必要があります。ニューロンは、それ自体ですでに深いものになっています。」セゲブ。この代替シナリオでは、AI の研究者とエンジニアは、5 層のディープ ネットワークを「ミニ ネットワーク」としてプラグインして、すべての人工ニューロンを置き換えることができます。
しかし、これが本当に AI に役立つのか疑問に思う人もいます。コールド スプリング ハーバー研究所の神経科学者であるアンソニー ザドールは、次のように述べています。 「この[作品]は、それをテストするための基礎を築きます。」
AI アプリケーション以外では、この新しい論文は、樹状突起ツリーと、プロキシによる単一ニューロンの強力な計算能力に関するコンセンサスの高まりにも追加されます。 2003 年に、3 人の神経科学者が、錐体ニューロンの樹状突起が 2 層の人工ニューラル ネットワークとしてモデル化することにより、複雑な計算を実行することを示しました。新しい論文で著者らは、錐体ニューロンのどの機能が、5 層から 8 層の深層ニューラル ネットワークのはるかに複雑な要素に影響を与えたかを調査しました。彼らは、それが樹状突起に由来し、樹状突起の表面で化学メッセンジャーを受け取る特定の受容体に由来すると結論付けました。これは、この分野での以前の研究と一致する結果でした.
この結果は、神経科学者が単一ニューロンの研究をより優先すべきであることを意味すると考える人もいます。 「この論文により、樹状突起と個々のニューロンについて考えることが以前よりもはるかに重要になります」と、ペンシルバニア大学の計算神経科学者であるコンラッド・コーディングは述べています。 Lillicrap や Zador のような他の研究者は、回路内のニューロンに焦点を当てることは、脳が単一ニューロンの計算の複雑さを実際にどのように利用するかを学習するのと同様に重要であると示唆しています.
いずれにせよ、人工ニューラル ネットワークの言語は、ニューロン、そして最終的には脳の能力に対する新たな洞察を提供する可能性があります。ユニバーシティ カレッジ ロンドンの計算神経科学者である Grace Lindsay は、次のように述べています。しかし、Lindsay はまた、新しい研究はまだモデルとモデルを比較しているだけだと警告しています。残念ながら、神経科学者が実際のニューロンの完全な入出力機能を記録することは現時点では不可能であるため、生物学的ニューロンのモデルが捉えていないことがさらに起こっている可能性があります。言い換えれば、実際のニューロンはもっと複雑かもしれません.
「5 から 8 の間が本当に最終的な数字かどうかはわかりません」とロンドンは言いました。
