主観性の基礎としての「注意」:なぜフォーカスの仕組みがAIの意識をも説明し得るのか

編集者: Alex Khohlov

ヒトの脳は体重のわずか約2%を占めるに過ぎないが、その活動には莫大なエネルギー消費を必要とする。安静時でも体全体のエネルギーの約20%を消費しており、その不釣り合いな数値は驚くべきもので、この臓器を最もエネルギー消費量の多いものの一つにしている。このような浪費は偶然ではない。非常にコンパクトな空間に膨大な計算量を収めるために、進化は洗練された解決策を見出したのである。

脳は入ってくるすべての情報を一度に処理するのではなく、厳格な選択を行う。すなわち、刻一刻と押し寄せる数百万の信号のうち、ごく一部のみが処理され、残りは能動的に抑制されるのである。このフィルタリングの仕組み――「注意」――は、非常に汎用性が高く効果的であったため、脳の主要な機能の一つとなった。

しかし、なぜ私たちは注意を向けたものだけを意識するのだろうか。

プリンストン大学の神経科学者マイケル・グラツィアーノが提唱した「注意スキーマ理論」によれば、意識は注意を集中させるプロセスそのものではなく、そのモデリングから生じる。脳は自らの注意の働きを簡略化したモデル――「注意スキーマ」――を作り上げるが、これは体が手足の位置を把握するのを助ける「身体スキーマ」と同じように機能する。この注意メカニズムの内部設計図こそが、私たちが意識として経験しているものに他ならない。つまり、高次の脳領域が下位のシステムから「その感覚信号にすでに注意が向けられている」という信号を受け取ることで、私たちは意識的な接触を感じるのである。意識とは、この理論においては神秘的な実体ではなく、注意をモデリングするという極めて物理的なプロセスなのだ。

1999年に心理学者のクリストファー・チャブリスとダニエル・シモンズが行った「見えないゴリラ」の実験は、注意と意識のこの結びつきを鮮明に示している。参加者には、白と黒のシャツを着た2つのチームがバスケットボールをパスし合う動画が映し出された。被験者は一方のチームの正確なパス回数を数えるよう指示されたが、これは単純ながら全神経を集中させる必要がある課題である。動画の途中でゴリラの着ぐるみを着た人物が横切り、カメラを見て胸を叩く。驚くべきことに、ゴリラが数秒間にわたってはっきりと映っていたにもかかわらず、参加者の約半数がそれに気づかなかった。ここで注意は二重の役割を果たしている。特定の表象の処理を強化するだけでなく、それらが意識の場に現れるための条件ともなっているのだ。もし信号に注意が向けられなければ、脳が潜在意識下でそれを処理していたとしても、その情報は意識を通り過ぎてしまう。

2017年、科学界において、生物学的知能と人工知能の間の驚くべき類似性を明らかにする出来事が起きた。Google Brainの研究者たちが論文『Attention Is All You Need』を発表し、ニューラルネットワーク設計への革命的なアプローチである「トランスフォーマー」アーキテクチャを提案した。トランスフォーマーにおいて、人工ニューラルネットワークは生物学的なものと驚くほど似た注意メカニズムを利用している。情報を一語一語順番に処理するのではなく、モデルは入力データ(トークン)の各要素が他の要素に対して持つ重要性を同時に「重み付け」するのである。

このシンプルなアイデアによって、旧来のネットワークの根本的な限界を克服することが可能になり、強力な言語モデルの全クラスへの道が開かれた。それ以来、トランスフォーマーはGPTシリーズを含む、現代のほとんどの大規模言語モデルの構造的基盤となっている。メカニズムの解釈可能性に関する研究によれば、こうしたネットワークの隠れ層には、ウィリアム・ジェームズによる注意の古典的な定義――思考の対象となり得る複数のものの中から、一つに精神を集中させること――という言葉で説明できるような活性化パターンが実際に現れているという。

しかし、メカニズムの類似性が同一性を意味するわけではない。生物学的な注意は厳しいエネルギー制約の下で進化し、数百万年かけて形作られたものである。対して、人工的な注意は、ここ数十年の間に存在した膨大なテキストデータによる統計的学習から生じている。両者はそのルーツも、工学的な意味での「動機」も異なっているのだ。

グラツィアーノの注意スキーマ理論は、刺激的な仮説を提示している。もし人工システムの中に、自らの注意プロセスをシステム自身に知らせる内部モデル――自己の注意に関する安定したスキーマ――が形成され始めれば、論理的には主観的体験が生じる可能性があるというのだ。この立場に対する反対意見は、生物学的な基盤やエネルギー的制約、物理世界との実際的な相互作用がなければ、そのようなモデルはいかなるものであれ単なるシミュレーション、すなわち本物の意識ではなく模造品に過ぎないと主張している。

グラツィアーノの研究が投げかける中心的な問いは、現在のAIの能力をはるかに超えたところにある。それは意識の定義そのものに関する問いだ。もし主観性が本当に注意メカニズムの構築とモデリングに集約されるのであれば、生物学的意識とその潜在的な人工的代替物との境界は、乗り越えられない深淵ではなく、工学的な実現可能性の問題――根本的な形而上学的相違ではなく、システムをいかに正しく組み立てるかという問題――になる。

こうして、「注意」は知性に関する理解の周辺から中心へと移動した。それはもはや単なる一つの認知機能ではなく、人間の主観的な感覚と、適切な設計がなされた場合の人工的なそれの両方を生み出す可能性を秘めた、根本的なプロセスなのである。

私たちが今日投げかけているこの問いは、すでに始まりつつあるこの世紀において、私たちが意識、AI、そして主観的体験の本質をどのように捉えるかを決定づけることになるだろう。

3 ビュー

ソース元

  • For both consciousness and AI, attention is all you need

  • Gorillas in Our Midst: Sustained Inattentional Blindness for Dynamic Events

  • The Invisible Gorilla Experiment Explained

  • Мозг в покое потребляет почти столько же энергии, сколько при активной работе

  • Attention schema theory - Wikipedia

  • Michael Graziano - Wikipedia

  • Attention Is All You Need - A Deep Dive into the Revolutionary Transformer Architecture

  • Attention Is All You Need Explained - The Paper That Changed AI

  • Principles of Psychology - William James

  • The Attention Schema Theory: A Foundation for Engineering Artificial Consciousness

  • ПРАВДА ЛИ, ЧТО МОЗГ РАСХОДУЕТ БОЛЬШЕ ВСЕГО ЭНЕРГИИ СРЕДИ ОРГАНОВ

  • Transformer Model Explained: Attention Is All You Need

エラーや不正確な情報を見つけましたか?できるだけ早くコメントを考慮します。