人工知能はあまりにも急速に発展しているため、もはやその批判者だけでなく、現代のAI産業の黎明期に自ら立ち会った人々までもが警鐘を鳴らしている。
しかも重要なのは、彼らの大半はAIそのものに反対しているわけではないということだ。彼らが語っているのは別のこと――より強力なモデルを求める競争が、安全・管理・責任に関する明確なルールが整うよりも速く進んでいるという点である。
最もよく知られた声の一つは、 ジェフリー・ヒントン――現代AIの「ゴッドファーザー」の一人である。Googleを去った後、彼はリスクについてはるかに率直に語るようになった。労働市場からの人々の大規模な追い出しから、いずれ私たちが想定するよりも制御が難しくなる可能性のあるシステムの出現まで、その範囲は広い。
もう一人の重要な人物は、 ヨシュア・ベンジオ――同じくディープラーニングの先駆者の一人である。近年、彼はAIの安全性の問題により積極的に取り組み、国家に対して大きな事故を待つのではなく、最も強力なシステムに対する独立した監督と制限をあらかじめ設けるよう呼びかけている。
2023年、ベンジオはGPT-4より強力なシステムの訓練を少なくとも半年間停止するよう求める公開書簡に賛同した。
署名者の中には イーロン・マスクもいた。彼は最大規模のAIモデルの競争に一時停止を設け、その間に信頼できるルールや安全基準、管理手法が生まれるようにするという考えを支持した。
この呼びかけにはAppleの共同創業者 スティーブ・ウォズニアックも加わった。後に彼は、開発者はより透明性を高め、技術が引き起こしうる損害に対して責任を負うべきだと別途語っている。
最も著名な知識人の中には、歴史家で作家の ユヴァル・ノア・ハラリがいる。彼はかねてから、AIの特別な危険は「賢い機械」だけにあるのではなく、アルゴリズムがテキストや画像、説得力のあるコンテンツを大量に生成する能力にもあると警告している。彼の見解では、これは情報環境と人々が意思決定を行う方法を根本から変えうるという。
無制限の競争に対する最も一貫した批判者の一人は、カリフォルニア大学バークレー校の教授 スチュアート・ラッセルは、人工知能に関する最も著名な教科書の一つの共著者である。
彼の立場はきわめて単純だ。問題が生じるのは、人間よりも効率的に目標を達成できるシステムを私たちが作り出しながら、その目標が本当に私たちの目標と一致していることを保証できない場合である。
そして特に示唆的なのは、最大手のAI企業の経営者たちまでもが、より慎重な発言をするようになったことだ。
Anthropicのトップである ダリオ・アモデイ は、安全性の手法がその能力に追いつけるよう、先端モデルの開発をより緩やかで管理されたものにするよう公に呼びかけた。彼は独立した検証、共通の基準、国際的な協力を支持している。
さらに サム・アルトマンでさえ、OpenAIのトップとして、最も強力なシステムに対する規制の必要性と、AIの発展が速度を安全性より優先する競争になってはならないことについて繰り返し語ってきた。
同様の考えは、Google DeepMindのトップである デミス・ハサビスも述べている。最大手のAI企業は、最も深刻なリスクを管理するための共同の取り組みについて、ますます頻繁に議論している。
その結果、かなり逆説的な構図が浮かび上がる。
ヒントン、ベンジオ、ラッセル、マスク、ウォズニアック、ハラリ、アモデイ、アルトマンらは、脅威の規模の評価や、開発をどれほど強く減速させる必要があるかについて、大きく意見が分かれることがある。しかし彼らが一致するのは一点だ。超強力なAIをまったくルールなしに放置するのは悪い考えである。
一方で、深刻な懐疑論者もいる。
一部の専門家は、「人類の終焉」をめぐる議論は大きく誇張されていると考え、現在のシステムには依然として多くの限界があることを思い起こさせる。
また別の者たちは、大手AI企業にとって厳格な規制をめぐる議論を維持することが有利なのではないかと疑っている。なぜならそれは小規模な競合他社の立場を難しくしうるからだ。
それゆえ、このテーマをめぐってはきわめて真剣な論争が続いており、科学界に統一された見解はない。
しかし、その事実自体が注目に値する。ほんの数年前まで、この問いは次のように響いていた。
「AIは何をできるのか？」
今では、ますます別の問いが投げかけられている。
「そして、AIがあまりにも強力になる前に、私たちはそれを制御することを学ぶのに間に合うのだろうか？」
