認知神経科学者のサラ・バルデオは、頻繁な仕事の出張中に15歳の息子と連絡を取り続けるため、自分自身のパーソナライズされたAIクローンを作成した。
「デジタル親」はいかにして作られたか
AIに自分の人格を可能な限り正確に模倣させるため、サラ・バルデオは専門家としての入念さをもってこのプロセスに臨んだ。彼女は、息子との実際のやり取りのスクリーンショットや、自身の人生観、子育ての原則、家族のルールを詳しく記した文書をシステムに読み込ませて、チャットボットを訓練した。その目的は、彼女が不在の間に、思春期の息子が「デジタルママ」に助言や支えを求められるようにすることだった。
予想外のテクノロジーの使われ方
息子はAIクローンに、シカゴのカフェの一つで友達に会うことを本当の母に許可してもらうにはどう説得すればよいかと尋ねた。AIは彼女自身の考え方に基づいて論拠を組み立てた。息子はその助言を実行し、母はそれに同意した。
母の反応：「私は自分の論拠で操られた」
このことを知ったサラ・バルデオは複雑な気持ちを抱いた。「後から振り返っての私の本能的な反応は、『なんてこと、私は自分自身の理屈で操られてしまった』というものでした」と彼女はインタビューで語った。 Business Insider。
しかし、この状況をよく考えた後、この神経科学者は息子の機知を評価した。「私はこれをよく考えて、これは本当にテクノロジーのとても巧妙な使い方だと思いました。なぜなら、私がそれを意図していた使い方ではまったくなかったからです」。
これが未来にとって意味すること
この出来事は、愉快な家族の逸話の域を超えている。それは、私たちがAIを対人関係にどのように統合していくかについて、重要な問いを提起する。一方では、テクノロジーは、コミュニケーションの連続性を保つことで、身近な人の物理的な不在を補う助けになり得る。他方では、アルゴリズムが厳格に規則に従うようプログラムされていたとしても、それが親の監督を回避したり、ある種の「操作」に利用されたりし得るという、新たな予期せぬ相互作用のシナリオを生み出す。
サラ・バルデオの実験は、私たちが機械に自分自身の言葉、論理、価値観を与えるとき、これらの道具が私たちが常に予測できるとは限らない方法で使われることを覚悟しなければならない、ということを如実に示している。
