【HAI紹介-4】機械における「心」とはなんだろう？

本記事は下記動画の一部内容を加筆しまとめたものです（画像をクリックすると動画に飛びます）

はじめに

孤独な科学者に作られたロボット
出来栄えを言うなら　”奇跡”
だけどまだ足りない　一つだけ出来ない
それは「心」と言う　プログラム

幾百年が過ぎ
独りで残された　奇跡のロボットは　願う
知リタイ　アノ人ガ　命ノ　終リマデ
私ニ　作ッテタ　「ココロ」

唄：鏡音リン　作詞作曲：トラボルタP　「ココロ」 より抜粋

人間と機械（ロボットなど）を題材にした作品でよく取り扱われるのが「心」という概念です
SF世界に登場するようなアンドロイドや人型ロボットを夢見るものは
一度は「機械に心を持たせる方法」について思考を巡らせたものと思われます

そのような考察の基盤にあるのは「人間と機械の違いは心の有無にある」という考えでしょう

ですが，そもそもとして人間は本当に「心」を持っているのでしょうか？
「心」は何らかの物質の有無で説明されるものでしょうか？

今回はそのような疑問を端緒として，「機械における心」について少し考えてみたいと思います

機械の「人間らしさ」

結論を先に述べると「機械は”心”を持てない」という意見は否定できます
ただそれは”消極的”に導かれるものであり「機械は心を持てる」と肯定的に言うことは難しいです
それを考えるために，機械における「人間らしさ」という点に注目してみましょう

機械の人間らしさを測る手法の１つとして「チューリングテスト」[1.1]というものがあります

参加者（画像におけるC）は他の部屋にいる対象（画像におけるA・B）と会話を行います
ですが，参加者にはその会話相手が”人間”か”機械”かの情報は伏せられており
会話も部屋に備え付けられているディスプレイ上の”テキストのみ”でしか行えません（下図参照）

Turing test – Wikipedia(EN) より引用

参加者はそのような状況で対象と会話を行った後「どちらが人間だと思うか」
もし対象がA・B・C…と複数いる場合は「人間らしいと思ったランキング」を回答してもらいます
その結果，人間と機械の区別が付いていなかったり
ランキングにおいて人間よりも上位に機械がランクインしていた場合
その機械は「人間と同等の知能を有した存在である」と見なすことができる．というものです

チューリングテストの限界

ここで考えてほしいのは「人間が心を持っている」のであれば
人間と区別が付かない（もしくは人間よりも”人間らしい”と評定された）機械は
「心を持っている」という事ができるのか？ という点です

1.チューリングテストは対象の「知能^*1」しか評価していない

もしこの理論に基づくのであれば
”心の有無（≒人間らしさ）は知能の高さによって決定づけられる”という視座に立つことになります

ですが仮に，対話している相手が”赤ちゃん”・”成人男性”・”機械”だった場合どうなるでしょうか？
知能の高さは順番に 成人男性 ≧ 機械 ＞ 赤ちゃん となると考えられますが
そのことから「赤ちゃんには心がない」と結論付けることには到底納得ができないと思います

この矛盾は，「知能（Agency）」だけでなく「温かさ（Experience）」も
心（≒人間らしさ）の評価には考慮されていること [2] を踏まえると整理することができます

Dimensions of Mind Perception- Science より引用

確かに，チューリングテストをクリアした機械は「知能」では人間と同等のものを有しています
ですが，人間は「知能」も「温かさ」も高い存在であり
「知能が高いだけ」では”人間のような存在である”と結論付けることは難しいです

*1 なお，そもそもとしてチューリングテストが人間が有する「知能」を適切に測れているのかは議論の余地があります
　 有名な批判としてサールが提唱している「中国語の部屋」[1.2]というものがあります.

2.チューリングテストは”テキスト”でしか人間らしさを評価できない

上述した「温かさ（Experience）」という評価軸は”感情”という意味合い^*2も有しており
「人間らしい存在はExperienceが高い = 感情的に豊かである」と言い換えることができます

ですが、その対象の感情性（？）は，表情[3]・ジェスチャ[4]・口調[5]といった
”非言語的なモダリティ”との相互作用によって知覚されるものであり
テキストだけではその対象のExperienceを正しく受け取ることはできず
ロボットの「人間らしさ」を正確に測ることができません

以上のような課題から，アンドロイドで有名な石黒先生は単体のモダリティに依拠しない
”マルチモーダルチューリングテスト”を行うことが必要であると述べています [6]

*2 Dimention of Mind Perceptionより一部抜粋
　 A factor we termed Experience …(因子分析の結果が記載)…and included 11 capacities
　 hunger, fear, pain, pleasure, rage, desire, personality, consciousness, pride, embarrassment, and joy.
　 (このうちfear, pleasure, rage(≒angry) , pride, embarrassment, joy は感情を表す単語）

総じて，チューリングテストの結果では「この機械には心がある」と述べることはできません
「ならどうしてこの話を取り上げたのか？」という事になるのですが…
それは，このテストへの批判に対して開発者（チューリング）が行った反論が
「心」を含め人間の内的要因の解釈に新たな視点を与えてくれるためです

内的要因と独我論（唯我論）

チューリングテストに対しての批判で代表的なのが，サールによる「中国語の部屋」[1.2] です
詳しい解説は【別サイト：人工知能学会による説明】を参照していただいて…
簡単にまとめると”外側（目に見える部分・入出力）だけで判断するのはどうなの？”
という主張を展開しているのだと思ってください

ですが，このような批判に対してチューリングは以下のように反論しています[7]

お前は”他者（＝人間）の内側”を確認してそれが知能を持っていると証明できるのか？
機械に対して”内側を確認できないから駄目だ”というのであれば
それは人間に対しても同じだろうが？ あぁ？ (# ﾟДﾟ) （超意訳）

…人によってはただの論点ずらしにしか見えないかもしれませんが
このような主張は[知能]以外の内的要因においても同様に展開されています

例えば，[感情]という内的要因において「哲学的ゾンビ」[9]という問いがあります
哲学的ゾンビとは，外面的には普通の人間と全く同じようにふるまうが
そのふるまいの背景には感情や意識（＝クオリア）が全くなく
ただ外界の刺激に対して反射的な行動をしているだけの存在のことを指します

それを普通の人間と区別することはできるでしょうか？

このような「自分以外の存在の”内側”を見れないから存在を証明できない」という論調は
知能や感情だけでなく，以下のように「心」の存在にも射程を広げることができます

• 心はある＜対象＞の”内側”に存在するものであり，外側から見ることはできない
• 自分以外の＜対象＞において”内側”を覗くことはできない
• であれば，自分以外の＜対象＞において”心”があることを証明することはできない

つまり「（自分以外の）人間と機械の間に大した差はない」と論じることもできます

一方で，私たちは直観的に「自分以外の”人間”にも心がある」と感じています

それが「人間である＜私＞という存在は”心”を確かに持っている」という認識を基に
「その＜対象＞は＜私＞と同じ人間だから”心”があるだろう」と推測しているだけなら
「心の有無」というのは客観的な基準によって定まるものではなく
個々人の基準によって定まる不確実なものであると解釈することができます

「擬人化」と「心」

さて，ここまでかなり哲学・心理学的な内容に傾倒しすぎているのでHAIに焦点を戻します
第1回の紹介記事で述べたように，Human Agent Interaciton（HAI）が研究の対象とするのは
<人間>と<エージェント>が生み出す相互作用や関係性についてです
そして，<エージェント>という存在は「ただの機械」とは異なり
“自立性”や”社会性”といった人間のような要素を含んだ「特殊な機械」であると述べました

詳しくはこちらから

【HAI紹介-1】人と機械の関係性を考える学問があるって本当？

本記事は下記動画の一部内容を加筆しまとめたものです(画像をクリックすると動画に飛びます） はじめに 近年，ChatGPTや生成AIは発展に発展を遂げ「人間の仕事は機械に奪われる」といったことも良く耳にするように[…]

この定義をもう少し抽象的に表現すると
エージェントとは「人間のような機械」や「心を持った機械」と言い換えることができます

ですが，当たり前ながら「○○があればその機械には心があると言える」といったことはありません
ただ＜人間＞が心を持っている（と思われる）ことは自明なのですから
とりあえず人間に近づければ「心があるように見せる」ことはできるんじゃね？
という考え方によって，機械に対して施されるのが擬人化です

擬人化の方向性

ただ１つ留意してほしいのは，ここでいう”擬人化”は一般的な事例とは方向性が異なることです
「艦これ」や「ウマ娘」など一般的に”擬人化”と呼ばれる事例は
まず「人型」がベースにあって，そこに「モノ」の要素を付け加えることを指しています

ですが，HAIにおける擬人化は「モノ」がベースにあります
つまり１つのモノ，製品として価値を損ねない形で「人間らしさ」を付与することが重要で
過度に擬人化し人間に近づけることが，必ずしも良いとは限りません

例えば，前回の記事で紹介した「テレノイド」や「かまってひろちゃん」は
造形から”最低限の擬人化”を与えつつも”過度な擬人化”を引き起こさないように調整することで
ユーザの想像力を引き出し，外見と音声における整合性の問題を克服していました

詳しくはこちらから

【HAI紹介-3】AIを用いなくても「人間の期待」を越えることはできる？

本記事は下記動画の一部内容を加筆しまとめたものです（画像をクリックすると動画に飛びます） はじめに 前回の記事では当時としてはMicrosoft Agentsの”カイル君”が嫌われてしまった原因として，主に次の2点を取[…]

擬人化の度合い

では，擬人化の度合いを意図的に調整するにはどのような点に注意すればいいのでしょうか？
それを検討するためには，エージェントに対しての説明で色々出てくる
「○○性」といった言葉を整理することによって少し見通しが良くなります

“モノを擬人化する”という言葉は「モノを人間のように捉える見方」ことを意味しますが
人間とは，この世に存在する”生物”の中で，自ら考え行動する”主体的存在”の１つです
そのため，「モノを人間のように捉える見方」という意味の背景（下層？）には
「モノを”生物”と捉える見方」や「モノを”主体的存在”と捉える見方」も含まれています

それらをHAIで紹介される「○○性」と組み合わせて整理したのは以下の通りです

1. アニマシー（Animacy）：生物性（モノを”生物”として捉える）
   自己推進運動・目的志向性
2. エージェンシー（Agency）：自己主体性（モノを”自己を有した主体的存在”として捉える）
   自立性・社会性・反応性・永続性
3. ヒューマニティ（Humanity）^*2：人間らしさ（モノを”対話できる存在[≒人間]”として捉える）
   安定性・直観性・（身体性）・自然性

*2 ヒューマニティ(Humanity）という言葉は造語です．

これら３つの次元は包含的な関係性を有しており
Agencyが成立するためにはAnimacyの要素が含まれていることが必要で
Humanityが成立するためにはAgencyとAnimacyの要素が必要となります

これらを整理すると，次のように「擬人化のレベル」を定義することができます

• 低レベルな擬人化：アニマシーだけを知覚させる
  必要要素：自己推進運動・目的志向性
• 中レベルな擬人化：エージェンシーを知覚させる
  必要要素：自己推進運動・目的志向性 ＋ 自律性・社会性・反応性・永続性
• 高レベルな擬人化：ヒューマニティを知覚させる
  必要要素：自己推進運動・目的志向性 ＋ 自律性・社会性・反応性・永続性 ＋ 安定性・直観性・（身体性）・自然性

以下でそれぞれの要素を少し詳しく見ていきましょう

アニマシー（Animacy）：生物性

動物のはく製や人型のフィギュアのようにどれだけ見た目が「生物」であっても
その対象に＜動き＞がなければ，それが「生きている」とは感じづらいです
そのような「生物」と「非生物」の区別が行われるのがこの次元です

この次元における重要なファクタは＜動き＞ですが
ただ闇雲に動いているだけではダメで，以下の2点を有することが重要とされています [11]

• 自己推進運動
  外部からエネルギーを得て（ex.他のオブジェクトがぶつかる）運動を開始するのではなく
  自らのエネルギーによって運動をしている（＝自分自身の力で動ける）
• 目的志向性
  「他のオブジェクトを追っかける」「他のオブジェクトと動きを合わせる」といった
  何らかの目標を達成するために動いているように見える

エージェンシー（Agency）：自己主体性

植物は「栄養を摂取する」という目的に則り自らの力で枝葉・根っこを伸ばすため
アニマシー（自己推進運動と目的志向性）を有して（いるように見え）ます
ですが，その動きはDNAに刻み込まれた一種の反射的行動の産物であり
そこに＜自己主体性（自ら考え行動すること）＞を見出すことは難しいでしょう
そのような「植物」と「動物」の区別が行われるのがこの次元です

この次元における重要なファクタは＜自律＞と＜存在＞であり
細分化すると「自律性」「社会性」「反応性」「永続性」で表すことができます [14]
それぞれの性質の定義は次の通りです(第一回目の記事から引用）

• 自律性（Autonomy)
  何らかの情報に基づき，自ら判断したり調整ができる
  タスクの選択・優先順位付け・目標指向の行動・自分自身での意思決定などができる
• 社会性（Social Ability)
  他者を理解し，やりとりや関係性を円滑にすることができる
  何らかの対話や調整を通じて構成要素に関与することができ，タスクで協力することができる
• 反応性（Reactivity）
  入力に対応した出力がある．互いに反応を返しあう双方向性を有する
  エージェント自身が置かれている立ち位置（コンテキスト）を認識，それに適切に反応できる
• 永続性（Persistence）
  見えていなくても”その場で活動し続けている”と思わせることができる
  処理が必要に応じてその都度実行されるのではなく，継続的に実行され続けており
  その行動をいつ行うべきかを自ら決定する

ヒューマニティ（Humanility）：人間らしさ

この次元では「人間」と「動物」の区別を行いますが，上記2つと違い明確な定義はありません
ですが，人間と他動物を区別する補助線として
「その対象が対話できる存在か否か」という基準を提示することは有効だと思われます

ここでは，私が師事している教授が講義中で述べられていた
「対話エージェントにおける4性質」[要出典] についてご紹介したいと思います

• 安定性（Stability）
  エージェントが一貫性を持ち，長い時間が立ってもその応答性が信頼できる
  Agencyにおける「反応性」をより長いスパンで論じたもの
• 直観性（Intuitiveness)
  「そのシステムに対してのモデル（仕様書）」を学習しなくてもシステムを使える
  ユーザが元来持っている「人間に対してのモデル」を用いてインタラクションができる
  （ex.マニュアルフリーマシン[15]など）
• 身体性 (Embodiment)
  エージェントが「身体」を持つことで，ユーザに「対話できそう」という信念を持たせる
  直観性を高めるための一要因であるが，仮想的なエージェントおいては
  この要件が欠如するため，それ以外の要素で直観性や安定性を高める必要がある
• 自然性（Naturalness）
  「メディアの等式」[16]のようにエージェントが現実に存在するものと感じること

なお，＜自然性＞において提示されている「メディアの等式」については
当ブログにて関連論文をまとめていますので今回は説明を割愛させていただきます

メディアの等式に関わる論文

【論文まとめ】Computers Are Social Actors (CASA)

社会存在感(Social Presence)の文脈から派生した「人間は無意識でコンピュータを擬人化する」という話HAIではNassとReevesが提唱した"メディアの等式"という名前で知られている 社会存在感(Social […]

おわりに

さて，ここまで機械における「心」にまつわる様々な事例を紹介してきましたが
結局のところ，私自身はどうなのかと言えば「心は生み出せる」という立場にいます
その考えの根底にあるのは石黒先生が著書の中で述べられていた以下の文言です

「心」とは社会的な相互作用に宿る主観的な現象である[19]

ある機械を100人が見てそのうちの99人が「ただの機械」と思っても
そのうち一人でも「心がある存在」と見なしてくれた人がいたなら
そのロボットには”心がある”と言ってもいいと思います

であれば，次に議論すべきことは，その「主観的な現象」を多くの人に引き起こし
「（実質的に）客観的なもの」へ昇華させるにはどのようにすればいいのか．という点です

参考文献

著者情報や書誌情報などは遷移先のサイトにてご確認ください

1. チューリングテストと中国語の部屋
2. Dimensions of Mind Perception
3. Facial expression and emotion.
4. Emotion expression in body action and posture.
5. The role of voice quality in communicating emotion, mood and attitude
6. 人と関わるロボットメディアの研究開発
7. ロボットの心 ７つの哲学物語
8. 哲学的ゾンビ – Wikipedia
9. 独我論（唯我論） – コトバンク
10. 人に優しいロボットのデザイン
11. Perceptual causality and animacy
12. An experimental study of apparent behavior.
13. Temporal and spatial contingencies in the perception of social events.
14. Software Agent – Wikipedia(EN)
15. ユーザにロボットの機能を気づかせるインタラクション設計
16. ひとはなぜコンピューターを人間として扱うか
17. Attachment and loss: Retrospect and prospect.
18. Phenomenology of Perception,
19. 人間と機械のあいだ　心はどこにあるのか