【HAI紹介-5】「心を感じる」とはなんだろう？

はじめに

サリーとアンは同じ部屋にいて，部屋にはサリーのバスケットとアンの箱が置かれています．
サリーはビー玉を自分のバスケットに入れて，そのまま部屋を出ていきました．
そして，アンはサリーが部屋を出ている間にビー玉を自分の箱に移し替えました．

では，サリーが部屋に戻ってきて，ビー玉を取り出そうとした時，どこを探すでしょうか

上記の質問は，「心の理論（Theory of Mind）」というものを測る代表的な課題[1]で
この課題に答えることができると他者の心を類推し，理解する能力があるとみなされます

ですが，この理論は「他者に “心（もしくはそれに類するもの）” がある」という前提で成り立っており
「心を感じる」や「心を認める」といった根本的な問題に対して，答えを与えてはくれません

そこで，本稿ではHAIの教科書で度々取り上げられる哲学者 Daniel Dennett[2] の考えを引用しながら
この問題に対して少しだけ踏み込んでみたいと思います

諸概念の整理

まずは，心理学や哲学においてDennettの理論がどのような立ち位置であるかを明らかにするために
「素朴心理学」と「道具主義」という２つの内容について紹介していきます

素朴心理学

心理学の領域では「行動モデル」や「性格モデル」と題して，人間の内的状態を理路整然と定義していますが
そういった専門的知識を知らなくても，私たちは他者の行動や性格といったものを理解し
ある程度予測することができます

素朴心理学^*1（Folk Psychology）とは，このような専門的知識に依拠せず
人が社会的相互作用の中で自然に獲得し，日常的に用いている他者理解の枠組みを扱う学問のことを指します[3]

その中でも代表的な枠組みが，行動を信念（Belief）と欲求（Desire）によって説明する「信念・欲求モデル」[4]です

Folk psychology – Wikipediaより引用

このモデルでは，私たちの行動は以下の２つから生まれるものと解釈されています

• 信念（Belief）
  その主体が世界の状態や事実についてどのように捉えているか（※必ずしも客観的に正しいとは切らない）
  例：あの道を右に曲がると目的地に着く / あの店はこの時間は営業している
• 欲求（Desire）
  その主体がどのような状態を望んでいるか，あるいはどのような結果を望んでいるか
  例：のどの渇きを満たしたい / 限定商品を手に入れたい

換言すると，信念は「自分を取り巻く”世界”の理解」を表していて
その”世界”の中で「自分が持つ欲求を満たすことができるか」を判断している．といった具合です
そして，ある行動（Action）を行うことによって，持っている欲求が満たされると判断した場合
行動するための意図（Intention）が発生し，その意図が実行されることで行動が生み出されます

この枠組みは，観測可能な事象に基づく説明（近年ならニューラルネットワークを用いた計算）だと
数千から数万のパラメタによって記述される「行動」を，わずか数個の変数によって説明しています
これは，変数として用いている「信念」や「欲求」といった概念が，多様な意味を包含するためです

このように，観測不可能な内的状態を変数として用いることで，曖昧さを含みながらも
低い認知コストで人間の理解や予測を可能にする枠組みを扱うのが，素朴心理学です

*1 「素朴心理学」の他に「民間心理学」や「常識心理学」・「通俗心理学」といった名称で呼ばれることもあります
　 英語の場合は「Folk Psychology」の他にも「Naive Psychology」といった語句が用いられます

道具主義

”心”を含めた観測不可能な内的状態を対象とするとき
しばしば問題となるのがそれらが本当に「存在するのか」という点です

この問いに対しては，内的状態が実在すると考える「実在主義」から，
脳や身体といった観測可能な過程によって説明を試みる「還元主義」など，さまざまな見方があります．

その中でも，「それを用いることでどれだけ現象をうまく説明できるか」を重視するのが「道具主義」です
道具主義では，以下の観点からある対象が実在するかどうかについて本質的な問題ではない．という立場を取ります

「観測可能な現象の説明・予測が上手に出来ても，それが現象の背後にある観察不可能な実在の記述にはならない」[9]

この立場は，「いいところは全部頂戴して，厄介なところはこれっぽちも引き受けない」[10]と指摘されているように
説明や予測に役に立つ部分だけを使い，それが本当に存在するのかといった難しい問題には踏み込みません

Dennettの3つのスタンス

では，以上の事前知識を軽く踏まえたうえで本題に入っていきましょう
哲学者 Daniel Dennett は，人間がある対象のふるまいを理解するにあたって
以下に示す３つのスタンス（＝戦略）を使い分けていると提唱しました[11]

1. 物理スタンス（Psysical Stance）
2. 設計スタンス（Design Stance）
3. 志向スタンス（Intentional Stance）

イメージとしては，一般的に”モノ”と言われるものに対して使うのが「設計スタンス」で
それをより具体的に捉えるのが「物理スタンス」，より抽象的に捉えるのが「志向スタンス」といった具合です

以下では，これら３つのスタンスの理解を深めるために
「自動販売機」を事例として取り上げて，それぞれのスタンスで解釈を行っていきたいと思います

設計スタンス

まず，一番わかりやすく，基準となるものから考えていきます
「設計スタンス」は，その対象が持つ設計や機能に焦点があたります

その場合，自動販売機は「お金を入れることで飲み物を買うことができる機械」や
「24時間起動している無人型の販売機」といった形で解釈をすることができると思います
特に意識しない限り，私たちは”モノ”に対してはこのスタンスを適応します

物理スタンス

「物理スタンス」は，その対象が持つ設計や機能の背景にある仕組みにまで焦点があたります

自動販売機の場合は「お金が入ることでセンサーが起動する」「電気信号が発火し選択ボタンが光る」
「ボタンが押下されるとモータが作動し飲み物を落下させる」…といった具合です

このような見方は，対象をより正確に理解できているという点では設計スタンスよりも秀でています

ですが，専門的な知識を必要とするため，このような解釈ができる人は限られてきます
また，「なるべく楽にしたい」がモットーの人間にとって，このスタンスは認知負荷が高いので
必要な場合（例：自動販売機が壊れている＝設計スタンスで解釈できない）以外は設計スタンスが優先されます

志向スタンス

「志向スタンス」は，その対象に対して信念や欲求を帰属しそれを基に解釈を行います
HAIにおいて「対象に心を感じる」という前提には，このスタンスで対象を捉えることが含まれます[13]
自動販売機の場合だと「誰もいない中で私に寄り添ってくれる」みたいな感じです

このような帰属は大きく分けて２つのルートから生じます

1.信念や欲求を仮定することで理解を簡略化する

前述した設計スタンスと物理スタンスの関係性からもわかるように
下位のスタンスよりも上位のスタンスのほうが，求められる知識量は認知負荷は小さくなります
そのため，設計スタンスでも十分に理解できない場合や，
１つ１つの機能は理解できるものの，その組み合わせが膨大になる場合には，
それらを「信念」や「欲求」として１つのファクタにまとめ，より簡潔に理解しようとする働きが生じます

例えば，自動販売機がすごい進化をして，「人の居るところに自動的に移動する機能」や
「季節を判断して商品を入れ替える機能」・「在庫状況に応じて補充を要請する機能」などを有した場合
その超ハイテク自動販売機を「○○といった機能を持つ機械」と一言で説明することは出来るでしょうか

この「人の位置を検知して…（中略）…機能を持つ機械」という説明と
「人に飲み物を自主的に売ろうとする機械」という説明を比べると
後者は前者に比べて少し情報を取りこぼしているものの，説明から予想されるふるまいについては
どちらもそこまで相違が無いように感じると思われます

このように，志向スタンスは設定スタンスに比べて情報をそぎ落としつつも
予測の精度を大きく損なうことなく，対象のふるまいを効率的に捉えることができます

2.意図的に信念や欲求を仮定する

これは，物理スタンスで解釈できる対象は設計スタンスでも解釈できるように
下位から上位へと解釈を変えることは，特別な条件を必要とせずに行うことができるためです

このアプローチは，前述した「対象の理解を促す」というよりも
「信念や欲求を帰属させることで，新たな価値を生み出す」ことが主軸に置かれることが多く
過去の記事で紹介した”擬人化”を促す合図（キュー）を取り入れることで
プロダクトに対して温かみや親しみやすさといった印象を付与することができます

「心を感じる」とは

ここまでの説明で「心を感じるためには対象を志向スタンスで捉えることが大事なんだ」
というのがなんとなく分かったと思いますが，厳密にいうと
「志向スタンスで捉える」ことは「心を感じる」ための前提であり，イコールではありません

そこで，本章では「志向スタンスで捉えること」が具体的にどういったことを指すのかを整理しつつ
それを踏まえたうえで「心を感じる」とはどういった状況なのかを明らかにしていきます

志向性と誤信念課題

「志向スタンス」とは，ある対象を志向的に解釈するスタンスのことを指していますが
この「志向的（＝志向性がある）」という言葉はついて性(aboutness)のことを表しています

これは何らかの対象に対して意識が向いている状態を表し
「○○だと信じている」という信念や，「○○だと考えている」という欲求や意図などが含まれます

Dennetの著書[11]ではこの「ついて性」や「志向性」に関して
ばっちばちの論理式と命題を用いた定義と，語句的なアプローチによる定義がありますが
前者については翻訳者も「やべぇ」と言っているレベルで難解なので割愛して
後者について少し説明をしていきたいと思います

「ついて性」を表す志向的イディオム（≒文章・文法）においては
通常であれば許容される置換法則が当てはまらないという性質が確認されています[17]

例えば「Dennett ＝『The Intentional Sttance』の作者」と置いたうえで
通常の文章（Aは[X/Y]である）であれば，以下の２つは同じ意味を持ちます

• メアリーは[Dennett]の横に座っている
• メアリーは[『The Intentional Sttance』の作者]の横に座っている

ですが，志向的イディオムを用いた文章（Aは[X/Y]が[X/Y]であると信じている）の場合
表現を置き換えることによって，以下のように意味が通じない文章が出てきます

• メアリーは[Dennet]が[『The Intentional Sttance』の作者]であると信じている
• メアリーは[Dennet]が[Dennet]であると信じている？

このように真偽が単純に一致しなくなるのは，
志向的イディオムが世界の事実（X=Y）を直接扱っているのではなく，
主体がそれをどのように認識しているかという，外界とは切り分けられた領域を扱っているためです

ここで，本稿の冒頭に紹介した「心の理論」を測る課題を思い出してください
この課題で問われているのは，世界の事実（ビー玉はアンの箱の中にある）と
サリーの信念（サリーはビー玉がバスケットの中にあると思っている）の区別です

このような課題は「誤信念課題」[18]と呼ばれており，世界の事実と切り離して
他者の内部に成立している信念（⊂ 志向性）を推定できるかを測っています
このことからも，志向性と「心」という概念が深く結びついていることが伺えます

志向的イディオムの階層と心の帰属

「心の理論」において測定しているのは
「サリーは[ビー玉がバスケットの中にある]と思っている」や
「私は[サリーはビー玉がバスケットの中にあると思っている]と考える」という階層的な信念です

そして，このような階層的な志向性状態の理解は，知性の発達とともに高度化していくものであり
人間らしいふるまいを生み出すには，三階以上の志向性が求められるという見解が示されています[19][20]

このような見解を踏まえ，Dennettは志向スタンスを前提とした
人の条件（＝人と認められるために必要な条件）として次の6項目を示しています[21]

1. 合理的な存在であること
2. そこに意識（意図性）を帰属させられる存在であること
3. それに関して人格的なスタンスを取ることができること
4. 互いに人格的なスタンスをとることができること
5. 言語もしくは記号的なコミュニケーションが可能な存在であること
6. 自他とを区別する特別な意識あるいは自意識を持つ存在であること

このうち，今までの説明に当てはめると
条件2は「1階層の志向性（Aはpと信じている）」を持つこと
条件3は「2階層の志向性（AはBがpと信じていると考える）」を持つこと
条件4は「3階層の志向性（AはBがAがpであると信じていると考える）」を持つことと言い換えられます

そして，条件5でこれらと独立した要件として「対話できる存在であるか」が求められ
条件6において，条件1-4で前提とされている階層的な志向性を基盤として
「これは自分の信念である」や「これは他者の信念である」といった区別を行い
自分を１つの主体として捉えることができるかが問われています

これが，ある対象を「心を感じる（＝人間と認める）」構造となります

HAIにおける「心」の扱い

毎度のことながら，「心」が話題になると哲学的な議論に内容が偏るので
HAIに関連する話についてもきちんと触れておきましょう

マインド・パーセプション

前章において，人間らしいふるまいと知性が結びついている．といった記述がありましたが
「心」や「人間らしさ」といった概念は，知性の1軸では説明できないものと考えており
それを説明しているのがマインド・パーセプション(Mind Perception)というモデル[22]です

Dimensions of Mind Perception -Scienceより引用

このモデルでは，「心」や「人間らしさ」をAgencyとExperienceの2軸で解釈します
Agencyは「知性」や「賢さ」，Experienceは「感情」や「温かさ」といったラベルが付くことが多く
具体的には以下のような要素から構成されています

• 知性・賢さ（Agency）
  意図・思考・計画，自制心，道徳的判断など，意思決定や責任・行動に関わる軸
  （Agency refers to the capacity to, for example, intend, think, plan, have self control, and be a moral person.）
• 感情・温かさ（Experience）
  社会的・道徳的な感情，痛み・空腹感・感覚や意識など．主観的な体験に関わる軸
  （Experience refers to, for example, the capacity to feel complex emotions, pain, hunger, sensation, and consciousness.）

本邦においては，高橋らが同様の概念を認知処理の観点から検討し
Agencyを「志向的な認知処理」，Experienceを「愛着反応的な認知処理」という形で説明しています[23]

また，Experienceに含まれる社会的・道徳的な感情は，
ヒーローに対する尊敬や悪役に対する怒りといった「行為者に向けられるもの」と，
被害者に対する共感や要支援者に対する哀れみといった「受け手に向けられるもの」に分類されます[25]

そのため，Schweitzer and Waytzらはこの分類に基づき，心の知覚に関する単語を，
「Mind Overall」「Agency」「Experience」に加えて，Experienceの下位カテゴリである
「Agent-Directed Emotions」と「Patient-Directed Emotions」の観点から整理しています[26]

詳しくはこちらから

【論文まとめ】 Mind Perception

Mind Perceptionとそれに対応するものとして非人間化（Dehumanization）周りの諸概念を整理Humanity / Agency / Animacyからなる3層の説明に使えるかもしれない Mind Percept[…]

擬人化と非人間化

このような形で，HAIにおいては「心」というものが定義されていますが
これと関わる概念が擬人化（Anthropomorphism）と非人間化（Dehumanization）です

人間は「この世に存在する”生物”の中で，自ら行動する”主体的存在”の１つ」なので
ある対象を擬人化する（＝人間のように捉える）ためには
①生物性，②主体的存在，③人間らしさを対象から見出す必要があります

ですが，場合によっては「生物感は感じるが主体的存在感は感じない」や
「主体的存在感は感じるが人間らしさは感じない」といった分岐も考えられます

Haslamはこのような状態を「非人間化」と呼び
「動物的非人間化」と「機械的非人間化」という２つの階層から整理しました[27]

• 動物的非人間化（Animalistic dehumanization）
  他者を「Agencyに対応する心的状態を欠いている」と見なし，非人間的な動物と同様の存在と考える
  （例：合理性や自制心など「Human uniqueness traits」の欠如）
• 機械的非人間化（Mechanistic dehumanization）
  他者を「Experienceに対応する心的状態を欠いている」と見なし，冷淡でロボットのような存在と考える
  （例：感情や感覚など「Human nature Trait」の欠如）

このように，Mind Perceptionは従来の「人間らしさ」や「心の帰属」をわかりやすく説明できるため
HAIにおいても基本的な「心のモデル」として用いられています

おわりに

今回は前回の記事に引き続いて「心とは何なのか」という問いに対する説明を行ってきました

ただ，１つ忘れないでほしいのは，HAIはあくまでも「機械に心を作る学問」であることです
心をどのように説明できるかだけでなく，それをどのように表現できるかが重要であり
「モデルや定義としての正しさ」以上に，「そのモデルを実装に落とし込めるか」が問われます

ですので，理論や定義にこだわるだけでなく，時には直観的に「心らしさ」を捉え
それを表現していく視点も忘れないようにしていただけると幸いです

参考文献

著者情報や書誌情報などは遷移先のサイトでご確認ください

1. Does the autistic child have a “theory of mind”?
2. Daniel Dennett – Wikipedia EN
3. What is folk psychology?
4. Actions, Reasons, and Causes
5. Intention, Plans, and Practical Reason
6. 意図欲求を持つ自律対話アンドロイドの研究開発
7. BDI モデルを用いた対話戦略に基づく知的エージェントの構築
8. Neuropeptides and their receptors: a psychosomatic network
9. 道具主義 – Wikipedia
10. Fodor’s Guide to Mental Representation: The Intelligent Auntie’s Vade-Mecum
11. The Intentional Stance（訳書：「志向姿勢」の哲学）
12. Vision: A Computational Investigation into the Human Representation and Processing of Visual Information
13. 人とロボットの〈間〉をデザインする
14. A Framework for Representing Knowledge
15. The origins of intelligence in children
16. 身体的インタラクションによる意図推定
17. Sense and Reference
18. 心の理論 – 脳科学辞典
19. Utterer’s Meaning and Intention
20. Linguistic Behaviour
21. Conditions of Personhood
22. Dimensions of Mind Perception
23. エージェントの擬人化の背景にある並列的な認知処理
24. Dimensions of Moral Emotions
25. Semantic Differential Scale Method Can Reveal Multi-Dimensional Aspects of Mind Perception
26. Language as a window into mind perception: How mental state language differentiates body and mind, human and nonhuman, and the self from others.
27. Dehumanization: An Integrative Review