卯木のめも帳

【HAI紹介-3】AIを用いなくても「人間の期待」を越えることはできる？

本記事は下記動画の一部内容を加筆しまとめたものです（画像をクリックすると動画に飛びます）

はじめに

前回の記事では当時としてはMicrosoft Agentsの”カイル君”が
嫌われてしまった原因として，主に次の2点を取り上げて説明しました

  • 「想像/期待する機能」と「実際の機能」との間に差があった
    [イルカの外見]＋[流暢な言語]がユーザを過度に期待させてしまった
  • インタラクションをする「タイミング」について考慮がなされていなかった
    [Q&A機能]は限られたタイミングにしか必要としないのに関係ない時にも話しかけてきた
詳しくはこちらから
【HAI紹介-2】「お前を消す方法」と言われてしまったのはなぜ？

本記事は下記動画の一部内容を加筆しまとめたものです(画像をクリックすると動画に飛びます） はじめに 皆さんはこのエージェントについてご存じでしょうか？「お前を消す方法」で一種のネットミームと化しているカイル君です[…]

ただ…元も子もない話をすると，現代であれば
ChatGPTに代表されるような機械学習・人工知能を用いれば
「賢い外見に見合った質疑応答」や「空気を読んだインタラクション」は実現できます

カイル君も最新技術（ChatGPT）を引っ提げて復活したりしてます [1]
記事を見た感じ，普通に有能なエージェントなのではないでしょうか

ですが，インタラクションデザインの問題が議論され始めた当初は
“技術力でごり押す”ことができるほど，機械学習・人工知能の開発が進んでいませんでした
そこで技術者たちは”人間の認知”というものを活用することで
高性能な技術がなくても，前述した諸問題を解決できないかと考えました

本記事ではそのような事例をいくつか紹介し
「最小限のコストで最大限のパフォーマンスを引き出す」デザインについて検討してみます

少し嫌味な言い方をすると，機械学習…等よるごり押し解決は
”機械・システム側に無理を押し付けている”だけです

人間と機械が互いに手を取り合いながら共生する社会*を
目指しているHAI的にこのような設計論はあまりスマートではありません
*国内会議 「HAIシンポジウム」のロゴはそのようなデザインになっています

（人工知能の仕組みに詳しくないから嫌ってるだけじゃないの…？）

ユーザの期待を”意図的に下げる”

エージェントとのインタラクションに悪影響を及ぼす“負の適応ギャップ”は
ユーザが想像する機能モデル(=Mx [x=0,1…n]) ＞ 実際の機能モデル(=Mt) の場合に生じます

この問題の解決策としてまず思いつくのは
ユーザが想像・期待する機能モデル（=Mx）を意図的に抑制する方法です

要するに「能ある鷹は爪を隠す」的なサムシングです

そのような”爪”（期待や想像を生み出すパラメタ）として
本節では，エージェントの「見た目」に焦点を当て
「見た目はポンコツだけど中身は高性能」という状況を意図的に生み出すことで
ユーザがエージェントに対してポジティブな印象を抱くことを狙います

「見た目」以外も「音声」と紐づけた研究 [2] などが存在していますが
本記事では割愛させていただきます

見た目をポンコツにする

ユーザが過度に期待しないように”あえて”外見をポンコツにしておけば
ユーザがインタラクション前に想像する機能モデル（=M0)の水準を下げることができ
少なくとも冒頭のインタラクションで「なにこれ…期待外れなんだけど」という
感想を抱かせてしまうことは回避できると考えられています

実際，小松ら(2009）の研究 [3] ではこの効果が確認されています
ですが，”賢そうなやつ(AIBO)”と”そうでないやつ(MS)”を用意して
意図的に「想像する機能モデル(=M0)」を制御することはできてません

となると次に課題となるのは，具体的にどのような外見にすれば
いい感じの機能モデル(=M0)をユーザに想像させることができるのかという点です

適当にポンコツにしてはいけない？

福田ら(2018) [4] は「ただ外見をポンコツにして負の適応ギャップを回避すること」は
ユーザ-エージェント間で高度なインタラクションが発現することを阻害する要因であり
「負の適応ギャップを生まず，かつ高度なインタラクションを引き出すことができる」
デザインを検討することが重要であると述べています．

そこで彼女たちは，適応ギャップ理論を拡張したうえで次の4点が重要であると定義しました

  • アトラクティブ条件
    エージェントに対する積極的なインタラクションを誘発する外見であること
  • Frep条件
    ユーザの期待を裏切りうる能力を期待させる外見にしないこと
  • 曖昧条件
    ユーザによる楽観的なバイアスを引き出すために曖昧な外見にすること
  • 低年齢条件
    ユーザの援助的なコミュニケーションを促進するために幼い外見にすること

簡単に要約すると
ユーザのインタラクションを誘発する“最低限の人間らしさ”は有しておこうね
あとユーザが“想像できる余地”を残しておいた方が，都合よく解釈してくれるからいいよ
…といった感じです

特に「曖昧性」というのは「適応ギャップ」とは異なる文脈でも重要性が示唆されており
「テレノイド」[5]や「かまってひろちゃん」[6] のデザインで実際に用いられています

左：テレノイド（https://robotstart.info/robot-database/telenoid より引用）
右：かまって「ひろちゃん」（https://robotstart.info/robot-database/hiro-chan より引用）

これらのデザイン指針が生み出されたのは
“ユーザが抱くエージェント像”と”外見”の整合性はどうすれば保てる？
という研究文脈なので，厳密には適応ギャップと関係はありません

ただ，異なる文脈の研究が同様の結論に帰結した点は興味深いと思います

そうですけど…このデザインは若干怖い…

ユーザに”錯覚させる”

「外見」等のデザインが思惑通りにはまり
ユーザが期待する機能モデル（Mx)をいい感じに抑制することができたとしても
その効力が発揮されるのはインタラクションの冒頭だけです

私たちはインタラクションを重ねるたびにその対象に対して”適応”を行い
機能モデル（=Mx）を実際の機能モデル（=Mt)に近づけていきます
そのため，実際の機能モデル（=Mt）の水準がある程度高くないと
どれだけ冒頭の印象を抑制しても，あっという間にMx=Mtの状況になってしまい
「こんなこともできるんだ…!!」という好感を引き出し続けることが難しくなります

ですが，当時はそう簡単にMtの水準を高めることができなかったので
人間の認知を活用して“Mtが高い様に錯覚させる方法“が検討されてきました

なお，この説明から
「Mx=Mtの状況はよくないものである」と思われるかもしれませんが
それは”適応ギャップ”の問題に限った話であることに注意です！！

上述した”整合性”の観点からいえばMx=Mtの状況は適していますし
また本記事で是としているMx＜Mtの状況（正のギャップ）は
言い換えると”予測不可能性が高い”ということでもありますので
それがユーザに対してストレスとなる可能性だってあり得ます

あまり１つの視点にこだわらないように注意してください

他のシステムの機能を自分のものにする

人間の「因果関係を作りたがる」という性質を利用し
”他のシステムの機能”を”エージェント自身がやったもの”と見なさせることで
エージェントのMtを高くみせようとするのが
駒込らが提案した Practical Magic [7]というデザインです

自動空調などのスマート家電は，本来その家電自体が判断して動作していますが
それに合わせてエージェントが「自分が判断して動作させたんですよ」というふるまい…
例えば，「今日は寒いので暖房を少し暖かくしておきました…!!」と話すだけで
スマート家電の手柄はエージェントの手柄になります
それを使ってエージェントの株を上げておこうという魂胆です

自分は何も関与していないのに
部下の功績を自分事のように話す嫌な上司じゃん…

確かに”上司”というメタファーにはかなり合致していると思います
というものの，家電の成果が「エージェントの成果」になるという事は
家電の不備は「エージェントの過失」になるという事ですので…

部下の責任は上司が負え．というのと意味としては一緒です

また，Practical Magicは「他のシステムを操作しているように見せるだけ」でしたが
実際に「他のシステムに乗り移って操作を行う」デザインとして
ITACO（InTegrated Agents for Comunivation system）[8] も提案されています

ITACOはその名の通り東北の巫女である「イタコ」をモチーフにしており
様々な家電やシステムに”憑依”するようなふるまいを行うことで
物理的な制限を越えたエージェントを実現することを目指しています

このことにより，様々なシステム・モノに対して愛着を持つことや
エージェントとユーザの信頼関係をより強固にすることができると期待されています

ITACOプロジェクトは，適応ギャップ云々に関わらず
仮想的なエージェントにおける”存在性”についての議論や
“参与者”に落とし込むことによるユーザの行動変容 [9]など
様々な知見を提供してくれているすごい重要な研究です

HAIに興味があるの方はぜひ押さえておいてください!!

人間の生理的反応を利用する

因果関係の形成は人間の認知においてもかなり高次なものですが
もっと低次な・生理的な反応を用いたデザインとして
PCT（Peripheral Cognition Technology) [10]が提案されています

これは名前の通り，人間の周辺認知（Periphelar Cognition）
その中でも特に「集中すると周りが見えづらくなる」という性質を利用しており
ニュースアプリの通知など緊急性があまり高くない情報については
周辺視野にちらっと見える箇所に通知を出しておくことで
集中しているときはタスクの邪魔をしないし，そうでないときは通知に気が付ける
…といったことを実現しています

前回の記事でも，適切な通知タイミングについての論文はいくつか取り上げましたが
相違点としてPCTは”ユーザデータ”を必要としない点が挙げられます

カメラから顔情報を取得してそこから「集中度合い」を計算して…
といったことをしなくてもユーザの状況に応じた通知ができる
「低コストな通知制御手段」と謳われています

ユーザの”協力を引き出す”

上述した「低コストな方法」という点に関連した内容として…

ここまで取り上げてきた事例の多くは，言葉を選ばすに言うと
「都合がいい様にユーザを騙してやろう」というスタンスによるものです
ですが，騙すということはその分細部にまで気を遣う必要があるということでもあり
デザインをするにあたっての”コスト”という点では高くついてしまいます

一方で「これしかできないので後はお願いします…!!」というスタンスなら
コストを抑えたデザインができるものの，ユーザ満足度が低下してしまう
……はずなのですが，そうとも限らないことを示唆しているのが
岡田教授が生み出した弱いロボット[11] です

このデザインに基づいて生み出された「ゴミ箱ロボット」は
「簡単なセンサとモータをつけるだけ」という最小限のコストで
「公園全体を綺麗にする」という最大限のリターンを得ることに成功しています

先生からこのロボットについての話は何度も聞かされています
HAIを学ぶなら絶対に外せない概念の１つですね

＜価値＞を判断する２つの軸

”弱いロボット”というデザインを理解するうえで整理しておかないといけないのが
ある対象を評価するための軸は２つ存在する点＊です [12]

１つはAgencyと呼ばれる評価軸．
日本語では「冷たい心」や「理性といった意味が与えられていますが
一重に”賢さ”に関わる評価だと思ってください
基本的に，従来のエージェントやシステムの＜価値＞はこの軸で評価され
Agencyが低いエージェントはシステムは”ポンコツ”なものと見なされます

今まで述べてきた
「期待と実際の差」や「機能レベルの水準」といった言葉は
大体このパラメタのことを指していたものと解釈してください

そしてもう１つはExperienceと呼ばれる評価軸．
日本語では「温かい心」や「感情」といった意味が与えられていますが
一重に”かわいさ”や”人間らしさ”に関わる評価だと思ってもらっても大丈夫です
この軸における評価というものは，従来ではさほど重要視されていませんでしたが
かわいいに関する研究の発展や弱いロボットの登場から，注目を浴びつつあります

「かわいいは正義」という言葉もあるように
そのエージェントが可愛ければ，賢くなくても<価値>は生まれます

この軸による評価がインタラクションに与える影響として
まず，かわいいという感情は「接近動機付け」に関わる感情 [13] とされており
このパラメタが高いと”インタラクションを始めるきっかけ”に繋がります
冒頭で紹介した外見4条件に「低年齢条件」があったのも同様の理屈です

また，”人間らしい”ということは依存的な存在であるため
ユーザによる「援助行動」を引き出すことに繋がり，その結果
エージェントが有する機能以上の成果を生み出すことができると考えられています

そういう意味では”弱いロボット”は
人間を操り機能以上の成果を出す”賢い(強い？)”ロボットです

そういった賢さのことは「マキャベリ的知性」[14]と呼ばれています

*補足
従来の心理学における”二重過程理論”[15]と類似したものと思ってください
HAIにおいてAgencyとExperienceという概念が好まれて用いられるのは
[12]の論文が”心の定量化”をしたものであり，エージェント設計の指針になると考えられているためです

おわりに

これだけ様々な事例が存在していれば，AIのような高度な技術を用いずとも
ユーザとのインタラクションを維持・促進することができそうではありませんか？

もちろん，一部事例は最新技術と共存することができますので
両者を組み合わせて，ユーザとのインタラクションをより一層円滑にすることも可能です

この記事を最後まで見てくださった皆様は，これ以外にもこのような知識を身に着けて
他の人とは少し違う”技術力のごり押し”にぜひ挑戦してみてください

結局，技術力のごり押しじゃないですか…

この記事を書いている間に実際にAIに触れていたのですが
「これを使わないのはもったいない」となったので……
ChatGPTって本当にすごいですね…もうこれでいいよ…

先生の身に何があったかは次回以降の記事でわかるかも…？
ぜひ続報をお待ちください！！

参考文献

著者情報や書誌情報などは遷移先のサイトにてご確認ください

  1. 最新Excel×ChatGPTで“あのイルカ”を再現することに成功した人がいるらしい ～「カイルくんGPT」を試してみた
  2. 確信度表出における人間らしい表現とArtificial Subtle Expressionsとの比較
  3. 適応ギャップがユーザのエージェントに対する印象変化に与える影響
  4. 適応ギャップ理論を拡張したインタラクションデザインの提案
  5. How does telenoid affect the communication between children in classroom setting?
  6. Acceptance of a minimal design of a human infant for facilitating affective interaction with older adults: A case study toward interactive doll therapy
  7. Practical Magic：スマート情報環境との間に因果性を形成するインタ フェースロボットの動作設計モデル
  8. ITACO: メディア間を移動可能なエージェントによる遍在知の実現
  9. ヒューマンロボットインタラクションにおける関係性の創出
  10. Peripheral Cognition Technologyによるインタラクションデザイン
  11. 人とのかかわりを指向する〈弱いロボット〉とその展開
  12. Dimensions of Mind Perception
  13. 共感性と親和動機による“かわいい”感情の予測モデル構築
  14. Machiavellian intelligence hypothesis – Wikipedia(EN)
  15. Dual process theory – Wikipedia(EN)