1. No category

HAI シンポジウム2014
G-1
Human-Agent Interaction Symposium 2014
教育支援ロボットに活用できる感情表出モデルの提案
A propose of an Emotional Expression Model for
Educational-Support Robot
ジメネス フェリックス 1∗ 吉川 大弘 1
Felix Jimenez1
Tomohiro Yoshikawa2
古橋 武 1
加納 政芳 2
Takeshi Furuhashi1
Masayoshi Kanoh2
1
1
名古屋大学大学院 工学研究科
Graduate School of Engineering, Nagoya University
2
中京大学 工学部
2
School of Engineering, Chukyo University
Abstract: With the growth of robot technology, more educational-support robots, which support
learning, are paid attention to. However, users tend to lose their interest in these educationalsupport robots. To solve this problem, a model of emotional expressions have been proposed
in human-agent interaction studies. Moreover, this model, in which the agent expresses his/her
emotions as autonomous emotions, has been shown to be effective for interactions between agents
and humans. Thus, this paper proposes an Emotional Expression Model that can be used in
Educational-Support Robot. This paper also investigates the number of emotions that were expressed by the robot using the proposed model through simulation examination.
1
はじめに
との相互作用に徐々に飽きてしまうという問題点があ
る．神田ら [4] は，コミュニケーションロボット Robovie
を小学校に長期間導入し，子どもとの相互作用の関係
と影響を調査した．その結果，最初，子どもたちはロ
ボットと積極的に関わろうとする傾向が見られたが，日
が経つにつれて，子どもたちとロボットとの相互作用
は減少していくことがわかった．また，著者ら [5] が実
施した大学生とロボットが共に学習する実験において
も，学習初めは学生はロボットと相互作用するが，学
習が進むにつれてロボットを無視するようになること
を報告している．
このような飽きの問題を解決する方法として，ロボッ
トが感情を持つかのように感情を表出する感情表出モ
デルを活用することが有効であると考える．実際，文
献 [7] において，ランダムに感情表出することに比べ
て，感情表出モデルを持つロボットは効果的に相互作
用を働かせるという結果を報告している．また，教育
支援ロボットにおいても，ランダムに感情表出するこ
とに比べて，感情表出モデルを持つ教育支援ロボット
が，学習者に好印象を与える傾向があることを報告し
ている [8]．しかしながら，文献 [8] における教育支援
ロボットに使用されている感情表出モデルは，モデル
上の座標点に応じて感情を表出しているが，有効な座
ロボット関連の技術進展に伴い，学校生活をサポー
トするロボット [1] や英語学習を支援するロボット [2]
など，学習を支援する場面で活躍する教育支援ロボッ
トが注目されている．例えば，小泉ら [3] は，子供たち
が Lego ブロックによる車ロボットの組み立てやその動
きを制御するプログラミングを話し合いながら学ぶ状
況に，
「見守り役」としてロボットを導入した．ロボッ
トは単に子供たちの行動を管理するのでなく，管理し
つつ子供たちの努力を誉めるなど社会的にポジティブ
な関係を持とうとする見守り役である．その結果，子
供たちが積極的にロボットに関わるようになり，子供
たちの間の協調学習も活発化する傾向が見出され，子
供たちの学習意欲の向上が示唆された．このようにロ
ボットを人が学習している状況に導入することで，学
習効果や学習意欲を向上できるといった研究報告がさ
れ始めており，多種多様な方法で教育支援ロボットの
研究開発が行われている．
しかしながら，これらの教育支援ロボットには，学習
者がロボットの行動を画一的と感じてしまい，ロボット
∗ 連絡先：名古屋大学工学研究科計算理工学専攻
〒 464-8603 愛知県名古屋市千種区不老町
E-mail: [email protected]
1
る．この円環モデルは，人とロボット間における相互作
用にも活用され，従来の感情表出モデルに比べて，効
果的に相互作用が行えると示唆されている [7]．モデル
上における快-不快の軸を学習者の正解/不正解，覚醒睡眠の軸を学習者の解答時間に対応させ，それぞれの
基準を満たした際に座標点が 2 次元座標空間上を移動
する．
文献 [8] においては，座標点の X 座標を学習者の正
否判定，Y 座標を学習者の解答時間に応じて変動させ，
座標点の位置と角度 θ に応じて表出する感情を決めて
いた．しかしながら，特に X 座標の絶対値が大きいと
き，Y 座標が大きく変化しない限り，座標点の “角度”
は大きく変動することはない．そのため，ロボットが
表出する感情が画一的になりやすいという問題がある．
そこで提案モデルでは，X，Y 座標ではなく，感情ベク
トルの原点からの長さ L を学習者の正否判定，角度 θ
を学習者の解答時間に応じて変動させ，長さ L と角度
θ に応じて表出する感情を決定する．これにより，座標
点が大きく変動することができ，画一的な感情表出を
防ぐことができると考えられる．
本稿では，提案モデルの特徴である，(1) 二点の座標
点による角度を基に感情表出を行う点，(2) 長さ L と角
度 θ を基に感情表出を行う点の効果について検討する
ため，それぞれ比較モデル 1，比較モデル 2 とし，提案
モデルと合わせて三つのモデルについて，シミュレー
ション実験により比較する．比較モデル 2 は，従来の
Human-Agent-Interaction 研究において用いられてい
る，一つの座標点を基に感情表出を行うモデルを基本
としている．
図 1: Russell の感情円環モデル
標点の変動基準が明らかになっていないため，座標点
の移動範囲が狭く，表出される感情が画一的になりや
すいという問題がある．
そこで本稿では，教育支援ロボットに活用できる新
しい感情表出モデルを提案し，シミュレーション実験
を通して，提案モデルを用いたロボットがどのように
感情を表出するかについて検討する．提案する感情表
出モデルには，Russell の感情円環モデル [9] を用いる．
この円環モデルは，感情を快-不快と覚醒-睡眠の 2 軸
で表現される 2 次元座標空間上に写像したものであり，
座標点などを基準にして感情を表出する．また従来研
究において，学習システムで学習する際に，画面上の
エージェントが解答の正否によって一緒に喜んだり，悲
しんだりするなど，学習者に共感することで，学習者
の学習意欲の向上を促すという報告がある [10]．そこ
で提案モデルでは，ロボットが学習者に共感できるよ
うに，正解と不正解用の二つの感情ベクトルを用いて
感情表出を行う．さらに文献 [8] おいては，座標点の X
座標と Y 座標を学習者の正否判定と解答時間に応じて
それぞれ変動させ，座標点の角度に応じて表出する感
情を決めていたが，結果として座標点が大きく変動せ
ず，表出される感情が画一的になるという問題があっ
た．そこで提案モデルでは，感情ベクトルの原点から
の長さと角度を学習者の正否判定と解答時間に応じて
変動させることで，画一的な感情の表出を防ぐ．
2
2.1
2.2
比較モデル 1
従来研究において，協調学習を行う際に，解答の正
否によってエージェントが共に喜んだり，悲しんだり
するなど，学習者に共感することで学習者の学習意欲
の向上が促されるという報告がある [10]．そこでこの
モデルでは，正解用座標点 A(X ，Y )，不正解用座標点
B(X ，Y ) の二点を用いて円環モデル上における感情を
決定する [8]．学習者が問題に正解した場合は A を，不
正解であった場合は B の座標を基準に感情を表出す
る．A は 0 ≤ X ≤ 1.0 かつ −1.0 ≤ Y ≤ 1.0，B は
−1.0 ≤ X ≤ 0 かつ −1.0 ≤ Y ≤ 1.0 の範囲内で座標点
が移動する．X は快-不快の軸，Y は覚醒-睡眠の軸に
対応し，以下のように座標点が変動する．
感情表出モデル
if (学習者が問題に正解)
XA ← XA + 0.2
XB ← XB + 0.2
else
Russell の感情円環モデル
本稿では，ロボットが感情を持つかのように感情を
表出する Russell の感情円環モデル [9](図 1) を利用す
2
ぬ㓰(ᙉ)
ぬ㓰(ᙉ)
75ᗘ
1.0
⯆ዧ(ᙉ)
ᚰ㓄(ᙉ)
ᚰ㓄(ᙅ)
⯆ዧ(ᙅ)
B(X,Y)
୙ᛌ(ᙉ)
θ
ᝒ䛧䜏(ᙅ)
1.0
Ẽᴦ(ᙅ)
ᝒ䛧䜏(ᙉ)
㏥ᒅ(ᙅ)
୙‶(ᙉ)
15ᗘ
0.5
A(X,Y)
䝸䝷䝑䜽䝇(ᙅ)
㏥ᒅ(ᙉ)
ᚰ㓄(ᙅ)
⯆ዧ(ᙅ)
୙‶䠄ᙅ䠅
ᛌ(ᙉ)
L
୙ᛌ(ᙉ)
ᝒ䛧䜏(ᙅ)
345ᗘ
ᖾ⚟(ᙉ)
15ᗘ
ᖾ⚟(ᙅ)
θ
0.5
1.0
Ẽᴦ(ᙅ)
㏥ᒅ(ᙅ)
䝸䝷䝑䜽䝇(ᙅ)
㏥ᒅ(ᙉ)
䝸䝷䝑䜽䝇(ᙉ)
ᛌ(ᙉ)
-15ᗘ
ᝒ䛧䜏(ᙉ)
Ẽᴦ(ᙉ)
╀Ẽ(ᙉ)
Ẽᴦ(ᙉ)
䝸䝷䝑䜽䝇(ᙉ)
╀Ẽ(ᙉ)
図 2: 比較モデル 1 の概要
図 3: 比較モデル 2 の概要
XA ← XA − 0.2
XB ← XB − 0.2
if (解答時間 < 基準時間)
if (学習者が問題に正解)
YA ← YA + 0.2
else
YB ← YB + 0.2
else
if (学習者が問題に正解)
YA ← YA − 0.2
else
YB ← YB − 0.2
if (学習者が問題に正解)
LC ← LC + 0.2
else
LC ← LC − 0.2
if (解答時間 < 基準時間)
θC ← θC + 15
else
θC ← θC − 15
比較モデル 1 と同様に，解答時間は学習者が問題を
解くのに費やした時間であり，基準時間は学習者の一
回前の学習における平均解答時間とする．このモデル
では，比較モデル 1 と同じ感情の種類を使用し，θ で
表出する感情の種類を，L で感情の強弱を決定するこ
とで感情を表出する．具体的には，図 3 のように座標
点 C の L が 0.0 ≤ L の場合は快側の感情を，L < 0.0
の場合は不快側の感情を表出する．また，L ≤ 0.5 の
場合は “弱” の感情を，0.5 < L ≤ 1.0 の場合は “強” の
感情を表出する．比較モデル 1 と同様に，各感情は 30
度間隔，感情の種類は強，弱それぞれ 12 種類である．
解答時間は学習者が問題を解くのに費やした時間で
あり，基準時間は学習者の一回前の学習における平均
解答時間とする．このモデルでは，図 2 に示されている
感情の種類を使用し，A(X ，Y )，B(X ，Y ) の角度 θ で
表出する感情の種類を，座標点の位置で感情の強弱を
決定し，感情を表出する．具体的には，図 2 のように，
原点から半径 0.5 の円内に座標点がある場合は “弱” の
感情を，円外にある場合は “強” の感情を表出する．各
感情は 30 度間隔となっており，例えば 15 < θ ≤ 45 の
場合は「幸福」，45 < θ ≤ 75 の場合は「興奮」の感情
が表出される．感情の種類は，強の感情 12 種類，弱の
種類 12 種類で構成されている．
2.3
45ᗘ
0.5
ᖾ⚟(ᙉ)
ᖾ⚟(ᙅ)
୙‶䠄ᙅ䠅
⯆ዧ(ᙉ)
ᚰ㓄(ᙉ)
45ᗘ
0.5
୙‶(ᙉ)
75ᗘ
1.0
2.4
提案モデル
と不正解
このモデルでは，正解用感情ベクトル D
用感情ベクトル E の二つを用いて円環モデル上におけ
る感情を決定する．学習者が問題に正解した場合は D
を，不正解であった場合は E の座標を基準に感情を表
出する．D は 0 ≤ L ≤ 1.0 かつ −90 ≤ θ ≤ 90，E は
−1.0 ≤ X ≤ 0 かつ −90 ≤ θ ≤ 90 の範囲内で座標点を
移動する．L cos θ は快-不快の軸，L sin θ は覚醒-睡眠
の軸に対応し，以下のように座標点が変動する．
比較モデル 2
を用いて，円環モ
このモデルでは，感情ベクトル C
デル上における感情を決定する．L cos θ は快-不快の軸，
L sin θ は覚醒-睡眠の軸に対応し，−1.0 ≤ L ≤ 1.0 か
つ −90 ≤ θ ≤ 90 の範囲内で以下のように座標点が変
動する．
3
12
ẚ㍑䝰䝕䝹1
9.4
10
ぬ㓰(ᙉ)
75ᗘ
8
1.0
6.7
⯆ዧ(ᙉ)
ᚰ㓄(ᙉ)
45ᗘ
0.5
୙‶(ᙉ)
ᚰ㓄(ᙅ)
L
୙ᛌ(ᙉ)
15ᗘ
Ẽᴦ(ᙅ)
䝸䝷䝑䜽䝇(ᙅ)
㏥ᒅ(ᙉ)
5.1
7.4
6
9.1
8.8
7.9
9
7.9
7.6
8.7
7
7.7
8.2
7.2
7.2
6
5.4
7.8
6
ẚ㍑䝰䝕䝹2
ᥦ᱌䝰䝕䝹
9.1
7.8
7.7
8
8
7.3
6.4
6.6
6.5
5.7
6.1
5.8
5.5
5.7
5.6
5.1
5.7
4.8
4.4
4.4
4.6
4.2
4.2
3
2
1ᅇ
ᅇ┠
ᛌ(ᙉ)
-15ᗘ
ᝒ䛧䜏(ᙉ)
㏥ᒅ(ᙅ)
6
8.2
7.5
9.5
0
0.5
1.0
ᝒ䛧䜏(ᙅ)
6.2
9.9
ᖾ⚟(ᙉ)
ᖾ⚟(ᙅ)
θ
5.3
4
⯆ዧ(ᙅ)
୙‶䠄ᙅ䠅
6
6.9
9.8
2ᅇ
ᅇ┠
3ᅇ
ᅇ┠
4ᅇ
ᅇ┠
5ᅇ
ᅇ┠
6ᅇ
ᅇ┠
7ᅇ
ᅇ┠
8ᅇ
ᅇ┠
9ᅇ
ᅇ┠ 10ᅇ
ᅇ┠ 11ᅇ
ᅇ┠ 12ᅇ
ᅇ┠ 13ᅇ
ᅇ┠ 14ᅇ
ᅇ┠ 15ᅇ
ᅇ┠ 16ᅇ
ᅇ┠ 17ᅇ
ᅇ┠ 18ᅇ
ᅇ┠
図 5: 英単語データにおける表出感情数の推移
Ẽᴦ(ᙉ)
䝸䝷䝑䜽䝇(ᙉ)
16
14
14
╀Ẽ(ᙉ)
12
11.1
10
8.9
8
図 4: 提案モデルの概要
7
6
13.5
10.7
10.4
10.5
9.9
8.5
12.2
14.6
14.8
14.2
14.4
11.3
13.8
13.7
12.2
12.2
13.4
ẚ㍑䝰䝕䝹1
14.7
14.6
12.8
12.8
9.1
8.9
7.4
9.1
ẚ㍑䝰䝕䝹2
10.7
11.2
8.6
8.7
8.5
7.4
ᥦ᱌䝰䝕䝹
12.1
12.6
10.8
5.7
4
14.2
10.6
6.9
6.4
14.2
6.5
6.5
7.1
5.6
4.5
6.2
4.6
2
4.5
4
2.7
0
1ᅇ
ᅇ┠
if (学習者が問題に正解)
LD
← LD
+ 0.2
LE ← LE + 0.2
else
LD
← LD
− 0.2
LE ← LE − 0.2
if (解答時間 < 基準時間)
if (学習者が問題に正解)
θD
← θD
+ 15
else
θE ← θE + 15
else
if (学習者が問題に正解)
θD
← θD
− 15
else
θE ← θE − 15
3.1
3ᅇ
ᅇ┠
4ᅇ
ᅇ┠
5ᅇ
ᅇ┠
6ᅇ
ᅇ┠
7ᅇ
ᅇ┠
8ᅇ
ᅇ┠
9ᅇ
ᅇ┠ 10ᅇ
ᅇ┠ 11ᅇ
ᅇ┠ 12ᅇ
ᅇ┠ 13ᅇ
ᅇ┠ 14ᅇ
ᅇ┠ 15ᅇ
ᅇ┠ 16ᅇ
ᅇ┠ 17ᅇ
ᅇ┠ 18ᅇ
ᅇ┠
図 6: 英単語データにおける感情変化数の推移
で問題を 20 問解いた際の，正解/不正解とその解答時
間で構成される．
本シミュレーションでは，各テストデータを用いて，
各学習回数における比較モデル 1, 2 および提案モデル
の「表出感情数」と「感情変化数」を測定し，比較す
る．表出感情数は，1 回の学習 (20 問) において各モデ
ルで表出された感情の種類数である．また感情変化数
は，1 回の学習において，表出される感情が一つ前の
問題で表出された感情から変化した数である．これら
二つの数字が高いほど，学習者がロボットと学習する
状況において，ロボットの画一的な感情表出を回避し，
多様な感情を表出していることを表している．
モデルの基準時間は，学習者の一回前の学習におけ
る平均解答時間とした．具体的には，英単語データを
用いる場合，2 回目の学習時の基準時間は 1 回目の平
均解答時間とした．ただし，1 回目の学習時の基準時
間は，予備実験などにより平均解答時間が推定できる
ことを仮定し，1 回目の平均解答時間とした．
用いる感情の種類などは全て比較モデル 1, 2 と同様
である．
3
2ᅇ
ᅇ┠
シミュレーション実験
方法
3.2
本実験では，著者らの従来研究 [5][11] におけるロボッ
トと，学習者が共に学習している際のデータをテスト
データとして用い，比較モデル 1, 2 および提案モデル
を用いたロボットがどのような感情を表出するか検討
する．テストデータは，学習者がロボットと共に学習シ
ステム上で 18 回英単語を学習したデータ (英単語デー
タ) と，12 回基本情報技術者資格試験の内容を学習した
データ (基本情報データ) の二つである．各テストデー
タは，それぞれ 10 名の学習者が個々に学習システム上
結果
図 5，6 に，英単語データにおける各学習回数の表
出感情数と感情変化数の推移を，図 7，8 に，基本情報
データにおける各学習回数の表出感情数と感情変化数
の推移を示す．また，表 2，1 に，各学習における表出
感情数と感情変化数の平均と標準偏差を示す．図 5∼図
7，および表 2,1 から，比較モデル 1，2 に比べて，提
案モデルの表出感情数，感情変化数はともに大きい傾
向にあることがわかる．これらのことから，提案モデ
4
12
ẚ㍑䝰䝕䝹1
10
8.8
8
7.2
5.9
5.3
6
4
2
3.5
4.2
3
6.3
5.1
7
8.6
8.6
7.8
7.5
9.3
8.9
7.8
6.8
6.1
8.7
7.4
6.4
8.3
ẚ㍑䝰䝕䝹2
8.1
7
6.3
ᥦ᱌䝰䝕䝹
表 1: 基本情報データにおける表出感情数と感情変化
数の平均と標準偏差
7.3
7
5.9
5.8
5.3
表出感情数
5.3
4.6
3.8
2.6
0
1ᅇ
ᅇ┠
2ᅇ
ᅇ┠
3ᅇ
ᅇ┠
4ᅇ
ᅇ┠
5ᅇ
ᅇ┠
6ᅇ
ᅇ┠
7ᅇ
ᅇ┠
8ᅇ
ᅇ┠
9ᅇ
ᅇ┠
10ᅇ
ᅇ┠
11ᅇ
ᅇ┠
12ᅇ
ᅇ┠
感情変化数
平均
標準偏差
平均
標準偏差
比較モデル 1
5.9
1.7
8.4
3.3
比較モデル 2
6.0
1.4
7.0
2.0
提案モデル
7.5
1.7
10.1
3.1
4.9
図 7: 基本情報データにおける表出感情数の推移
16
14.1
14
11.6
12
10
7.2
8
5.7
6
4
2.7
2
2 1.9
0
1ᅇ
ᅇ┠
5.3
2ᅇ
ᅇ┠
8.2
6.2
5.1
3ᅇ
ᅇ┠
9.1
7.4
10
8.4
9.6
9.4
7.7
12.2
8.3
ẚ㍑䝰䝕䝹1
ẚ㍑䝰䝕䝹2
13.7 13.3
13
12.6
7.8
の平均と標準偏差
11.9
表出感情数
10.5
9.5
5.8
4ᅇ
ᅇ┠
11.6
表 2: 英単語データにおける表出感情数と感情変化数
ᥦ᱌䝰䝕䝹
6.9
8.1
8.2
7
7.4
5.2
5ᅇ
ᅇ┠
6ᅇ
ᅇ┠
7ᅇ
ᅇ┠
8ᅇ
ᅇ┠
9ᅇ
ᅇ┠
10ᅇ
ᅇ┠
11ᅇ
ᅇ┠
標準偏差
平均
比較モデル 1
6.8
1.8
10.7
標準偏差
3.3
比較モデル 2
6.0
1.2
7.7
2.2
提案モデル
7.6
1.4
11.7
2.9
12ᅇ
ᅇ┠
図 8: 基本情報データにおける感情変化数の推移
参考文献
[1] T. Kanda， T. Hirano， D. Eaton and H. Ishiguro : “Interactive robots as social partners and
peer tutors for children: A field trial，” HumanComputer Interaction， vol.10， No.1， pp.61-84，
2004.
ルにおける二つの特徴が共に有効に働き，学習者が提
案モデルを用いたロボットと共に学習する状況におい
て，ロボットの画一的な感情表出を回避し，多様な感
情を表出できる可能性があると考えられる．
4
感情変化数
平均
[2] O.H. Kwon， S.Y. Koo， Y.G. Kim and D.S.
Kwon: “Telepresence robot system for english tutoring，” IEEE Workshop on Advanced Robotics
and its Social Impacts， pp.152-155， 2010．
おわりに
本稿では，教育支援ロボットに活用できる感情表出
モデルを提案し，シミュレーション実験を通して，提
案モデルを用いたロボットがどのように感情を表出す
るかについて検討した．本モデルは，Russell の感情円
環モデル上で，正解と不正解用の二点の座標点を用い
て感情表出するモデルである．従来モデルが学習者の
正否判定と解答時間に応じて座標点の X と Y 座標を
変動させるのに対して，提案モデルでは，二つの感情
ベクトルの原点からの長さと角度を変動させることで，
感情ベクトルが大きく変動する．シミュレーション実
験の結果から，提案モデルにおける上記二つの特徴が
有効に働き，表出される感情数とその感情の変化数が
大きく，ロボットの画一的な感情表出を回避し，多様
な感情を表出できる可能性があることを示した．
今後は，実際に提案モデルをロボットに実装して，長
期的な実験による印象評価と学習効果を検証し，提案
モデルの教育支援ロボットとしての有効性について検
討していく予定である．
[3] 小泉 智史，神田 崇行， 宮下 敬宏 : ソーシャルロ
ボットを用いた協調学習実験，日本ロボット学会
誌，Vol.29， No.10， pp.902-906， 2011.
[4] 神田崇行， 平野貴幸， ダニエルイートン， 石黒
浩: 日常生活の場で長期相互作用する人間型対話
ロボット-語学教育への適用の試み-，日本ロボット
学会誌， Vol.22， No.5， pp.636-647， 2004．
[5] F. Jimenez and M. Kanoh: “Robot that can promote learning by observing in collaborative learning，” IEEE International Conference on Systems， Man and Cybernetics， 2013.
[6] K. Wada and T. Shibata: “Robot Therapy in a
Care House - its Sociopsychological and Physiological Effects on the Residents，” IEEE International Conference on Robotics and Automation
2006， pp.3966-3971， 2006.
[7] F.Jimenez，
T.Nakamura:
5
T.Ando，
M.Kanoh
“Psychological Effects
and
of a
Synchronously Reliant Agent on Human Beings，” Journal of Advanced Computational
Intelligence and Intelligent Informatics， vol.17，
no.3， pp.433-442， 2013.
[8] ジメネスフェリックス, 吉川大弘, 古橋武, 加納政
芳: 感情表出モデルを用いた教育支援ロボットが
及ぼす心理効果, 第 30 回ファジィシステムシンポ
ジウム, 2014.
[9] J. A. Russell: “A Circumplex Model of Affect，”
Journal of Personality and Social Psychology，
pp. 1161–1178， 1980.
[10] 中嶋 宏， 森島 泰則， 山田 亮太， 川路 茂保， S.
Brave， H. Maldonado and C. Nass : 人間-機械
協調システムにおける社会的知性：心のモデルと
パーソナリティによるエージェントの社会的応答
について，人工知能学会論文誌，Vol.19， No.3，
pp.184-196， 2004.
[11] F. Jimenez and M. Kanoh: “Effect of collaborative learning with robot that prompts constructive interaction, ，” IEEE International Conference on Systems， Man and Cybernetics， 2014.
6