Recomendados
Más contenido relacionado
Más de Kosuke Shinoda
「人狼知能」没原稿 社会的知能を目指して
- 1. 5.2 社会的知能を目指して 人狼ゲームのプレイヤには、従来の将棋や囲碁のように，単に決められた問題空間か ら最善手を探すための能力だけを求められているのではない．他のプレイヤとかかわ る中で、協調的・競争的に行動しながら、時には現状から解決すべき問題を他のプレイ ヤと共有するなど、小さいながらも「社会」の中で適切にふるまう能力が求められる。 ここでは、複数のプレイヤ同士で協調・競争しながら対戦する場（社会）を内包する人 狼ゲームのプレイヤに求められる，「社会性」を満たすための知能，すなわち社会的知 能に関して考えてみよう。社会知能とは何であり、それをエージェントプログラムとし ては実現するためには何を評価して何を実装する必要があるのだろうか。 5.2.1 社会的知能とは 集団で活動する生物は、協力相手であり競争相手でもある他の個体と同じ空間で 生活する。このような環境下では、各々の個体が個の利益を追求するだけでは集団 が安定して成立することはない。かといって集団の利益のみを優先してしまうと個 として存在する意義を示すことが難しくなる。このように、個と集団の利得が複雑 に絡み合う環境では、他者よりも優位に立つためには、各個体が他の個体が知って いると思われる情報や知識を推測できるなど、高度な知能を備えていることが求め られる。 例えば、場に残るプレイヤが 3 人で人狼役のプレイヤは残り一人となる状況の時、 人狼役のプレイヤは追放者として投票するプレイヤを適当に選んだのでは，勝つ確 率を低くなるだろう。追放する段階で、プレイヤ A がプレイヤ B を強く怪しいと思 っていることが分かっていれば、人狼もプレイヤ B に投票することで優位な状況を つくれる。このような行動を実現するには、人狼役のプレイヤは他のプレイヤの行 動を観察して、そのプレイヤがどのような情報を持っていて、何を目的に行動して いるのかを、仮説を立てての推論や、プレイヤ間の関係性から把握することが求め られる。そのうえで、他者の行動を自分の活動プランに含めたうえで、ゲームに勝 つための行動を実行するという社会的な活動が最低限必要である。これらは、単純 にコミュニケーションを介して自身の内的な状態(心)を表現しただけでは実現でき るものではなく、「社会」の存在を前提とした活動となる。 このような社会的な活動に必要とされる知能が「社会的知能」と呼ばれる。社会 的知能とは、逆説的に社会のような集団における関係性の認知のために発達が促さ れた知能(マキャベリ的知能)とも言われる。人狼ゲームには、このような社会的知 性を伴う行動が必要とされる複雑さがある程度内包されていると考える。まず、人 狼ゲームは、複数人数にて行なわれるゲームである。そして、1.2 節にあるように、 村人側と人狼側という２つの陣営が少なくとも存在して、人狼役のプレイヤ同士な ど一部を除いてプレイヤ同士は互いに属する陣営を確定的に知るすべがない。この
- 2. ような状況下では、プレイヤは「仲間」と「敵」の存在を意識したうえで、他のプ レイヤの行動意図や関係性に着目して情報を集めて「味方」だと思えるプレイヤを 確定させる行動が必要である。そうでなければ、前節でも述べたように、ランダム に追放するプレイヤを決めていては村人側が人狼側に勝つことは難しい。そして、 協調的な行動が基本的にできるようになると、次に人狼側のプレイヤは、役職とし て与えられた能力などを利用した「欺き」や他のプレイヤの「操作」などの行動で 対抗する必要がある。それに対して、村人は、相手の操作意図を読むことで「騙さ れた振り」などの行動を行うことで対抗することになる。このように、プレイヤが 人狼ゲームに勝ち続けるためには複雑な知性を実現する必要がある構造が内包され ている。 なお、本章であつかう社会的知性とは、集団内での競争・協調活動を行いながら 優位に立つために必要な非身体的な能力とする。ただし、社会的知能と一言で言っ ても、その解釈は多岐にわたる。いわゆるＩＱと呼ばれる個人の知能を集団にたい して相対的に数値化する試みのなかに SQ (Social Intelligence Quotient)と呼ばれる ものがある。この SQ と呼ばれる指標も人間関係があることを前提としたうえでの、 社会性や社交性、コミュニケーション能力など、社会的生活に欠かせない知性を対 象として数値化を試みている点では、本章で対象とする社会的知能と大きな違いは ないと考える。これら社会的知性に関して、他者の意図理解、欺き・操作、自己把 握と伝達という観点から、人狼ゲームをプレイするのに必要な知性を整理して、そ れらを実装するための方法論を議論する。 5.2.2 動機・意図の推定 人狼ゲームにおいて、プレイヤが他者の行動意図を正確に把握できることは、ゲ ームの展開において優位に立つために必要である。他者の行動意図を把握するには、 ある状況において選択肢となりうる行動との組み合わせのような一般的な行動パタ ーンをあらかじめ把握しておいたうえで、その行動をしたプレイヤがおかれている 状況を推測することになる。 例えば、ゲームの序盤で「占い師が CO をするべきか，潜伏すべきか」を場に問 うプレイヤがいたとしよう．このとき，場の状況として想定されるケースとしては、 1) ゲームの状況的に狩人プレイヤがいるので提案した 2) 自分が占い師でＣＯするかどうかの判断を村に委ねている 3) 人狼側で占い師の偽 CO を考えている などがある。この占い師 CO に関する発言をしただけでは、発言をしたプレイヤ に関してなにか情報を確定することはできない。だが、2) もしくは 3) のケースで あった場合「その後村の合意として占い師 CO められたときには、その発言をした プレイヤによる占い師 CO が行われる可能性が高い」という状況を想定して場の流
- 3. れを注視する必要がある。 このように、一つの行動だけみても、その前後の行動とのつながりを含めて思考 することで、他者のおかれている状況と行動意図がある程度透けて見えてくること がある。ある行動からプレイヤの行動意図を推定しようとすることで、人狼ゲーム では直接的に観察することができない村の状況をある程度限定するや、想定される 行動など注視すべきことへの準備ができる。だが、このように行動からプレイヤが おかれた状況を推定しようとするだけでは、意図を絞り込むには十分とは言いがた い。例えば、上記の状況において、占い師にしても人狼にしても、役職を持ったプ レイヤは、基本的にゲームの早い段階からに目立つ行動は避けたいという心理が働 く。そのため、できるなら「役職」を連想させる発言を自らすることは避けたい。 だが、ＣＯをするには、場にＣＯしやすい環境があるのが望ましいので、可能であ れば（そのプレイヤ視点で）１になる状況となることがＣＯをするプレイヤにとっ ては望ましい。ＣＯを考えているプレイヤは、そのような状況をつくるために、ど のプレイヤが発言してくれそうなのか、そしてそれ以外のプレイヤが同調して流れ をつくれそうなのかを思考する、つまり他のプレイヤの心の状態を解釈して行動を 決める必要がある。 このようにある主体が、他者の目的や意図、知識、信念などを解釈して自分の行 動を調整することを「心の理論」と呼ぶ。「心の理論」の研究は、霊長類研究者のプ レマックとウッドルフの「チンパンジーは心の理論(a theory of mind)を持つか？」 （参考文献）から始まり、主に心理学分野にて研究されてきたが、特に認知モデル や人工生命の研究において人工知能との関連も深い（参考文献）。 「心の理論」によれば、我々は、他者が行為をする際に、彼らが何を欲し、何を 考え、そして何かを予測したうえでそう振る舞った、と考えたうえで自らの行動を 決めている。つまり、我々は、他者のなかに「心」があるものと見なしており、そ の心を読んで行動を決めている、と考えられる。例えば、先の占い師 CO の場面で は、相手の心の状態を、情報がほしくて占い師ＣＯを提案した村人プレイヤととら えるか、それともＣＯを検討していた役持ちプレイヤととらえるか，で注目すべき 行動など全く異なるだろう。対象が「心」を持つ対象の集団において何か行動する には、それぞれの対象の心的状態とその変化も含めて考慮したうえで相手の行動を 推測することで、他者より優位に立てる可能性が高くなる。もちろん、「心」を想定 しないで、すべてのプレイヤは常に合理的に行動すると仮定してしまえば、プレイ ヤの行動からすべての場合における妥当性などの状況の評価や、状況の変化の統計 的分析より状況が確率的に推移するものとして表現することが可能である。しかし ながら、リアルタイムに状況がすすむ対面人狼や、情報が文字のみに制限されるＢ ＢＳ人狼では常に合理的に行動を行うという仮定は成り立たず，「心」を想定した行 動決定が必要となる．
- 7. 要である。例えば、3 人の人狼役プレイヤが規定されているゲームにおいて、場に占 い師の CO が 2 人いる状況で、3 人の霊媒師の CO が行われたとき、役職によって 霊媒師の CO をしやすい(と思われる)順番が存在する。例えば、プレイヤが狂人で ある場合他の役職が誰なのかわからないため最初にＣＯすることが一番リスクは低 い。なぜなら、二人目に CO する場合には一人目の CO が人狼の場合があり、最後 に CO するとしても霊媒師ＣＯが３人もいたときには、確実にその中に人狼がいる ことが場の全員に知られてしまうためである。特にすでに占い師 CO が２人いる状 況では、人狼側に与えるリスクは高く、３番目のＣＯは本物の霊媒師であると思わ れる可能性が高いと判断される可能性が高い。このような順番も、その場にいるプ レイヤの経験によって形成されている「常識」により異なる。そもそも、経験が浅 く基本的な知識を持たないプレイヤ相手では、CO する順番がもつリスクが認識で きず、どの順番で行うかによって伝えようと思った情報が受理されないこともある。 そして、ある程度、知識を持った相手には、３番目にＣＯすることで本物の霊媒師 らしく思われることを考えて選択をできることになる。 このような状況は、人狼ゲームのプレイを見せるイベントである『アルティメッ ト人狼』のあるゲームで実際に発生している．その時には占い師としてすでに人狼 が一人ＣＯしている状況で、３番目に霊媒師として CO した人狼が仲間の人狼と敵 対し，本物の占い師の味方に付くという行動選択をして、最終的に人狼側の勝利と なった。もちろん、そのゲームはそれだけで人狼が勝ったわけではないが、人狼ゲ ームでは、他のプレイヤが持っている信念(情報)や指向を鑑みて振る舞うことで他 者を利用して、矛盾のない行動を積み重ねることで、信頼を構築することが重要で ある。そのため、特に欺き行為をするプレイヤには、少なくとも多次的な「心の理 論」の解釈が可能な程度の知性が備わっていることが勝利するのに必要である。 5.2.4 自己理解・自己伝達 他者の意図の理解や欺きを行うためには、「自分」を理解している必要がある。具 体的には、「自分」が何を目指して（ゴールとして）いるのか、そしてそのために何 をしようとしているのかである。多くの人工知能の課題では、そのゴールは明示的 に与えられていることが多い。将棋や囲碁であれば、プレイヤはあらかじめ決めら れた勝利条件に向かって勝つために行動する。サッカーでは、相手ゴールにボール を入れるという目標が決まっていて、それを実現するために必要な行動を選択する。 つまり、どのような状況になればよいのかという目標状態が決まっている。 しかしながら、人狼ゲームでは、その状態が明示的にはなっていない。もちろん、 人狼ゲームにも勝利条件はある。簡単にいえば、村人側プレイヤであれば人狼役の プレイヤを排除すること、そして、人狼側プレイヤであれば人狼と村人とが同数に なること、である。では，この勝利条件をもとに、どのような目標状態を想定すれ
- 9. 達には、社会的な要因も深く関係してことは間違いない。たとえば、環境の情報を 認知する能力ひとつとっても、我々は五感と呼ばれる視覚・聴覚、触覚、味覚、臭 覚という基本的な感覚器を備えているが、これらは環境中のあらゆる情報に関して、 必要以上に詳細な粒度かつ範囲で取得しているわけではなく、我々の思考プロセス に適した形で、環境を認識するように発達していることは、間違いないことだと考 える。社会的な生き物である人間には、このような物理的刺激の受動的な認知だけ でなく、社会的情報、つまり「他者の心」も認知できるためには、よりアクティブ な認知能力が必要ではないだろうか。このような心を理解する仕組みとして、サイ モン・バロン=コーエンは、以下の四つのシステムを生得的に備えていると提唱して いる[Simon1995, 子安 2000]。 意図検出器(Intentionally Detector; ID) 視線方向検出器(Eye-Direction Detector; EDD) 注意共有機構(Shared Attention Mechanism; SAM) 心の理論機構(Theory of Mind Mechanism; ToMM) 1 の意図検出器とは、「自分で動くもの」の行動から「意図」や「願望」を推測す るシステムである。意図検出器が「心を読む仕組み」においてはたしている基本的 な役割は、一つは生命の危機から身を守るために他者の「動き」へのリアクティブ な行動のトリガーとしての機能であり、もう一つは、その動きに意図があるのか、 つまり「自分で動く」ものかを認識して注視させるトリガーとしての機能である。 人狼ゲームにおいても、自分を投票対象とする，といった発言をする他のプレイヤ ーがいた場合に，そのプレイヤーに注意を払うかを判断するために前者の機能が必 要である。そして、それが偶然なのかどうかはさておき、「疑われたら疑い返す」と いう行動をとっていては信頼を築くことは難しいため、相手の動きが意図的なもの かを判断するために後者の機能が必要である。この意図検出器の機能を実装するに は、単純なルールベースのみであれば、ある状況とプレイヤの行動からとるべき行 動という形でリアクティブなシステムは構築が容易であるが、そこから相手の行動 が意図的なものなのかそうでないかを判断するには、隠れマルコフモデル(HMM)な どをもちいて他者の行動系列から状態を推定するなどの工夫が必要であろう。 2 の視線方向検出器とは、他者の視線がどこを向いているかという対象を推測す るシステムである。「目は口ほどに物を言う」ということわざがある。このことわざ が意味するところは、目つきには言葉で説明するのと同等な気持ちや意思の伝達可 能性であるということである．つまり，視線検出が１の意図検出の役割につながる というと捉えて良いだろう．誰がどこを見ているのかという情報は、その主体が何
- 10. に関心を持っているのかを推測するのに重要な手がかりとなるのである。視線から 意図を理解しようとする場合、他者の身体の方向から大まかな推測をするのではな く、より詳細に視線がどちらを向いているのかの認識が必要である。この視線方向 を検出することは、人狼ゲームでも重要であろう。 ただし、当たり前であるが、非対面環境で行われる BBS 人狼と、対面人狼では、 視線そのものの有無があるために、他者の関心の検出の方法自体が異なる。 まず、視線が存在する対面人狼では、当然ながら通常通りに視線を検出すればよ い。それに対して、BBS 人狼では、文字情報のみでのやり取りであるため、発言や 行動が誰に向けられたものであるのかを言語情報から読み取る必要がある。この場 合、発言の中に「A さんを疑っている」などと対象者が明示的に含まれる場合もあ るが、狩人自身が「狩人に守られたい」と発言することで暗黙的に自分を狩人候補 から外そうという「欺く」ことを目的とした言動に対する対処も求められる。その ため、意図検出と切り分けて処理するのは難しい。また、視線が検出できる対面環 境でも、人狼ゲームの場合では、誰の発言を聞いているのかなどの聴覚行動も重要 な情報であるため、聴覚行動も検出の対象になるだろう。 いずれにせよ、視線方向などが検出対象となるのは、人間は注目しているところ に視線を向けるものであり，視線と思考や行動は関連を持つ、という前提があるた めである。一方で、ロボットなどではこの仮定が成り立たないため、ロボットを含 めた対面人狼を行う場合には、どのように視線情報を扱うのか議論が必要であろう。 3 の注意共有機構とは、視線や行動、言動などを通して他者の注意を推定し共有 するシステムのことである。主体は、意図検出器と視線方向検出器の情報を統合し て、他者の視線の対象と他者の意図の情報から、主体と他者そして対象という三項 の関係性を理解する。人狼ゲームにおいても、どのプレイヤがどのプレイヤに注意 を向けているのかを知ることは重要である。対面人狼であれば、それは他のプレイ ヤの視線であったり、どのプレイヤの話を聞いているのかであったりする。一方、 BBS 人狼ではそれらの情報がないため、対話の内容や投票行動などから他者同士の 関係を推測する。そして、この関係性を認知できることで、視線や発話で他者の注 意の対象を変更させて認識の対象を共有させることなどができるようになり、ひい ては「欺き」へとつながる。この注意共有機構では、三者間の関係性の理解のみに とどまらず、四者間の関係性などより複雑な関係性の理解も可能としていることで、 フリッツ・ハイダーとメアリー・ジンメルの行った幾何学模様の動きに対する擬人 化の実験のように、「プレイヤ A が別のプレイヤ B に行った行為をさらに別の他の プレイヤ C がどう理解しているのか」や、「プレイヤ A がプレイヤ B に行った行為 を自分どう理解しているのかをプレイヤ C がどう理解しているのか」というような 多次の心の理解を可能としている。