科学・技術の進展とともに、対人認知も変化する

山田先生のご専門は社会心理学ということですが、特にどのような研究テーマで、何に関心を持って取り組まれているのでしょうか。

唐沢私は社会心理学の中の社会的認知と呼ばれる領域で、特に「対人認知」の研究を行っています。対人認知とは、人が他者の考えや意図、感情をどう理解し、そのうえで他者をどう評価し、行動するのかを探る学問です。私たちは、他者について、例えばこの人は道徳的に正しいのかとか、善い人なのかそれとも悪い人なのかとか、近づいても大丈夫なのかといったことを見極めながら対人行動に及びます。そのプロセスにはバイアスや歪みがあり、必ずしも他者を正しく理解しているとは限りません。それが対人関係やコミュニティの中でどのような相互作用や社会現象をもたらしているのかに興味を持っているのです。

　山田現在、国連が提唱したSDGs（持続可能な開発目標）を世界共通のゴールとする社会イノベーションを実現しようとする動きが加速しています。日本でもSDGｓ達成のために「人間中心」の社会をめざすSociety 5.0実現という形で取り組みが始まっています。今後、科学・技術、特にデジタル変革によって生み出されていく社会イノベーションにおいては、対人関係や社会のあり方も変わっていくように思います。そうした環境変化をどのように捉えていらっしゃいますか。

唐沢科学・技術が進展し、環境が変われば対人関係も影響を受けて変化しますので、それが他者との付き合い方や対人行動に及ぼす影響は興味深いテーマです。例えば、Society 5.0のもとで進められる地域の活性化や居住環境の変化が、人間関係の多様化につながるのか、それとも均質化、ひいては関係格差の拡大に向かうのかなどはその一つです。また最近では、社会の中のエージェント（代理人・仲介者）として、AI（Artificial Intelligence：人工知能）やロボットの活用が始まっています。私たちは、それらに対してあたかも人間であるかのように知覚したり反応したりすることがありますよね。AIやロボットが社会の中でどのような存在になるのか、対AI認知、対ロボット認知についても、今後は社会心理学も関心を寄せていく必要があると思っています。

社会イノベーション実現のためにはダークサイドも見るべき

山田そうしたAIやロボットの活用による社会イノベーションの進展に対して、人と社会を対象に研究をされてきた社会心理学者として懸念されている点があればお聞かせください。

唐沢もちろん、社会イノベーションの根底には社会を良くしたい、人々の暮らしを良くしたいという動機があるわけで、私も素直な期待を抱いています。一方で、その結果の影響や副作用に目を向け、社会全体を眺めて、メタな視点を持ってどこまで議論ができているのだろうかと感じることはあります。
私たちも社会心理学の実験において、特定の要因を操作して人の行動がどう変わるかを調べたりしていますが、ある一つの要因を操作すると、予測していた結果以外のところにもさまざまな変化が生じてしまいます。それと同じことはイノベーションにも当てはまります。つまり、新しい技術の導入により、狙った効果以外の副作用的な問題が生じてくる可能性があるということです。もちろん、すべての問題を事前に予測することは不可能ですが、これだけは絶対に避けるべきというボーダーを意識することが、イノベーションには必要なのではないかと思っています。
もう一つ気になっているのが、社会問題の解決を視座に入れた際の、イノベーションに関わる人たちと社会心理学の関係の築き方です。人々の行動を望ましい方向に動かしたい、だからどうしたらよいのか、という問いかけを受けることが時としてあるのです。もちろん私たちもさまざまな知見は持っていますし、実践的に活用できる面があることは否定しません。ただ、それを使ったからといって、人々の行動や感情が思惑通り動く保証はありませんし、社会もすぐには変わりません。そもそも、人の行動や感情を動かすといった場合、誰がその権利を持つのかとか、どこまでなら許容されるのかなど、倫理的な問題も含んでいます。そういった難しい問題に対して、安易な回答を求めることは差し控えなければならないでしょう。

山田唐沢先生には、2018年6月に開催された日立東大ラボ主催のハビタット・イノベーションのシンポジウムにパネリストとしてご登壇いただきましたが、その際にも、データ駆動型社会において、一体誰がデータを扱うのか、誰がその恩恵を被ることになるのか、そこから抜け落ちる人がいないのかといった点を指摘されていましたね。

　唐沢Society 5.0でも「人間中心」が標榜されていますが、その人間が誰のことを指しているのか、また、人間中心の社会のモデルとはどのようなものか、あるいはモデルがまだないのか、必ずしも明確ではありません。すべての人が等しく人間中心のコンセプトに含まれることは理想ですが、それがいかに実現できるのかはまだ見えません。ある部分が引き上げられて改善される点はあったとしても、取り残される人が出てきて、より格差が広がることにつながる恐れはないのか。そうしたダークサイドをきちんと見ていく必要があると思っています。

山田当然、誰もがイノベーションによって生み出される新たな価値の恩恵を受けられる社会をめざしているわけですから、ただ平均値で捉えればいいというわけでもありません。例えば、生産性やそこから得られる所得は、裾野の長いロングテールのべき乗分布に従うことが知られており、そこでは平均値が意味を持ちません。また、大都市、地方都市、中山間部など地域によっても課題はそれぞれであり、そこに根付いている社会規範や文化も異なりますから、実際にはさまざまな観点から検討し取り組まなければなりませんね。

唐沢やはり環境の多様性や複数の価値を認めながら進めていくことが大事だと思っています。それは、もちろん簡単ではないのですが、人間は利己的な面、自己中心的な面と、利他的な面、つまり他者の福利にも関心を寄せる面の両方を併せ持っています。そのバランスこそが大事で、自分を大事にしながらも、他者はどうなのだろうと気にする。自分と自分以外の存在の両方を念頭に置きながら、常に多面的に考える思考パターンを議論の中に組み入れていく必要があるでしょう。でもこれは、けっこう難しいですよね。簡単な処方箋などはなく、地道な議論の積み重ねこそが重要です。
その中で、自然科学的なデータに裏付けされるような方法論だけでなく、哲学や倫理学など人文科学の視点を取り入れることの意義は大きいわけで、その両方をうまく擦り合わせながら、人間の理解をより深めて進めていく必要があると思います。

デジタライゼーションの進展で、変わるもの、変わらないもの

山田現状、IoT（Internet of Things）やAI、ロボットといったデジタライゼーションは、人間の生命や倫理に影響を及ぼしにくい産業の最適化や利便性を向上させる分野で導入が進められています。しかしながら、技術が先行し、これまで人間が関わり判断してきた作業が、サイバー空間で実施されるようになると、哲学や倫理、道徳などの側面は避けて通ることはできないと考えています。トロッコ問題※)に代表されるように、倫理の問題というのは、簡単に答えを出せるものではありません。デジタライゼーションの進展の中で、どう議論を深めていけばよいのでしょう。

唐沢技術が牽引すること自体を悪いこととは考えていません。一方、技術が私たちの倫理や道徳のあり方を変える可能性に目を向け、新しい技術の社会実装がもたらす影響に関して、議論を深めることが大事だと思っています。実際に今、人文科学系の研究者たちはビッグデータやAIに大変関心を持っていて、それがどう倫理や社会のあり方、さらには人間の定義を変えるのかという議論が盛んに行われています。この議論を有意義なものにするためにも、技術者の方たちには技術の価値と可能性について、できるだけ分かりやすく示してほしい。また社会心理学を含む人文系の研究者も、研究成果の実践的な意義を示すことが必要です。課題の明確化と密な情報交換をベースにした議論の成果を、開発者にフィードバックできるようなメタなプラットフォームがあるといいですね。

山田AI技術について、機械学習やディープラーニングは、そのままでは技術がブラックボックスになり、なぜそのような結果が導かれたのかを説明できません。この場合、人間がその判断を受け入れることは難しいと思います。そのため、日立を含めて各社は、結果説明が可能なAIの開発を進めています。このような技術開発と社会や倫理面の議論を深めることにより、人間が意思決定支援にAIを活用する場面が増えてくると思います。つまり、判断基準が従来のような道徳観や慣習に基づく人間によるトップダウンだけではなく、膨大なデータに基づくボトムアップの考えも取り入れていくことになるわけですね。これは大きな考え方の変化で、政治や企業の意思決定のプロセスも変わることになると思います。ただし、ともするとデータ駆動だけが先行して人間を置き去りにしてしまう、さらに人間が知らず知らずにデータに依存してしまう可能性があります。そうなるとこれからの社会を担う若い人々の思考や倫理観、人間観も大きく変わっていくことになるのでしょうか。

唐沢難しい問題ですね。意思決定をAIが支援することは、合理的な判断領域では、より良い意思決定につながるように思います。一方、膨大なデータが私たちの生活をサポートする社会になると、個々人の直感的な道徳観に基づく判断や慣習よりも、AIの判断が正しいと考えてしまうかもしれない。もっとも、データ駆動というときのデータをどこに求めるか次第のところもあり、慣習や、多数の人から集めた直感的な道徳判断データなども取り入れたAIによる意思決定システムも可能だと思います。ただ、いずれにせよ、AIが示す意思決定を、そのまま自分の意思決定として受け入れる社会になってしまうと、自分で考えることの意味が揺らいでしまう。また、自分も他者もデータとして存在し、その結果、社会も、そのような多数のデータとしての人々から構成されるものとして概念化されるわけですから、信頼、協力、協創といった、他者とのつながり、またそれを是とする倫理観にも変化が出てくるかもしれません。データ駆動型社会は、人の自由な意志、自律性とは何かという、人間観に関わる根本的な問いを、新たに突き付ける可能性があります。
そこで私たちが心にとめるべきことは、人間の道徳観を支えるシステムには、非合理的なところもあるけれども、限られた認知能力を前提として、理知的な判断に先行して生起する感情的なものも基盤にして動いていることです。例えば、人を傷つけてはいけない、殺めてはいけないといった、基本的で普遍的な倫理観は、その中に埋め込まれています。そのような倫理観は変わらず存在し、また存在し続けるべきであり、AIの活用も、そのような人間の特性を踏まえる必要があるのではないでしょうか。

山田宗教や文化、政治、経済状況などが違っても、倫理や道徳というのは不思議と共通している部分が多いものですね。発達心理学では、人間はすでに幼児のころから公平性や善悪を判断できるという心理学実験の結果が示されています。すなわち、普遍的な人間性、倫理や道徳は、人間が社会を営むうえでの身体的な安全や健康などに深く関わっていると考えてよいでしょうか。

唐沢大勢の人間がいて、他者が何を考えているかあからさまには分からない中で共存していくためには、社会のルールが不可欠です。それが倫理や道徳、宗教であり、生き延びるための人間の知恵として社会システムに組み込まれてきたということでしょう。

※）トロッコ問題

「ある人を助けるために、ほかの人を犠牲にすることは許されるのか？」という、道徳的ジレンマを扱った思考実験。