吉良貴之〔きらたかゆき〕氏が語り始めた。

「トロッコ問題」について聞き及んだ人はどれくらいいるだろうか

新装なった高知市図書館「オーテピア」、最上階プラネタリウム横会場での、寒風に澄〔す〕んだ師走〔しわす〕ひと日の夕刻であった。「高知サイエンスカフェ」の講師は、東京の若き法哲学者である。

炭鉱の採掘現場でブレーキが壊れて暴走するトロッコが、線路の先の５人の鉱夫に向かっている。切り替え路線の向こうでは別な１人が線路上で作業中である。たまたま路線切替機の隣にいたあなたは、そのまま５人が轢〔ひ〕かれ死ぬのを見過ごすか、レバーを引き路線を切替えて、本来無関係な１人の死を引き起こすかの選択を迫られている。あなたはどうするのか？

CC BY-SA 4.0 image created by McGeddon

レバーを引く引かないで６対４ほどに別れた聴衆との、丁寧な対話に入った吉良氏から、「功利〔こうり〕主義」や「カント主義」といった倫理学用語が発せられ、議論は熱を帯びてきた。意見百出で収まりがつかなくなった時、会場の最後尾から、背筋を伸ばして立った紳士のテノールが響いた。

そこの切替機にいる“あなた”とは一体誰なのか。どのような立場の人なのか

高知大から駆けつけた吉良氏旧友の憲法学者、岡田健一郎氏である。「うーん」といううめきのような声とともに、会場は一瞬沈黙に包まれた。

我が意を得たりとばかり、吉良氏は話し始めた。レバーを切り替える「あなた」は人間とは限らない。例えばAIロボットに路線切替え機を任せることも考えられる。その場合AIにはどのよう判断を教え込んでおけばよいのだろうか。

これはけっして単なる仮想の知的クイズではない。自動運転の実用化が視野に入った今日、トロッコ問題的な状況が発生した非常時に備えて、自動運転AIをどうプログラムしておくかというのは、車の売れ行きに関わる実際的な問題なのだ。

例えばもうブレーキが間に合わない状況で、自動運転の車の前を横切る3人の老人、そしてその横の車止めブロックが現れたとする。この状況でAIにどのような選択をさせるべきだろうか。そのまま老人たちに突っ込ませるか、またはハンドルを切って自らの車を乗っている所有者もろともブロックにぶつけるか。

自動運転車のトロッコ問題 captured image from Moral Machine web site

問題はいろいろなヴァリエーションをもって出てくるだろう。前を行く歩行者が子供達だったらどうだろうか。歩行者が横断歩道を渡る場合と車道の違法横断の場合とで、歩行者を轢くか自分をブロックにぶつけるかの判断が違ってくるだろうか。

自動運転AIに多くの人々が納得するような判断させるのは、至難の技のようにも思えてくる。それ以前にそもそも、人々がこのような場合、どのような倫理的判断を行うのかについての徹底的な調査が必要ではないか。

そのような調査はすでに存在する。それも地球全体を網羅した大規模なものが。

MITメディア研究所准教授イヤド・ラハワン博士率いるグループは2018年秋、ネイチャー誌に画期的な論文を発表した。彼らはインターネットを用いて、４０の状況変化を与えた自動運転車のトロッコ問題への回答を、全世界の１００万を超える被験者から集めた。４０００万の回答からなる、掛け値なしの「倫理学ビッグデータ」である！

各人のデータは９つの独立な倫理的性向として整理され、中心点から発する９つの矢の上にプロットされたグラフとして表現された。１００万のこのようなグラフは、複雑系物理学のネットワーク理論に基づいた分析にかけられた。結果からは、あらゆる人間に共通の倫理的判断の存在が確認されるとともに、地球上の地域ごとの倫理的性向の、興味深い違いが浮上してきたのである。

モラル・コンパス E. Awad, S. Dsouza, R. Kim, J. Schulz, J. Henrich, A. Shariff, J.-F. Bonnefon, I. Rahwan (2018). The Moral Machine experiment. Nature. 562(7729) Fig.3 b を元に作図。 原論文はここででプレビューできる。

まず全人類共通の結果として、よりたくさんの人命を救おうとする傾向、老人より若者を救おうとする傾向が確認された。人類の種の保存を考えると、ほぼ全ての人に納得できる倫理判断であろう。

ネットワーク・クラスター分析から浮かび上がったのは、人々の倫理哲学的性向を基準にして、全世界が大きく３つのブロックに分けられる事実であった。ラハワン博士はそれを「西洋クラスター」「東洋クラスター」「南洋クラスター」と呼んだ。それぞれは凡〔おおよ〕そで言って、欧州と北米の国々、極東と南アジアそして東南アジアの国々、南米の国々からなっていたからである。

日本も属する東洋クラスターの特徴は、救える人命の数を重視する事、そして合法的な行動をとる人を優先的に救おうとする傾向である。またこのクラスターでは老人が尊重される一方、男女を等しく扱う傾向が見出された。これを逆からいえば、東洋クラスターでは法を守らないものの命は軽んじられ、若者や女性に冷たいという事でもある。日本に最も近い傾向を示すのがすぐ隣の韓国、台湾、中国ではなく、マカオでありカンボジアであるというのも興味深い。

メキシコ、アルゼンチン、チリ、コロンビア、パラグアイといった国が属する南洋クラスターの特徴は、社会的地位の高い命の尊重と、若者そして女性の命の尊重である。また他クラスターと比較するとき、ここでは健康なものの命をより尊重する傾向が見出される。南洋クラスターでは一方で、人命の数を特に重視したり、法的かどうかを重視するということはない。

イギリス、ドイツ、イタリア、ロシア、ポーランドなど欧州諸国と北米が属する西洋クラスターでは、何を特に重視するというより、どれもバランスよく考える傾向が見て取れる。強いて言えば「事態への介入を避ける」「なりゆきを尊重する」という傾向が、他の二つのクラスターに比べて強くなっている。

ここで東洋西洋といった名前自体は仮のもので、上記の分類には奇妙な例外がいくつか見つかるのも面白い。欧州の中核を自認するフランス、そして中欧のチェコとハンガリーは、この倫理的区分ではなぜか南洋クラスターに属している。アジアのベトナムとバングラデシュそしてスリランカが、また南米の雄〔ゆう〕ブラジルが西洋クラスターに入っている。中東諸国はイランとサウジアラビアが東洋クラスター、イラクやシリアが西洋クラスター、そしてトルコが南洋クラスターという風に、不思議にバラバラな配属になっている。

Idib. Fig.3 a を元に作図。 同様の実験をMit media labのMoral Machine web site（日本語版）にて試すことができる。その結果はここで見ることができる。

このような分類の結果は、将来の売れ筋のAI自動運転車の設計に用いられるであろうし、また各国で事故を減らすための道路設計や交通法制度設計にも役立つだろう。しかしおそらく、それ以上に皆の感慨を呼ぶのは、この分類表の結果と、「お国柄」に関するステレオタイプとの、なんとも絶妙な対応であろう。合法性をどれほど重視するか、男女平等の動きへの各文化圏の温度差、社会的平等をどれほど重視するか、その他その他。苦笑とともに納得してしまう点がなんと多いことか。そしてなによりも、恣意〔しい〕的な概念や分類の一切の導入なしに、データから「自動的に」人間世界の三大文化圏への分岐〔ぶんき〕が浮かび上がってくる驚き。

倫理学の問いから始まった我々の歩みのたどり着いた先が、データサイエンスとしての文化論だったとは！

これまで専〔もっぱ〕ら定性的言説に委〔ゆだ〕ねられていた「国ごとの文化風土」と言った話題まで、いまやネットワーク理論の定量的解析の俎上〔そじょう〕に載せられるのだ。図表の国名を繰り返し確かめながら思いを巡らせていた間にも、会場の議論は先へとすすんでいた。

最後の話題である刑法不要説をめぐっての討論が始まっていた。実証的に見て刑罰は犯罪の抑止〔よくし〕になっていないことが多い。上手な制度設計さえあれば、民法を媒介とする人々の契約のみで犯罪の少ない成熟した社会が維持できる。自ら「リバタリアン過激派」を自認する法哲学者吉良氏は、このように自説を語った。一方憲法学者の岡田氏は、民法と刑法双方の有機的運用のみが社会の健全さを保証すると考える、より伝統的な法学の立場であった。

聴衆から質問が出た。

トロッコ問題データからカント主義、功利主義など個々人の哲学を抽出できないか

法哲学者が満面の笑みで答えた。

いい質問ですね！　その話で締めようとしていたところです

ラハワン博士のデータは、国ごとの特徴の分類だけでなく、解析次第で個人の倫理的指向性の定量的な分類にも用いることができる。そのようなデータによる分類は、個々人の職業適性の診断から友人の選択まで、あらゆる場面で有効であろう。またそれは組織によるメンバーのリクルートと採用、人材管理、また商品のマーケティングにおける顧客ターゲティングにも、とても有用であろう。

しかしそのような未来の到来は望ましいのだろうか。それは誰にもわからない。むしろ問いはこうあるうべきであろう。いかにすれば到来する未来を望ましいものにできるか。良きにせよ悪しきにせよ、データサイエンスが日常に埋め込まれた時代、それがまさにわれわれの２１世紀なのだから。