7.26.2019

第15回|トロッコ問題の射程|南国科学通信|

全卓樹
第15回 トロッコ問題の射程


吉良貴之きらたかゆき氏が語り始めた。

「トロッコ問題」について聞き及んだ人はどれくらいいるだろうか

新装なった高知市図書館「オーテピア」、最上階プラネタリウム横会場での、寒風にんだ師走しわすひと日の夕刻であった。「高知サイエンスカフェ」の講師は、東京の若き法哲学者である。

炭鉱の採掘現場でブレーキが壊れて暴走するトロッコが、線路の先の5人の鉱夫に向かっている。切り替え路線の向こうでは別な1人が線路上で作業中である。たまたま路線切替機の隣にいたあなたは、そのまま5人がかれ死ぬのを見過ごすか、レバーを引き路線を切替えて、本来無関係な1人の死を引き起こすかの選択を迫られている。あなたはどうするのか?


CC BY-SA 4.0 image created by McGeddon

レバーを引く引かないで6対4ほどに別れた聴衆との、丁寧な対話に入った吉良氏から、「功利こうり主義」や「カント主義」といった倫理学用語が発せられ、議論は熱を帯びてきた。意見百出で収まりがつかなくなった時、会場の最後尾から、背筋を伸ばして立った紳士のテノールが響いた。

そこの切替機にいる“あなた”とは一体誰なのか。どのような立場の人なのか

高知大から駆けつけた吉良氏旧友の憲法学者、岡田健一郎氏である。「うーん」といううめきのような声とともに、会場は一瞬沈黙に包まれた。

我が意を得たりとばかり、吉良氏は話し始めた。レバーを切り替える「あなた」は人間とは限らない。例えばAIロボットに路線切替え機を任せることも考えられる。その場合AIにはどのよう判断を教え込んでおけばいのだろうか。

これはけっして単なる仮想の知的クイズではない。自動運転の実用化が視野に入った今日、トロッコ問題的な状況が発生した非常時に備えて、自動運転AIをどうプログラムしておくかというのは、車の売れ行きに関わる実際的な問題なのだ。【改行】

例えばもうブレーキが間に合わない状況で、自動運転の車の前を横切る3人の老人、そしてその横の車止めブロックが現れたとする。この状況でAIにどのような選択をさせるべきだろうか。そのまま老人たちに突っ込ませるか、またはハンドルを切って自らの車を乗っている所有者もろともブロックにぶつけるか。


自動運転車のトロッコ問題
captured image from Moral Machine web site


問題はいろいろなヴァリエーションをもって出てくるだろう。前を行く歩行者が子供達だったらどうだろうか。歩行者が横断歩道を渡る場合と車道の違法横断の場合とで、歩行者を轢くか自分をブロックにぶつけるかの判断が違ってくるだろうか。

自動運転AIに多くの人々が納得するような判断させるのは、至難の技のようにも思えてくる。それ以前にそもそも、人々がこのような場合、どのような倫理的判断を行うのかについての徹底的な調査が必要ではないか。

そのような調査はすでに存在する。それも地球全体を網羅した大規模なものが。

MITメディア研究所准教授イヤド・ラハワン博士率いるグループは2018年秋、ネチャー誌に画期的な論文を発表した。彼らはインターネットを用いて、40の状況変化を与えた自動運転車のトロッコ問題への回答を、全世界の100万を超える被験者から集めた。4000万の回答からなる、掛け値しの「倫理学ビッグデータ」である!

各人のデータは9つの独立な倫理的性向として整理され、中心点から発する9つの矢の上にプロットされたグラフとして表現された。100万のこのようなグラフは、複雑系物理学のネットワーク理論に基づいた分析にかけられた。結果からは、あらゆる人間に共通の倫理的判断の存在が確認されるとともに、地球上の地域ごとの倫理的性向の、興味深い違いが浮上してきたのである。

モラル・コンパス
E. Awad, S. Dsouza, R. Kim, J. Schulz, J. Henrich, A. Shariff, J.-F. Bonnefon, I. Rahwan (2018). The Moral Machine experiment. Nature. 562(7729) Fig.3 b を元に作図。
原論文はここででプレビューできる。

まず全人類共通の結果として、よりたくさんの人命を救おうとする傾向、老人より若者を救おうとする傾向が確認された。人類の種の保存を考えると、ほぼ全ての人に納得できる倫理判断であろう。

ネットワーク・クラスター分析から浮かび上がったのは、人々の倫理哲学的性向を基準にして、全世界が大きく3つのブロックに分けられる事実であった。ラハワン博士はそれを「西洋クラスター」「東洋クラスター」「南洋クラスター」と呼んだ。それぞれはおおよそで言って、欧州と北米の国々、極東と南アジアそして東南アジアの国々、南米の国々からなっていたからである。

日本も属する東洋クラスターの特徴は、救える人命の数を重視する事、そして合法的な行動をとる人を優先的に救おうとする傾向である。またこのクラスターでは老人が尊重される一方、男女を等しく扱う傾向が見出された。これを逆からいえば、東洋クラスターでは法を守らないものの命は軽んじられ、若者や女性に冷たいという事でもある。日本に最も近い傾向を示すのがすぐ隣の韓国、台湾、中国ではなく、マカオでありカンボジアであるというのも興味深い。

メキシコ、アルゼンチン、チリ、コロンビア、パラグアイといった国が属する南洋クラスターの特徴は、社会的地位の高い命の尊重と、若者そして女性の命の尊重である。また他クラスターと比較するとき、ここでは健康なものの命をより尊重する傾向が見出される。南洋クラスターでは一方で、人命の数を特に重視したり、法的かどうかを重視するということはない。

イギリス、ドイツ、イタリア、ロシア、ポーランドなど欧州諸国と北米が属する西洋クラスターでは、何を特に重視するというより、どれもバランスよく考える傾向が見て取れる。強いて言えば「事態への介入を避ける」「なりゆきを尊重する」という傾向が、他の二つのクラスターに比べて強くなっている。

ここで東洋西洋といった名前自体は仮のもので、上記の分類には奇妙な例外がいくつか見つかるのも面白い。欧州の中核を自認するフランス、そして中欧のチェコとハンガリーは、この倫理的区分ではなぜか南洋クラスターに属している。アジアのベトナムとバングラデシュそしてスリランカが、また南米のゆうブラジルが西洋クラスターに入っている。中東諸国はイランとサウジアラビアが東洋クラスター、イラクやシリアが西洋クラスター、そしてトルコが南洋クラスターという風に、不思議にバラバラな配属になっている。

idib. Fig.3 a を元に作図。
同様の実験をMit media labのMoral Machine web site(日本語版)にて試すことができる。

このような分類の結果は、将来の売れ筋のAI自動運転車の設計に用いられるであろうし、また各国で事故を減らすための道路設計や交通法制度設計にも役立つだろう。しかしおそらく、それ以上に皆の感慨を呼ぶのは、この分類表の結果と、「お国柄」に関するステレオタイプとの、なんとも絶妙な対応であろう。合法性をどれほど重視するか、男女平等の動きへの各文化圏の温度差、社会的平等をどれほど重視するか、その他その他。苦笑とともに納得してしまう点がなんと多いことか。そしてなによりも、恣意しい的な概念や分類の一切の導入なしに、データから「自動的に」人間世界の三大文化圏への分岐ぶんきが浮かび上がってくる驚き。

倫理学の問いから始まった我々の歩みのたどり着いた先が、データサイエンスとしての文化論だったとは!

これまでもっぱら定性的言説にゆだねられていた「国ごとの文化風土」と言った話題まで、いまやネットワーク理論の定量的解析の俎上そじょうに載せられるのだ。図表の国名を繰り返し確かめながら思いを巡らせていた間にも、会場の議論は先へとすすんでいた。

最後の話題である刑法不要説をめぐっての討論が始まっていた。実証的に見て刑罰は犯罪の抑止よくしになっていないことが多い。上手な制度設計さえあれば、民法を媒介とする人々の契約のみで犯罪の少ない成熟した社会が維持できる。自ら「リバタリアン過激派」を自認する法哲学者吉良氏は、このように自説を語った。一方憲法学者の岡田氏は、民法と刑法双方の有機的運用のみが社会の健全さを保証すると考える、より伝統的な法学の立場であった。

聴衆から質問が出た。

トロッコ問題データからカント主義、功利主義など個々人の哲学を抽出できないか

法哲学者が満面の笑みで答えた。

いい質問ですね! その話で締めようとしていたところです

ラハワン博士のデータは、国ごとの特徴の分類だけでなく、解析次第で個人の倫理的指向性の定量的な分類にも用いることができる。そのようなデータによる分類は、個々人の職業適性の診断から友人の選択まで、あらゆる場面で有効であろう。またそれは組織によるメンバーのリクルートと採用、人材管理、また商品のマーケティングにおける顧客ターゲティングにも、とても有用であろう。

しかしそのような未来の到来は望ましいのだろうか。それは誰にもわからない。むしろ問いはこうあるうべきであろう。いかにすれば到来する未来を望ましいものにできるか。良きにせよ悪しきにせよ、データサイエンスが日常に埋め込まれた時代、それがまさにわれわれの21世紀なのだから。





←第14回を読む

(つづく)

★著者紹介

3.15.2019

更新情報

更新情報

★2019年3月15日 全卓樹さん「南国科学通信」を更新しました! 第14回 ペルシャとトルコと奴隷貴族 

第13回 思い出せない夢の倫理学 | 第12回 シラード博士と死の連鎖分裂 | 第11回 ベクレル博士の遥かな記憶 | 第10回 ペイジランク――多数決と世評 | 第9回 多数決の秘められた力第8回 三人よれば文殊の知恵 | 第7回 付和雷同の社会学 | 第6回 確率と自由 | 第5回 流星群の夜に | 第4回 アリと自由 | 第3回 アリたちの晴朗な世界 | 第2回 世界の中心にすまう闇 | 「南国科学通信」第1回


★2018年6月16日 人類の夜明けをめぐる本棚会議 本棚会議vol.2『先史学者プラトン』刊行記念 前編 後編 
本棚案内 山本貴光+吉川浩満 井手ゆみこ(ジュンク堂書店人文書担当)


2017年11月22日 仲谷正史+傳田光洋+阿部公彦「触感 × 皮膚 × 文学 「触れること」をめぐる冒険」を公開しました! 

-----> これまでの連載のもくじはこちらです。

南国科学通信 第14回 ペルシャとトルコと奴隷貴族

全卓樹
第14回 ペルシャとトルコと奴隷貴族

言葉も風習も異なる遠方の人々の歴史書を読むのが好きである。奇異で不道徳で同時に美しく精妙な制度、何かが心に引っかかり記憶から消せない事物などが、そこには数多く記されている。

その一つに「マムルーク」がある。

中世から近世にかけてのイスラーム諸国でみられた、異民族の奴隷からなるエリート部隊の軍人のことで、各国の宮廷の守護の柱だったという。近世の三大陸に覇を唱えたオスマン大帝国のイェニチェリ軍団が有名であるが、エジプトの「奴隷王朝」のように自身が王となったマムルークもいた。

マムルークという不可解な制度がどう出来てきて、一体どのように運用されたのか、それを知るためには、千百年前のサーマーン朝ペルシャに(空想の中で)出かけねばならない。


Opening Folio of the 26th Volume of the "Anonymous Baghdad Qur'an"
A.H. 706/ A.D 1306–7
The Metropolitan Museum of Art 



サーマーン朝とはイスラム暦の2世紀半ば、西暦9世紀末に、今日のイラン東部からウズベキスタンにかけて存在した、ペルシャ語を喋る人々の国である。アラブの征服者に国を滅ぼされイスラム化したペルシャ人であったが、言葉と文化は残り人々も残り、二百年ののち元の場所より少し東に寄せて、新しい王朝が立ち上がったのだ。

ペルシャの国の東の果てには異教徒のトルコ系遊牧部族が住んでいた。騎馬に秀でた剽悍ひょうかんなトルコ人の襲撃は、文明的都市住民となっていたペルシャ人たちの悩みの種であった。このような場合の定石じょうせきは「を以て夷を制す」である。サーマーン朝ペルシャ人たちも当然定石を用いたのだが、そのやり方が独特であった。

ペルシャの奴隷商人がトルコ人の少年たちをさらってくる。サーマーン朝の役人が来て、その中から知能体力性格容貌すべてを厳しく選りすぐって買って行く。奴隷少年たちの行き先は特設の学校で、そこで彼らはコーランから武術まで、数学から詩まで、礼節から立ち振る舞いまでを学び、サーマーン朝に忠誠を誓うイスラーム戦士となるのである。軍功には昇進と封土が約束された。時をおかずサーマーン朝の精鋭軍は、兵卒から司令官までトルコ人戦士で満たされた。精鋭軍の行く手には常に勝利と栄光が待っていた。トルコ人奴隷たちは軍事貴族となり、イスラーム法官や官僚からなるペルシャ人貴族と並んで、サーマーン朝国家を支える二本柱の一つとなったのである。

サーマーン朝の東の辺境は安定し、国は西に向かって拡張した。往古のペルシャ帝国の版図はんとの大部分が回復された。これがマムルーク制度である。サーマーン朝の奴隷精鋭軍の評判はあっという間に広まり、マムルークはイスラーム世界全体に浸透した。



サーマーン朝の版図
wikipedia

奴隷から特権階級となったトルコ人たちは、宮廷にも影響力を持つようになり、国の政治を左右し始めた。サーマーン朝からアフガニスタンを分離して別王朝を立てたのも彼らである。しかしマムルークに許されていないことが一つだけあった。それは階級の世襲である。精鋭軍を精鋭に保つために、兵士は常に新たに辺境の異教徒から育てられねばならない。マムルークの子供達はイスラーム法官や国家官僚となって、一般のペルシャ人文官貴族と融合していった。マムルークは常に奴隷からきたえ上げられる一世代限りの存在なのである。

マムルークを絶やさないためには、常に新たな奴隷の供給が必要となる。サマルカンドやブハラといった東部の大都市には、どこも大規模な奴隷市場があった。ホレーズム地方の中心都市ヒヴァには、いまから百五十年前に奴隷制度が廃止されるまで、世界最大の奴隷市場が置かれていた。その遺構いこうは世界遺産となって今日見ることができる。

これらの市場を通じて大量のトルコ人が東から西へと流れていった。古代からペルシャ人の居住地だったすべての場所が、トルコ=ペルシャ融合世界へと姿を変えていった。世襲の文官貴族と一代限りの軍事貴族が並び立つ制度は、この世界融合の鍵であった。イスラーム全域の、場所ごと時代ごとの異なった辺境で、異なった異教徒からマムルークが作られた。アルメニア人、グルジア人、チェルケス人、ギリシャ人、アルバニア人、ブルガリア人。彼らの子孫は今では全て、イスラーム統合世界の市民である。



نهاية السؤل والامنية في تعلم أعمال الفروسية
أقصرائي، محمد بن عيسى بن إسماعيل الحنفي
A Mamluk manual on horsemanship, military arts and technology
the Qatar Digital Library


イスラーム世界は中世末期、人類文明の先頭に立っていたと考える人もいる。その香り高い文化と強力な軍事の背後には、まさにマムルーク制度という、一見奇怪な人種的職能的分業制があったのである。現在のわれわれが奉じている、平等と人権と民主主義の社会制度とは対極の、この不可思議な制度をどう考えたらよいのだろうか。

前近代社会の文脈でみれば、マムルーク制を「農耕民と遊牧民の対立」問題への、創造的でエレガントな解法だと考えることができる。なぜなら遊牧民に対して壁を立て買収し武力で対抗しても、ちょうど高まる津波に次々と堤防をせりあげて応じるように、いずれ巨大な決壊が予想されるからである。

今日多くの国で、異文化からの才能を取り込む事なしには、先端科学技術の発展も経済の活況も見込めなくなっている。現代人はこれを首尾よく行えるだろうか。万民平等主義の建前とは裏腹に、われわれの周囲で異民族カースト間の軋轢あつれきが生じ始めていないだろうか。マムルーク制を参考にしつつ、奴隷制度に代えてわれわれの道徳観に合う別な何かで、社会の異質な要素の親和と融合をめざす制度が設計できないものだろうか。

われわれにとってマムルークとは何か。これは思わぬ知見をもたらし得る、仲々なかなかに深い問いなのかもしれない。



Hizb (Litany) of An-Nawawi



←第13回を読む

(つづく)

★著者紹介

2.12.2019

南国科学通信 第13回 思い出せない夢の倫理学

全卓樹
第13回 思い出せない夢の倫理学

人が夢からめたとき、思い出そうとする端から、夢は溶けるように去ってしまう。誰しも覚えがあるだろう。英国詩人サミュエル・テイラー・コールリッジは、夢の中で奇跡の長詩を授かったが、起床ののち全部は書き留めきれず、残された断章が神韻しんいん「クブラ・カーン」となった。

In Xanadu did Kubla Khan
A stately pleasure-dome decree :
Where Alph, the sacred river, ran
Through caverns measureless to man
Down to a sunless sea……

上都じょうとにて クブラ・カーンは 命じたり
豪奢ごうしゃなる 逸楽いつらくの宮 建つべしと
かの地には 聖なるアルフの 川流れ
人智には 数えおよばぬ ほこら抜け
日もなき海へ 落つると聞けり......

人は起床直後に、直近30秒ほどに見た夢を覚えているのがつねである、と京都大学の脳神経科学者、神谷之康かみたに・ゆきやす博士は語る。長大な夢も一瞬のような時間に圧縮されるのだろうか。