【AI/倫理】トロッコ問題とは？長年人々を惹きつけてきた理由についても解説

本記事ではトロッコ問題の概要とともに、トロッコ問題が長年人々を惹きつけてきた理由について解説します。

知識・情報

2022/05/09 UP

トロッコ問題は倫理を扱う思考実験の一つです。1967年に哲学の論文で発表されてからというもの、50年以上にわたり人々の間で語り継がれてきました。また近年ではAIや自動運転の話題でも登場しています。本記事ではトロッコ問題の概要とともに、トロッコ問題が長年人々を惹きつけてきた理由について解説します。

トロッコ問題とは何か

はじめにトロッコ問題と呼ばれる思考実験のストーリーについて説明します。いくつかバリエーションがありますが、ここでは一般的なトロッコ問題の設定を取り上げます。

トロッコ問題の概要

暴走したトロッコが線路の上を走っており、線路の先では6人の作業員が工事を行なっています。トロッコの進行方向には5人の作業員がいて、このままでは5人がひかれてしまうことに。あなたの近くには線路の進行方向を切り替えるレバーがあります。しかしレバーを切り替えると、その先の線路にいる1人の作業員をひいてしまいます。さて、あなたは次の二つから選択しなければなりません。

A：レバーを切り替えて、5人の作業員を救うが、1人が犠牲になる

B：何もせず、5人の作業員がひかれるが、1人は救われる

あなたはAとBどちらの選択肢を選ぶでしょうか。

以上がトロッコ問題のストーリーです。トロッコ問題は正解や不正解がない思考実験であり、問題を通して自分の考えをまとめ、新たな気付きを得ることにつながります。また他の人と議論を行なうことで、自分と異なる価値観に触れることもできるでしょう。

トロッコ問題は何を問うのか

トロッコ問題で論点となるのはおもに次の二つです。一つは1人の命と5人の命という命の数や重みを、どう判断するか。もう一つは自らレバーを引くという自発的な行動を起こすのか、それとも何もせず傍観者となるのか、どちらの立場を取るかです。

命の数だけで考えれば、数の多い5人の命のほうを選ぶ人が多いでしょう。しかし5人を救うためには自らレバーを引き、本来助かるはずであった1人の命を奪うという判断をしなければなりません。人の生死に影響するような行動を起こすことに抵抗が強ければ、レバーを引かずに傍観者となる判断になるでしょう。

実際にトロッコ問題のような状況が起きたとき、レバーを引いてしまうと法的に罰せられたり、社会から糾弾されたりする可能性もあります。そのためレバーを引くという判断はより実行しづらくなるはず。しかし、自分が行動しなかったために犠牲がでてしまえば、大きな後悔が残るかもしれません。

トロッコ問題の誕生

トロッコ問題が語られるようになったのは、とある論文がきっかけでした。発端となる論文の内容について紹介します。

トロッコ問題の発端の論文

イギリスの哲学者である、Foot Philippaが1967年に発表した論文で、トロッコ問題が初登場しました。カトリック教徒は、たとえ母体が危険な状態であっても、宗教上の理由で妊娠中絶を禁止しています。それに対し、Footは多数を助けるために少数者を犠牲にすることの良し悪しについて倫理的考察を行ないます。その考察にはさまざまな事例が登場するのですが、その一つがトロッコ問題でした。

Footは「二重義務論」と呼ばれる判断基準を提案します。多数と少数のどちらを優先するかという問いに対し、助ける行動をとる「積極的な義務」、行動を控えることで助ける「消極的な義務」という二つの義務を考えます。

論文中に出てくるトロッコ問題では、ポイントの切り替えを行なうのは暴走する路面電車の運転手。この場合は5人と1人のどちらを犠牲にする場合でも、消極的な義務であることから、犠牲者が少なくなる判断が良いとしています。他にも論文中には積極的な義務と消極的な義務のどちらを取るかという事例があり、その場合は消極的な義務を優先すべきである、と書かれています。

トロッコ問題として定式化される

Footの論文に登場する、路面電車の運転手がポイントの切り替えを行なう事例を、トロッコ問題として定式化したのがThomson Judith Jarvisです。Thomsonは1976年に発表した論文でトロッコ問題の事例をいくつか提起しました。以下の3例はいずれも5人の命と1人の命のどちらを選ぶかという点は同じですが、シチュエーションが少し異なります。

事例1：路面電車の運転手がポイント切り替えを行なう

事例2：通りかかった通行人がポイント切り替えを行なう

事例3：レールの分岐はなく、線路上にいるのは5人の作業者。通行人が太った男を線路に突き落として電車を止める

事例1はFootの論文で登場した状況、事例2は本記事の冒頭でも登場し、トロッコ問題として語られることの多い状況です。事例3は5人を救うため、直接的に手を下して太った男を殺すという状況です。事例2のポイント切り替えよりも抵抗のある人が多いでしょう。

これらのトロッコ問題の事例について、倫理学だけでなく、心理学、脳科学、法学などさまざまな分野で議論が行なわれてきました。論文で発表されてから数十年が経過した今も多くの人々のあいだで議論の的となっています。

トロッコ問題がテレビやインターネットで話題に

トロッコ問題はテレビ番組で取り上げられたり、インターネットで話題になったりしたことで、世間で広く知れわたっています。なぜトロッコ問題が多くの人々の関心をとらえたのでしょうか。

テレビやインターネットの影響で知名度が上がる

トロッコ問題がメディアで取り上げられるようになった理由は、多くの人の興味を惹きつけるような話題であるためでしょう。人の命を天秤にかけてどう判断するかという難しいテーマでありながらも、場面設定がわかりやすく、「自分ならどうするか」と人々が考えたくなるような思考実験です。

これまで哲学に興味を持たなかった層にもトロッコ問題が知られるようになりました。テレビ番組に登場すると、番組の出演者のさまざまな意見が取り上げられます。そして番組を通して知った多くの人々もトロッコ問題について自ら考え、周囲の人と議論を重ねました。

ブログやSNSでトロッコ問題に関する自分の意見を投稿している人もいます。思考実験と呼ばれるものは世のなかに多くありますが、トロッコ問題は考えやすいテーマであるがゆえに、特に認知度が高いといえるでしょう。

トロッコ問題に対するさまざまな見方

トロッコ問題は、今では多くの人々に知れわたっています。しかし本来の問題の意図とは違った見方をされたり、一部で物議を醸すような出来事が起きたりしています。

とある小中学校の「心理教育プログラム」の授業でトロッコ問題の話題を出したところ、児童の保護者から学校に苦情が入り、学校側が謝罪するという出来事がありました。人の命を対象とすることから、子どもに心理的不安を与えてしまったとの判断です。

またトロッコ問題で誰も犠牲にならず、全員が助かる方法を見つけたとSNSで話題になったこともあります。トロッコの前輪が線路の切り替えポイントを通過した直後に線路を切り替えると、トロッコの後輪が左線路に入り、トロッコが横向きになるため停止するというもの。トロッコ問題の本来の意図とは異なる話になってしまうのですが、とんちの効いた解決策が多くの人の関心を集めました。

トロッコ問題と自動運転

近年ではAIや自動運転技術の発展とともに、トロッコ問題が語られるようになりました。なぜこれらの技術とトロッコ問題が結びついたのか説明します。

AIの活用に倫理上の問題が浮上

AI技術の発展により自動運転が現実的になると、自動運転車がトロッコ問題のような状況になった場合について、議論されるようになりました。自動運転車が事故に遭遇しそうな状況に陥ったとき、どのような判断を行なうようにAIをプログラミングすべきでしょうか。

法学の観点では、被害者への賠償や刑事責任などの問題に対応するため、優先順位をあらかじめ設定すべきであると考えられています。しかし現実の事故ではさまざまな状況が発生することでしょう。車の所有者、同乗者、製造者、AIについて、どう責任分担すれば良いかという課題があります。

AIは倫理的に判断できるのか、その結果により人権が侵害されることはないのか、というAI倫理の問題が懸念されるようになりました。例を挙げると、AIが起こした責任の所在がわからない、AIの出す結果に差別や偏見が含まれ人権を侵害する恐れがある、AIの考えのプロセスがブラックボックスである、といった問題です。さらにはAI自体に人権があるのかという議論も交わされていますが、まだ答えは出ていません。