トロッコ問題、ご存じでしょうか？
トロッコ問題とは、倫理学上の思考実験として知られる道徳ジレンマ課題で、「多数の命を救うために一人の命を犠牲にする判断は、道徳的に正しいのか」という問題を問うものです。
とあるところに線路を走っていたトロッコがあるとします。
しかしその途中で突然トロッコは制御不能になり、ブレーキがかからなくなってしまう。
さらに運転手が前方を確認すると、５人の作業員がこちらに気づかずに線路の上で作業しているのが見えた。→このままだと５人が轢かれてしまう。
しかし運転手は５人がいる地点よりも手前の位置に、トロッコが曲がるための分岐点があることに気づいた。そこで曲がれば前方にいた５人は助かることになる。
だが運転手は、その分岐点の先にも１人の作業員が作業していることに気づいてしまった。
つまり分岐点で曲がってしまうと前方にいた作業員５人は助かる一方で、代わりに曲がった先にいる１人はトロッコに轢かれることになる。
「このような状況の場合には、人はいったいどんな行動をとるのが正解なのか？」という問題になります。これは「ある人を助けるためにほかの人を犠牲にするのは許されるのか？」という倫理的な問題です。
そのままトロッコを進めれば５人が死んでしまうが、その５人の命を救うために別の１人の命を犠牲にしてもかまわないのか。そこが問われているわけです。
この問題は長い間多くの人の頭を悩ませてきていますが、未だに正解は決まっているわけではありません。
自分の手によって１人の命を犠牲にするという責任から逃れるために運命に従って５人を犠牲にするのか、社会的な有用性や利益だけを考え１人よりも５人を助けるべきだという考えの元１人の命を犠牲にする選択を選ぶか、もしくはほかの方法があるのか。
これに関しては議論するのはとても面白いと思いますが、今回はさらにその先の「トロッコ問題とAI」に関した記事を書いていきます。
少し脱線しますが（）トロッコ問題の回答に焦点を当てた面白い記事を見つけたのでこちらで紹介しておきます↓
トロッコ問題は現実で起こりえるのか
トロッコ問題は現実社会で起こり得ることなのでしょうか。
このトロッコ問題で問われているのは、「ある人を助けるためにほかの人を犠牲にするのは許されるか？」です。この問題には現状、唯一の答えなど存在はしていません。
今まではあくまでも議論を深めるための問題であり、結局は想像の問題でこのような場面に現実で直面することはめったにないかと思います。仮に直面してしまったとしてもそこで正確に判断する時間などないことでしょう。
ですがトロッコ問題を真剣に考える必要がないかと言えば、それは違うといいます。
実はこのトロッコ問題、そんなに現実に関係ない話でもないのです。
AIの普及や車の自動運転等に伴って、実際にトロッコ問題のような決断を迫られる可能性が出てきているといいます。
以下では現実に起こりうるトロッコ問題について解説していきます。一緒に考えていきましょう。
現実に起こりうるトロッコ問題
今もっとも考えられている問題は、自動車の自動運転に関する問題です。
現在自動車に乗る場合はもちろん人間が運転して操作していますが、いずれはAIによる自動運転によって、目的地まで自動でたどり着けるようになるだろうとされています。つまり人間は運転席に座る必要もなくなるという訳です。
車が自動で目的地まで連れていってくれるすごく便利な時代になる一方で、考えなければならない問題も山積みです。
この自動運転が実現するにあたって、トロッコ問題に正しい正解を考えなくてはいけなくなってしまったのです。
例えばトロッコ問題と同じような場面に人間が直面した場合、実際にはとっさの判断はできないと思います。思わず進行方向を変えたらその先にも人がいて間に合わずに轢いてしまうか、必死にブレーキを押しても間に合わずにそのまま轢いてしまうとか、動揺してしまいどちらの命を助けるべきかを考える時間は実際にはない事でしょう。（だから現実問題として正解を出す必要はないように思える）
しかしAIによる自動運転が普及したら状況が変わってきてしまいます。AI＝機械なので、どのような状況でもプログラムに則って一瞬のうちに正確な判断を下すことができます。つまり、このような場面に直面した場合にどちらの命を助けるべきかを、あらかじめ設計者やプログラマーが決めておかなければならないのです。（機械は瞬時に判断が下せるため現実的な問題になってくる）
自動運転に伴って発生するトロッコ問題のようなものは数多く存在します。
自動運転に伴って発生するトロッコ問題①
自動運転に伴って発生するトロッコ問題、１つ目のケース。
例えば、自動運転車が道路を進んでいたところ、後続車に追突されて猛スピードで押し出されてしまったとします。目の前には車線が２つあるがどちらにもバイクが走っていて、１人はヘルメットをかぶっているがもう１人はヘルメットをかぶっていない。「もしこの二人のどちらかには追突してしまいそうな場合、いったいどちらにハンドルを切るのが正しいのだろうか」という問題です。
当たり前ですがこのとき選ぶのは２択になります。
- ヘルメットをかぶった人に追突する
- ヘルメットをかぶっていない人に追突する
このとき人命を考えるのであればヘルメットをかぶった人に追突した方が助かる確率は高いでしょう。しかしそうすると、ルールを守ってヘルメットをかぶった人の方が危険な目に合ってしまうことになります。これでは安全対策をすればするほど、車に追突されやすくなるというおかしな事態を生んでしまいます。
自動運転に伴って発生するトロッコ問題②
自動運転に伴って発生するトロッコ問題、２つ目のケース。
こちらは自動運転車内部の人命にかかわる問題です。例えば一本の橋を渡っているときに、数人の歩行者に追突しそうになった場合、「この車はそのまま歩行者に追突するか、それともハンドルを切って自ら橋の上から落下するのかの選択肢があるとすると、いったいこのときに車はどうすればいいのか」という問題です。
このときの選択肢も２通り。
- 数人の人に追突する
- 自分ひとりが犠牲になる
単純に助かる命の数を考えると、車が端から落ちた方がいいのかなと思ってしまうかもしれませんが、、こんな状況に陥ったら自殺を選んでしまうような車にあなたなら乗ってみたいと思うでしょうか？
いざとなったら自分の命を捨ててしまうような車に、自分の命を預けたくはないはずです。
選ぶ選択は公平であってほしいと多くの人は考えている一方で、公平に判断し自殺する車には乗りたくない、そういったややこしい状況が生まれてしまうのです。
ですが結局、車を買う側の視点からすると、運転者を守る車に乗りたいと思う人の方が多いでしょうし、販売するメーカー側も、売り上げのためには運転者の安全を優先するようになっていくのではないか？と考えられていたりするみたいです。
以上紹介したようにトロッコ問題と似たような問題を、自動運転車の実現のためには考えなくてはならないのです。
自動運転実現のために行われている研究を紹介
自動運転車の実現のために、トロッコ問題と似たような問題を解決すべくとある研究が進んでいるそうなので、最後にそちらを紹介していきます。
マサチューセッツ工科大学にて、研究チームが”モラルマシン”というサイトを作り、トロッコ問題を自動車に応用した思考実験の調査が行われています。
このサイトではトロッコ問題のような状況に陥った場合、いったい人はどちらを助け、どちらを犠牲にするのかを調査するために、いくつかのシチュエーションについて人がどう判断するのかのアンケートを取っています。
実際のサイト↓
上記サイトに飛んでみると、実際に思考実験の２択に答えることができました。気になる方はぜひ回答してみてください！
例えば、車がそのまま進んでいくと障害物にあたって乗員が死んでしまうが、ハンドルを切ると歩行者が死んでしまう、という場合どちらを犠牲にするべきなのか↓
乗っているのが犬や猫で、歩行者は人だったらどうするのか↓
また、信号を守っている老人と、信号無視をする若者ではどちらを犠牲にするか↓
他にも歩行者がホームレスの場合や犯罪者の場合、金持ちの場合などなど、このサイトでは様々なシチュエーションにおいて、人がどう選択するのかのアンケートがとられおり、世界中から多くの回答が得られているといいます。
そしてこの調査によって、いろいろな傾向が見えてきているといいます。
まずは、動物よりは人間、少人数よりは多人数、高齢者よりは若者を助ける人が多いということです。
ほかにも国別に見ると、日本のように治安のよい豊かな国では、「信号無視をしている歩行者は死んでも仕方がない」という意見が多かったり、コロンビアのように貧富の差が激しい国では、ホームレスや犯罪者は見殺しにされることが多かったりと、国によっても回答に大きな違いが生まれているそうです。
自動運転にはこのように様々な倫理的な課題があって、解決に向けて議論され続けているのでした。
おわりに
最後までお読みいただきありがとうございました。今回はトロッコ問題を皮切りにAIの発達により現実にも起こりうるトロッコ問題について解説してきました。
トロッコ問題についても議論を深めていくのは楽しそうですが、それが現実味を帯びてきているため、判断を下すプログラムを組まなくてはいけないというのも難しい問題だなと思いました。
そして実際に調査を行っているサイトがあったりと、現実での解決に向けて世界中で議論され続けていることを知れてよかったと思います。
ちなみに今回の記事とはちょっと逸れますが、トロッコ問題の解決？とも取れるような面白い動画を紹介します。
これが実際にできるのなら、最適解かも（笑）
最後に良かったらこちらのリンクから飛んで回答してみてください↓
あなたは人命の数を優先するでしょうか？それとも自分の手で判断を下すことを避け運命に任せるでしょうか？
現実でもトロッコ問題に終止符を打たなくてはならない状況が近づいているのかもしれません。
この問題、登場人物の前提条件によってもどちらを選ぶのかが大きく変わってくるのが難しいところでもあり面白いところでもある。（対象が身内の人なのか他人なのか、もしくは恨んでいる人または悪人か等）
トロッコ問題奥深い。
ではまた。
コメント