自動運転

ここにボタンがあります。あなただけが押すことができるボタンです。前からトラックが猛スピードで歩道に突っ込もうとしています。歩道には歩いてる人が5人。このまま行けば、トラックが突っ込んで5人は死んでしまいます。あなたが、このボタンを押せば、トラックの向きをかえて歩道の5人を救うことができます。しかし、トラックは向きを変えるだけなので、また別の歩道に突っ込みそこにいる別の2人が死んでしまいます。5人を救うためならば、2人の犠牲はしょうがない。あなたはボタンを押しますか?

100人の命を救うのならば、1人の犠牲はやむを得ない。果たして、そんな簡単に割り切ることができるでしょうか。その1人があなたの母親や子どもや恋人だとしても、同じことが言えるでしょうか。

http://www.gizmodo.jp/2014/05/should-your-driverless-car-kill-you-to-save-two-other.html

トラックに、たとえば、「警察が介入できるスイッチ」が実装されていたとしたら、それが「ハンドル操作のみ」であるほうがおかしい。通常は、ブレーキ(とアクセル)とハンドル、両方を操作できるようにしておくべき。理論的には、「誤った進行方向の歩道の歩行者と、正しい進行方向の横断歩道の歩行者なら、正しい進行方向を選ぶべき」ってことになるんじゃないかな?

(あ、ボタンを押さなければ青信号で横断中の10人の歩行者を跳ね飛ばし、ボタンを押すとハンドルを切ることで歩道を歩行中の3人の歩行者を跳ね飛ばす。こういう設問なら困る。ただ、自動システムとしては、「遭えて誰かを故意に害する」ルーチンを実装することは許されない予感。

Popular Scienceが、自動運転の最悪のパターンを考えています。

「車の前輪に不具合、レーンを超えて対向車線に突っ込みそうだ。しかし、自動運転は対向車線に突っこまないように反対側にハンドルをきる。ブレーキを踏む。失ったコントロールを取り戻そうと制御する自動運転。あまりの揺れに車からふり落とされそうになる運転手。つまり、あなたがお金を払って手に入れた自動運転システムは、この状況下ではあなたを殺す方がいいと判断したわけだ」

「なあ、キッド(この車のAIの愛称)、なんでこんなにノロノロ運転なんだ?」「マスター、シートベルトを装着せず、窓を開けている状態では、緊急時にマスターを振り落す可能性のある速度を出すわけにはいきません」