ロボットは,矛盾する要求を合理的に両立させることができず判断不能状態に陥った場合・・・
下記の記事が出ている。
Will robotkind be our undoing? Ethical droids programmed to save 'humans' end up KILLING more than half of them
Daily Mail: 19 September, 2014
http://www.dailymail.co.uk/sciencetech/article-2762366/Will-robotkind-undoing-Ethical-droids-programmed-save-humans-ended-KILLING-half-them.html
ロボットに限らず,人間は,実際には常に矛盾と直面している。
例えば,「人を殺してはならない」という要求は,正しい。しかし,戦争では「人を殺さなければならない」という要求も正しい。
あるいは,「野生の動植物を保護しなければならない」という要求は正しい。しかし,生きるためには動植物を平気で殺して食べる。そうしなければ自分が死んでしまうからだ。
つまり,自己の生存権の確保が最優先なので,他の要求は全て無視される。
しかし,論理的には,矛盾は矛盾だ。
真面目に考えれば発狂するしかない。
けれども,人間には「矛盾を矛盾として感じないようにする」ための非論理性と鈍感さと曖昧さがある。
だから大半の人間は発狂しない。
しかしながら,ロボットではそういうわけにはいかない。
| 固定リンク
コメント