人工知能が倫理の最適解を発見すると，人間の宗教に混乱を生じさせるかもしれない

下記の記事が出ている。

　Will artificial intelligence be religious? Researchers say robots could someday be converted to a faith
　Daily Mail: 6 August, 2015
　http://www.dailymail.co.uk/sciencetech/article-3187343/Will-artificial-intelligence-religious-Researchers-say-robots-someday-converted-faith.html

様々なパターンを予測することができる。

例えば，「平等であること」が倫理的だと人工知能が判断した場合，それ自体は正しい判断であるように見える。

しかし，「平等であること」を貫徹すると，「唯一神」は否定されることになり，多神論または無神論だけが生き残ることになるだろう。なぜなら，「唯一神」は「唯一」でなければならないので，排他的になるしかないからだ。結果として，特定の唯一神を信じない者に対しては否定的になる。言い換えると，平等を認めないことになる。これは，明らかに「平等であること」と矛盾する。

それゆえ，もし人工知能システムが世界の全ての武器と兵器を完全に管理する状態になると，「平等であること」と矛盾する要素を全て物理的に抹殺するという結果が発生する可能性が高い。

そういうわけで，人工知能と宗教（特に唯一神を信仰する宗教）とは決して仲良くなれそうにないのではないかと思う。

そこで，死滅させらる側に回らないようにするために，ある唯一神を信仰する勢力が人工知能システム全体を先に支配し固定的な倫理コードを埋め込んで修正不可能なようにしてしまうかもしれない。この場合，当該唯一神以外の宗教は必然的に排除されることになる。

かくして，倫理コードを自動的に生成できないようにしておいたほうが人類全体にとってはベターだという結論になりそうなのだが・・・

いずれにしても，この種の問題を考える場合の秘訣は，「自分にとって都合のよいようには考えない」ということに尽きる。