Vincent C. Müller, Risks of Artificial Intelligence

下記の書籍を購入し，全体をざっと通読した上で，主に第10章と第12章の部分を精読した。

　Vincent C. Müller (ed.)
　Risks of Artificial Intelligence
　December 10, 2015
　CRC Press
　ISBN 9781498734820
  https://www.crcpress.com/Risks-of-Artificial-Intelligence/Mller/9781498734820

現時点における論点が綺麗に整理されており，論点を知るためには良い書籍だと思う。

懐かしい書籍が何冊か引用されており，かつて人工知能研究に関与していた頃に議論したことなどを思い出した。

本書を購入する前に予想していたとおり，解決策は何も書いていない。

この問題は，人工知能だけに限定された問題ではなく，遺伝子研究や軍事目的での科学研究等を含め，およそ科学研究全体に対して直接的な影響を与えてしまうような価値判断を経ないと，解決策を出すことができないからだ。

そして，誰も「自然科学をやめてしまえ」ということができない。人工知能研究に対して批判的なホーキングでさえ，自身は自然科学者の一員なのだ。

ところで，本書においては，「複製」を意識した記述がみられる。私見では，「個人」の本質は記憶にあると考えているので，その意味では問題意識を共通にするものと言えるだろう。記憶が複製可能な場合，物理的に１個のものとして「個人」は否定されることになる。にもかかわらず複製元となった「個人」も複製された「個人」も同等に「自意識」のようなものをもつことになるだろう。それが非常に困難な問題の発生源となるだろうということは説明されなくても誰でも理解することができるだろう。

いずれにしても，「個人」や「意思」といった概念にかかわる法制度は既に崩壊したと言ってよい。それが顕在化するまでの間は現在の「法の支配」は維持できるかもしれない。しかし，誰の目にもわかるレベルで顕在化した時点で，人類の現在の文明は終了することになるのだろうと思う。

予想される未来は，家畜化ではないかと思う。

少なくとも「人間の尊厳」を証明し論証する手段が失われることになるので，人間以外の物体と人間とを分ける境界が消滅してしまうことだけは避けられない。