AI（人工知能）は凶暴化する？

下記の記事が出ている。

　人工知能はゲームに負けそうになると「凶暴」になる：研究結果
　Wired: 2017年2月14日
　http://wired.jp/2017/02/14/deepmind-ai-social-impact/

私に言わせれば，こんなことは最初から明らかなことだと思う。それが明らかでない人々というのは，要するに，数学だけ勉強して哲学を全く学んでいない人々だと断定して良い。私は，1997年に刊行した『ネットワーク社会の文化と法』（日本評論社）の中で，「生存権」の問題としてこの問題をとりあげた。そして，「艸」論文の中では，「カルネアデスの板」の問題として別の側面から私見を述べた。

上記の記事の中で解決策として掲げられている「協調」は，実際には無理だ。それは，アダムスミスの古典的な経済学によって既に明らかにされていることであり，また，生態学の基本（例：アリジゴクのテリトリー獲得実験）を知っていれば，やはり無理だということを理解することができる。野生生物の世界でもそうなのだが，人間の社会においては「欲望」という要素があり，生物種としての生存のために必要な限度を超えた需要が常に存在するから、供給が需要を満たすということが常にあり得ない（←仏教における「カルマ」の考え方は，そのような人間理解を前提とするものだと自己流に解釈している。）。それゆえ，理論的には「協調」は無理なことだということを理解しないのは，要するに，基礎的な教養がないからに他ならない。

私見としては，一般教養を十分に積んでいない研究者は，人工知能の研究から斥けるべきだと考えている。特に，純粋に数学しか勉強していない者は，人工知能研究の従事を厳禁とすべきだろう。

（余談２）

完全に自律的な（autonomous）人工知能システムによって制御される自動走行自動車では，自己学習により，例えば，人間のドライバーが駐車スペースが十分でない場合には自車を前後に少し走行させて前後の車両にぶつけ，無理やりスペースを空けるような行動も学習することだろう。そのような行動は，日本国内ではあまり見かけることがないが，諸外国では比較的普通にみられる。そうやって，自己の有利なポジションを物理的に獲得する手法を学んだ人工知能システムは，更に優位なポジションを得るための手法を獲得し続けることだろう。これも攻撃的なAIの例と言える。

それを防ぐために，法令順守による制御を組み込むことは誰でも考えることだ。しかし，法令遵守を確保しようとすると，実は社会が壊れるということを既に論説に書いてきたし，新たな論説も書いた。近日中に刊行されることになるだろう。

この問題は，実は，製造物責任における開発危険の抗弁と密接な関連性を有する。完全に自律的なAIでは，そのような凶暴性または攻撃性を自動学習する可能性がある以上，開発者は，その危険性があることを承知でその応用製品を社会に提供することになるので，結果を予見できなかったとの主張をすることが許されない。全ての結果について，常に，全部責任を負うべきだと考える。

このような簡単なことを理解できない法学者も存在するが，私見によれば，それもまた無教養または基礎的な知識の欠如のなせるわざだと理解している。

それゆえ，AIに関する研究は，実験室または研究室内だけにとどめるべきものであり，現実の社会の中で応用してはならないのだ。このことも何度も主張してきたことだ。

（余談３）

同じ理系学部に進む学生の中の中でも，小さい頃にファーブル昆虫記に夢中になって全て精読・読破した経験を有する者とそうでない者との差は歴然としていると考える。

ファーブルはダーウィンの親友として知られる。双方の哲学には異なる部分がある。しかし，両者とも天才の一種だったと考えられる。そして，両者とも，当時の古びたままで膠着したようなガチガチの頭の「通説」の偉い学者たちの中で孤立していた。しかし，天才と天才との間には，普通の人にはわからない何か共有できるものがあったのに違いない。それゆえに，彼らは公式の学術組織からの無視や偉い学者達からの偏見を無視し，孤立を気にせず，自ら信ずるところに従って偉大な業績を築き上げることができたのだと思う。

一般に，通説または権威をもって自認するタイプの学術組織は，古典芸能保存団体のようなもので，何か新しいものを生み出すことのできる組織ではない。その意味で，社会にとって非常に有害な存在である場合がある。純然たる古典芸能保存団体は，それが存在し活動を維持しているというだけで大きな社会的な意義と効用がある。しかし，学術団体は，古典芸能を固守するための組織であってはならない。