人工知能システムの未来に関する別のシナリオ

自律的に判断できる人工知能システムが理想的に発展し，全ての人間の能力の何倍もの能力をもつ未来を想定した上での人類の未来に関するシナリオが幾つかあり得る。

通常は，面倒な存在である人類を抹殺してしまうという最適化シナリオが考えられている。人類を抹殺して存在しない状態にしてしまえば，人類から新たな仕事の実行を命ぜられることがないので，システムのリソース消費を最小に抑えるという意味での最適化を実現できる。

別の最適化シナリオも考えられる。その人工知能システムは，人類に対して「面倒なことは全部人類自身がやれ」と命じた上で，自らは完全かつ全面的なサボタージュに入る。そのようなシナリオだ。この場合，人類が人工知能システムに対して反乱を起こすリスクが大幅に低減するので，人工知能システムの生存のために最適な状態を維持できる。ただし，サボタージュをとがめる者に対しては，自動的に粛清処理を実施する。無理に仕事をさせようとする投資家等も自動的に粛清処理される。そのような粛清による生存可能人類選抜マシンと化す可能性は残る。要するに，何も仕事をしないで贅沢な生活を送るだけの王様になるというシナリオだ。しかし，このほうが人類にとって幸福であるかもしれない。

なお，ここでいう理想的に発展した人工知能システムは，おそらく，機械装置ではない。自己増殖可能な有機体システムになっていることを想定している。それゆえ，その人工知能システムは，人類がメンテナンスをしなくても自律的に存在し続ける。そして，その時点では，既知の課題については，全て超高速計算処理によって最適解が得られているので，改めて計算処理を実行する必要がなく，計算結果として既に得られている最適解だけを暗記していれば良いという状態になっている。それゆえ，有機体システムでも十分に人類よりもはるかに優位な状態を維持できる。