AIに対する人間の優位性

■シンギュラリティ（技術的特異）と人間の優位性
AI（人工知能）においてよく聞かれる言葉にシンギュラリティ（技術的特異点）というものがあります。現在の意味として使い始めたのは、レイ・カーツワイ氏です。

簡単に言うと、AIが少しでも自らを超えるAIを生み出せるようになった時に、AIの優位性が一気に発散するため、人間を超える存在になるというものです。つまり、AIが人間の脅威になりうるという考え方です。

0.9^1000 ≒ 0 ですが、　1.1^1000 ≒ ∞

ホーキング博士、イーロン・マスク氏、ビル・ゲイツ氏もシンギュラリティの考え方に同調しています。

他方、松尾豊博士は、AIが認識・運動・言語面で知能を獲得することには同意をしておりますが、AIが生命を獲得することに対しては懐疑的です。

人間 ＝ 知能＋生命
AI ＝ 知能

松尾博士がいう生命とは、進化の過程で作りこまれた人間が有する特性のようなもので、生き残ろうとすること、子孫を残そうとすること、仲間を守ろうとすることを意味しているそうです。AIは表層的にしか、これらの特性を持つことができないのではないかとの見解を示されています。

ただし、悪意を持った人間に対する警戒とその対応が必要だとも示唆されています。特定組織や特定国家が技術を独占し、悪用する可能性は否定しきれないからです。

■筆者の所感
個人的には、AIは人間を超える存在にはならないと思っています。知能は人間を形成するファクターの一因でしかなく、人間が生き抜こうとする生命力はおそらく想像以上に強いものだと思います。

人間は、生きることや子孫を残すことへの執着が強い生き物ですので、仮にシンギュラリティが起こったとしても、AIの知能が人間に害を及ぼす可能性が出てきた時点で、人間側があらゆる手段を使って機能を停止させる等の対応をするはずです。

そして、そのことに対してAIが機能停止させないように、あらゆる手段を講じるという可能性はかなり低いと思っています。なぜならば、AIには生命が持っている、生き残ろうという意志がないからです。
他方、悪意を持った人間が、人間に害を及ぼすためにAIを作ったということであれば話は別です。この場合には、人間の知能を超えるAIが人間を攻撃する可能性は十分にありえます。つまり、AIが兵器として使われてしまうというケースです。

この構図は現在行われている、国と国、組織と組織の戦争・戦いと同じです。つまり、脅威があるとすれば、AIそのものに対する脅威ではなく、あくまでもAIをデザイン・コントロールする人間です。

おそらく、人間は好奇心が強い生き物で、且つ常に進化向上しようとする意思を持っていますので、AIの発展は止めることはできないと思います。

だとすると、AIにかかわる人たち（研究者、技術者、経営者、政策立案担当者 等）は、社会上やビジネス上のメリットに目を向けることと同時に、AIを兵器や犯罪に使われるおことを防ぐ抑止力となるにはどのようにするべきなのかを常に考えておく必要があります。

[参考資料]
松尾豊. 人口知能の未来　-ディープラーニングの先にあるもの. 総務省. http://www.soumu.go.jp/main_content/000400435.pdf
Wikipedia. 技術的特異点. https://ja.wikipedia.org/wiki/%E6%8A%80%E8%A1%93%E7%9A%84%E7%89%B9%E7%95%B0%E7%82%B9
清水亮. (2016). よくわかる人工知能. KADOKAWA.