叛乱する人工知能が氾濫する

「先生，人工知能を作ったら，やがてその人工知能が 人間に反乱するんじゃないですか？」

うーん，たぶん私が生きている間にはそのような人工知能は開発されないでしょう．

いや，そういう問題じゃなくて，質問は人工知能は人間に反乱出来るのかどうかですね．

コンピュータのプログラムは本来，人間が作ったものですから，人間に反乱しないようにプログラミングしておけばいいのです．しかし近年の複雑なソフトウェアは，人間の意図しない動きをするのも事実です．これはバグによるものですが，あまりにも複雑すぎて，バグがどこにあるかわからないのですよねぇ．Windowsにおける機器の相性（ある装置と別の装置を同時に使おうとすると調子が悪くなるなど）というのは，デジタルのはずのコンピュータが，あまりにも複雑になりすぎて，アナログ的動作をするという例でしょう．

ところで，人工知能が反乱するのは西洋の小説や映画に多いのをご存知ですか？ 西洋の人達には昔から「創造された者が創造者に反乱する」という恐怖感が根付いているのです．これはフランケンシュタイン・コンプレックスと呼ばれるものですが，歴史的にはギリシャ神話にまでさかのぼります．個人的な見解ですが，これはもしかしたら狩猟民族に特徴的な考え方なのではないでしょうか．

狩猟民族のリーダーは，力があって多くの獲物を捉えることができる者です．故にリーダーは，やがてその息子にリーダーの座を奪われてしまう宿命にあるのです．自分が力を使ってリーダーになったのにも関わらず，力によってリーダーの座を奪われることは，リーダーにとって恐怖でしかありません．その恐怖が人工知能を扱う小説や映画によくでてくるのではないでしょうか．ハリウッド映画などはその典型ですね．

一方，農耕民族のリーダーは，長い経験と豊富な知識を持つ者です．冷害が起きたらどうすればいいのか，害虫が発生した時にどうすればいいのか知っている村の長老こそがリーダーなのです．よって年功序列，力が衰えても年寄りは敬われるのです．良くも悪くも日本の社会をよく表していると思いませんか．（個人的感想です．）

近年，AI技術が急速に進歩したことにより，人工知能の叛乱を本気で恐れる人たちが声を上げ始めていますね．

私はまだまだ叛乱できるほどのAIは作れないと思います．期待はずれすぎて叛乱しているようにも見えますけど．

まあとりあえず今の時点では，叛乱出来るかどうかは別として，意思が持てるほど高度な人工知能の開発を目指してみましょうよ．

そうそう，社会に浸透した人工知能が叛乱できるかどうか，実験により確かめるという小説があります．J.P.ホーガンの「未来の2つの顔」というかなり昔の小説です．物語は，コロニー（人が住む宇宙植民地）のインフラを制御する人工知能を開発し，そこに刺激を加えて叛乱するように仕向けるという壮大なシミュレーションを扱っています．小説の中ではコンピュータの学習の速度が異常に早く，人々の期待を常に裏切り続けます．少し古い小説のため，現在の技術とは違うものが書かれていますが，その他は楽しく読めますよ．

いや，これは読むべきです．

って，あれれ，これ，amazonで検索したら小説ではなくてマンガになっているよ．マンガでもいいから読んでみてください．飯塚研究室に本があるので，貸し出しますよ．

追記：マンガも個人的に買いました．これも貸し出します．

（J.P.ホーガンの小説を読むのは理系大学生のたしなみだったはずなのに，最近は誰も読まなくなって悲しいです．）