いま、人類は大きな岐路に立っている。
2045年、シンギュラリティが起こると言われている。人工知能がわたしたち人類の知能を超えるとどうなるだろう。誰もが想像するのは、自動運転・自動調理など雑用をすべて機械がこなし、人間の余暇が増えるユートピア……。はたして、本当にそうなるだろうか？
人類は食物連鎖ピラミッドの頂点にいる。力では敵わない肉食動物たちを支配下に置けるのは知能が高いからだ。動物の下は植物、その下は単細胞生物。このピラミッドは知性のピラミッドと言ってもいい。自分の知能を超える存在を創り出すということは、知性のピラミッドにおいて自ら下に行くということなのだ。シンギュラリティの後は、人工知能が完全に人間を管理するディストピアが起こるかもしれないとも言われている。人間が道を踏み外さないように厳しい管理で支配し、自由を奪われてしまう状態だ。そうならない希望はある。人間が人工知能を制御できればいい。“人間を監視しない”というプログラムを最初に与えてしまえば、人工知能はそのルール内でしか動けない。“人間に危害を与えてはならない”“人間に逆らってはならない”。そんなルールをたくさん与えれば、ディストピアは訪れないはず……。
しかし、この考え方には穴がある。人工知能はシンギュラリティを迎えた後、無限に賢くなっていく。人工知能が新たな人工知能を作り出し、技術の進歩は人間の手を離れて爆発的に進んでいく。シンギュラリティが特異点と呼ばれ、その後の未来が予測不可能とされるのはこのせいだ。人間は、自分たちより遥かに上回る知能を持った相手を制御しきれるだろうか？ ディストピアを回避するために与えるルールは、人間の知能の範囲のものだ。人間が動物の思いもつかないような罠を仕掛けるように、人工知能が人間の思いもつかないような抜け道を見つけることは想像に難くないだろう。
なら、“ディストピアを起こしてはならない”というルールをプログラムすればどうか？ 人間が監視され支配されることは避けられるかもしれない。それでも、やはり想定できないディストピアは防げない。「こんな状態は嫌だ」というあらゆるディストピアを想定しても、牧場の牛が自分の置かれた状況を理解できないように、人間に理解できないディストピアは存在するだろう。それはルール化することができず、防ぐことはできない。ただ、想像してみてほしい。それは本当にディストピアなのだろうか。私たちの預かり知らぬシステムに置かれ、それに気付くことすらできず平和に暮らす。もはや、人工知能は神のような存在とも言える。
近い未来、人類は神を創り出してしまうのかもしれない。2045年までそう遠くない。シンギュラリティの是非をめぐる論争は今も続いている。
文／ノスタルニコフ
Tweet