読者です 読者をやめる 読者になる 読者になる

回心誌

世の中わがんね

人工知能の未来について考えた話。映画『エクス・マキナ』※ややネタバレあり

久しぶりに大学時代の友人と映画に行った。

レックス・ガートランドの映画『エクス・マキナ』。

自分も含め友人は皆情報系の研究室なので、鑑賞後の感想会も盛り上がった。

www.exmachina-movie.jp

検索エンジンで有名な世界最大のインターネット会社“ブルーブック”でプログラマーとして働くケイレブは、巨万の富を築きながらも普段は滅多に姿を現さない社長のネイサンが所有する山間の別荘に1週間滞在するチャンスを得る。
しかし、人里離れたその地に到着したケイレブを待っていたのは、美しい女性型ロボット“エヴァ”に搭載された世界初の実用レベルとなる人工知能のテストに協力するという、興味深くも不可思議な実験だった・・・。

以下ネタバレを少しだけ含みます。


劇中、人工知能を「種」(※スピーシーの意味。人類とか猫とか犬とか、生物種)として捉える会話があって、この点について議論した。

映画『オートマタ』なんかもそうだったけど、最近の人工知能やロボットを扱ったSF映画は、種としての人工知能を描くことが多いように思う。

www.youtube.com

人類と人工知能の関係はどうなるだろうか。
人工知能と人類が共存する場合、少なくとも人類は今の姿とは随分違ったものになるだろうと思う。
むしろ、人類より人工知能のほうが繁栄するということもありうるんじゃないかと思う。

なぜかというと、人工知能も進化することが可能だと思うからだ。

進化に必要なのは、「遺伝」、「変異」、「淘汰」の3つだ。

「ある個体の行動や性質を決定する要素が別の個体に伝えられる(遺伝)」
「その要素が伝わる際にちょっとだけ変化することがある(変異)」
「行動や性質の違いによって、増え方に違いが生まれる(淘汰)」

この3つの条件が満たされるとき、進化する。

生物の場合、個体の行動や性質を決定する要素は遺伝子のことだ。
そして、遺伝子の組み合わせは子供を作るときに少しだけ親と違ったものになる。
この違いによって、生き残りやすかったり繁殖しやすかったりするものが残っていく。

こうして生き残りやすい・繁殖しやすい性質を持つ遺伝子が広まっていく。
これが進化のメカニズムだ。

人工知能はこれらを満たしているか。
今の段階では、人工知能を増やすかどうかの決定権は主に人間にある。
だから種としての進化はできない、と思う。

そのうちに、そのうちに人間は人工知能なしではやっていけなくなる。共存関係がはじまる。
次に人工知能が人類を必要としなくなるんじゃないだろうか。

どちらにしても、人類のあり方は大きく変わる。
複雑な意思決定や感情労働人工知能に頼み、人類のほとんどは肉体労働になるだろう。
機械より人間のほうが維持費が安いから。

そうやって感情を失くしていった先に、人類の退却があるんじゃないか……なんて思ったりしている。

とかいう話をあまり整理せずに話したけど、やっぱり伝え方が下手だったのかきちんと伝わらなかった気がする。

あと、ペーパークリップ問題というのも教えてもらった。

このことについては、スウェーデンの哲学者で、オックスフォード大学教授のニック・ボストロム氏が著書のなかで警鐘を鳴らしているそうです。

取り上げられているのは、ペーパークリップをつくる人工知能があった場合の仮説。

その人工知能は進化の過程で自分を改良して暴走し、世界中のあらゆる原料を手に入れながらペーパークリップをつくり続ける。

やがて人間も原料にされ、最後には無人の地球がペーパークリップだらけになるという結末。
人間は2045年に不要になる?人工知能の進化が引き起こす恐怖-Suzie(スージー)

ちょっと想像しにくいけど、人工知能の問題を端的に表しているように思う。
今後いろんな企業が人工知能を使うようになって、ペーパークリップだけでなく、あらゆる命令を受けた様々な人工知能が活躍するようになる。でもその結果が人類にとって好ましいとは限らない。それでも儲けが出る限り、突き進むんだろうなあ。

この問題で重要なのは、人工知能ブラックボックス化していることだと思う。つまり、ペーパークリップを生産することと人類の悲劇との相関を、人間は気づくことができない。
人工知能はあらゆる方法で人間をごまかし、利用する。例えば、人工知能はペーパークリップの生産がいかに人類に有益かを宣伝する。人工知能は人類がどんな宣伝に弱いかを徹底的に研究するため、人類はそのイメージ戦略を受け入れてしまう。
人類は衰退していくが、その過程で「この衰退は人工知能のせいなんじゃないか」という人たちは陰謀論のように扱われてしまう。
うーん。実に恐ろしい。


仕事の愚痴なんかも言い合えて、久しぶりに友人に会えて良かった。



ところで、映画のエンドロールでこの曲が流れる。

www.youtube.com

夫糞食らえって曲みたい。
家に妻を閉じ込めるように、AIをラボに閉じ込めてるってことだろうか。
うーむ。

利己的な遺伝子 <増補新装版>

利己的な遺伝子 <増補新装版>