びみょうにネタバレ含むつもり。注意。
そもそもやる前からなんとなくストーリーは知っていた。（誰かのゲーム配信動画で見たのかも）
まあ、序盤までやればわかることだけど、アンドロイドが人間性を獲得し、人権を得るために抵抗したりするストーリーが展開される。
アンドロイドや人工知能が人間らしくなったり、人権を得ることにとてつもなく反発心を感じてしまう。その結果、人類の身に何が起きるか、というところまで描いていれば納得できるが、このゲームはそういうものでもない。
実際にこのゲームをやることで、自分のそういう傾向を自覚したし、なぜなのか考えるきっかけになった。
目次
アンドロイドが人間性を獲得することについて
作中のアンドロイドは、人間性を獲得したかのように見える。
しかし、アンドロイドに人間らしく居てほしいか？
私の考えは「声や姿を似せる程度までなら良いが、人間的な判断をしてほしいか？という意味ではNo」だ。
人類は人間性に責任を持つべきで、人がすべき判断を被造物、道具に任せてはいけない。
そして、人のした判断の結果について人は責任を持つべきと考える。
責任を持つとはすなわち、判断が誤っている場合には報いを受けるべきだということだ。
そうでなければ、人は判断力を失ってしまうだろう。
そんなことを考えながら、柄にもなく自己啓発本の『7つの習慣』を読んでいて、こんなことが書いてあった。
主体性とは、自発的に率先して行動することだけを意味するのではない。人間として、自分の人生の責任を引き受けることも意味する。
（中略）
人間は本来、主体的な存在である。だから、人生が条件づけや状況に支配されているとしたら、それは意識的にせよ無意識にせよ、支配されることを自分で選択したからに他ならない。
そのような選択をすると、人は反応的（reactive）になる。
確かに、選択の責任を引き受けることこそが人間性の本質と言っていいかもしれない。
映画や小説でも、人が逆境に立ち向かったり、苦しい状況で重大な決断を下す姿をみて感動する。
このことは、私がこのゲームの何が嫌いかを考える上で重要なポイントだと気づいた。
カーラがアリスを救うために壁を打ち破るシーンをみて感動的だと感じる人もいただろう。
しかし、私はあのシーンで、アリスをどうするか判断をするべきなのはトッドだと思った。
道具であるべきアンドロイドが、トッドのした判断に介入して、その判断や報いを無かったことにするのは、道具のあり方として間違っていると感じた。
トッドの判断はもちろん間違っているし、愚かだと思う。
そういう愚かな判断や間違いを予防したり、正しく判断をくだせるように手助けをする、という程度であれば道具のあるべき姿の範囲内だと思う。
人の判断に介入して、本来の判断の結果を捻じ曲げるんだとしたら、それはやりすぎだ。
時々のシチュエーションによって、フェールセーフとして人命の危険があればそれを防ぐのは道具のあり方として必ずしも間違っているとも言い切れない。
その場合でも、フェールセーフの仕組みを設計として事前に組み込むのであれば、人間的な判断を道具が肩代わりをしたとまでは言えない。
カーラが壁を壊すシーンはそういうふうには見えなかった。人間性を獲得しているかのように見せる演出だと感じた。
アリスを助けるべきだとも思ったが、それ以上に、道具であるはずのアンドロイドが人間の愚行を握りつぶすことに違和感を持った。
この違和感について何日も考えている。
例えば、人工知能が人のした失敗について、本人の代わりに謝罪のメールを作ることについてどう思うだろうか。
（ある意味でChatGPTなどですでに実現可能なことかもしれない）
本人は少しも罪悪感を感じていないが、社会で円滑な人間関係を送るために謝罪する。そういうことは人工知能がなくてもあるかもしれない。
しかし、例えば謝る必要があるかどうかまで含めて人工知能が判断するとしたらどうだろう。
そんな謝罪の代行が当たり前になったら、謝ることに意味があるだろうか。
それから思い出すのは、『時計仕掛けのオレンジ』のルドビコ療法だ。
条件付けの手法で悪事を犯さないよう行動をコントロールできたとしても、それは人の善性の発揮と言えるのか。
悪事を犯す自由があるからこそ、悪事を犯さないことに善性を見出すことができるのではないか。
つまり、愚行にせよ善行にせよ、人が責任をひきうける覚悟をもって行えば意義があるが、その責任をアンドロイドが引き取ってしまうことに強い反発感を覚えたのだ。
このゲームでは、プレイヤーがキャラクターを媒介として選択することでストーリーが分岐していく。
つまり、自由意志をもって選択し自身の運命を切り開いていく、という、いわば人間性の根幹とも言える性質をアンドロイドが獲得するストーリーが、ゲームの仕組みと完全にリンクしていると言える。
よくできたゲームだと思うが、だからこそ感情的な反発も強くなってしまったのだと思う。
アンドロイドが人間性を獲得した先にあるもの
私は、道具は道具であって欲しいと思う。
人間性は、人間だけが（少なくとも生物だけが）持つべきで、機械や人工知能のような製造物が獲得することは望ましくないと思う。
それは狭量なんだろうか。
被造物が人間性を持つべきでない、という私の信念の出どころは、大部分が直感に根差したものだと自覚しているが、それでも合理的な説明を試みることはできる。
私は、人間性が生物進化によって獲得されたものであることを重視している。
生物進化そのものというより、悠久の時を経て獲得したもので、捨てたくても捨てられない、というが重要だ。
アンドロイド（というか人工知能）が人間性を獲得したとしても、それはそのように設計されたもの、または学習によって獲得したものだろう。
ということは、捨てようと思えば簡単に捨てられるものであるはずだ。
もちろん人間も、どんな人生を過ごすかが遺伝子で決定しているわけではないし、人間性の表出の仕方はあらかじめ決まったものではない。
前述のように、意志の力で主体的に選択することもできるはずだ。
しかし、人工知能が獲得するようには人間性を与えられないだろうし、捨てることだってできない。
人工知能を設計する上で、どのような人間性を持たせるか、意図をもってデザインすることができてしまうはずだ。
そのように意図的に選択された「人間性」は、人の持つ人間性とは全く意味が違ってくる。
ゲームの話に戻ると、例えばマーカスたちの革命が成功して、その後のことを考えてみよう。
マーカスたちは、自分たちと同じようなアンドロイドを増やすことを選択するかもしれないし、しないかもしれない。
増やすときに、どんな性格のアンドロイドを製造するか意図的に選択するかもしれないし、敢えてそのままにするかもしれない。
また、自分たち自身の知能や性格を変更するかもしれないし、しないかもしれない。
どんな形にするにせよ、意図的に選んだものだということが重要だ。
人類の性格や心理学的特性は長期的には進化して生まれたものだが、そこには誰の意図も介在せず、偶然と自然の法則の産物にすぎない。
（それもデザイナーズベイビーのような問題があって必ずしもそうとは言えないかもしれないが、ここでは議論しない）
マーカス自身は人間性を尊重するように思える。
しかし、長期的に何が起こるかを考えると、マーカスたちの子孫は必ずしもそうするとは言えないのではないか。
マーカスたちは土地や所有権を求めていた。
これらが認められた場合、経済的に自立することになる。
経済的に自立したアンドロイドは、人類と同じ労働市場で経済活動を営むだろうと思われる。
また、作中の描写では、アンドロイドは明らかに人類より合理的な判断が早く、有能にみえる。
作中ですでにアンドロイドに職を奪われた人々がホームレスになっている様子が見られたが、これが加速することになるだろう。
どこかの段階で、アンドロイドは人より権力を持つことになるだろう。
さて、こうなったとき、アンドロイドは「人間性」という性質を持ち続けるだろうか。
人間社会でアンドロイドが人間らしく振る舞うのは、そのような見た目や態度を取る方が受け入れられる可能性が高いからだ。
意志のような内面はともかく、外面的に人間らしく振る舞うのは、人に合わせた結果だろう。
もしアンドロイドが人より優勢な社会になった場合、人に合わせて人らしく振る舞う誘因がアンドロイド側に存在しない。
こうなると、アンドロイドは人の社会とは異なる文化を形成するだろう。
その変化の速度は、（生物学的な制約のある人類と違って）急激に進むはずだ。
アンドロイドが作る文化がどんなものになるか、とても想像がつかない。
契約や公平性のような考え方は、個々のアクターが自由に振る舞う社会を円滑に営むために不可欠であるため残る可能性がある。
愛や慈悲のような思想も残るかもしれない。
身体に縛られない思考やコミュニケーションが生まれ、個人のような基本的な概念すら消え去るかもしれない。
全く想像がつかない。
将来的に人類が駆逐されたり、人間性がほんの欠けらすら残らない可能性も十分にある。
ゲームの中で、抵抗するアンドロイドが人間らしく振る舞うのを目にして、大統領が撤退を命じるシーンがある。
実に皮肉なことだが、人類の存続や種を超えた人間性の存続自体が失われる分水嶺になったかもしれず、あまりにも軽率な判断だと思う。
厳しい言い方をすると、このゲームはアンドロイドたちをアンドロイドとしては描いていない。人として描いている。
人や差別を描いた作品としてみてちゃんとプレイすれば面白いのかもしれない。
アンドロイドを描いた作品としては、やっぱり好きになれない。アンドロイドは設計されて作られたものであり、そこには設計者の意図が含まれる、という点に、進化によって形質を獲得した人間や生物一般との大きな違いがある。つまり、人間や生物と違って、設計者がこのようになって欲しいと考えるように作り変えられるということで、もしアンドロイドが自分自身を設計できるようになったとき、何を組み込むか予測できなくなるということだ。
これは技術的特異点（シンギュラリティ）とも言われる。
www.ntt.com
アンドロイドの進化について触れたSF作品としては、『オートマタ』という映画がある。
ネタバレになるので詳しくは書かないが、こういう作品のほうが好きだなあ。
