前から思っていたんだけど、ディープラーニングとかビッグデータとか、まあ要するに人工知能的なものの何が怖いって、なぜそう判断したのか説明できないところにあると思う。
私は情報系の端っこの分野で研究していて、この手の話に興味はあるが全体的に聞きかじりの話になる。
もし間違ってるということがあればぜひ指摘してほしい。
例えばコンピュータ将棋でプロ棋士が負けたりして話題になったけど、過去の棋譜データを大量に学習させて、何台もコンピュータ並列して計算させたら、そりゃ羽生だろうと勝てるわけがないと思う。一手一手に勝つための意味があって、それで勝つんだろうけど、じゃあなぜその一手なのかってのは人間には到底分かりようがない。
もちろん人工知能を解析して人間が分かるように説明する研究は今もされているし今後も発展するだろうけど、費用対効果で考えると、人工知能は全体として「なぜか分からんがうまくいくからそれでいいじゃん」という方向で進歩するような気がしている。そのほうが儲かるから。
でも、それでうまくいくからいいのでは？ うーん。お金を持っている企業はどんどん人工知能に投資して、どんどん儲ける。「うまくいく」というのはその企業にとってうまくいくということであって、必ずしも社会全体にとって良いというわけじゃないんじゃないだろうか。
例えば、合理的に判断した結果、女性は離職しやすいため雇わないほうがいい、という判断はありうる。こうした判断は、女性をさらに離職しやすくするため、差別だと言える。これを統計的差別というらしい。
これが差別であるとして、そのような合理的かつ差別的な判断を人工知能が下した場合、その差別を解決できるだろうか。そもそも差別があることすら気づくのが難しいのではないだろうか。
人「なぜAさん（女性）でなくBさん（男性）を選んだの？」
AI「うーん……なんとなく。むにゃむにゃ」
人「ふーん……。ま、いっか。AIに任せると業績も良くなるし！」
↓
女性が雇われることが減り、女性にとって働きやすい職場も減る。
ますます女性は離職するようになり、働くための学習や訓練を行わなくなる……
こういう社会的な問題を解決するには、法律でなんとかするしかない。そのためには人々が問題を認識し理解する必要が有る。でも、人工知能が判断していた場合、それはすごく難しくなるんじゃないだろうか。
