アルゴリズムと偏見2017/10/16（月）

Yahoo! ニュースの記事に、「機械による偏見」を取り扱った記事が出ていました。

Yahoo!に書きました。人間ではなく機械の偏見によって引き起こされる問題について書いています。 / “フェイクニュースより恐ろしい、アルゴリズムの「偏見」とは何か？(塚越健司) - 個人 - Yahoo!ニュース” https://t.co/xpfro6kPLZ

— 塚越健司 (@KenjiTsukagoshi) 2017年10月13日

数学やプログラミングに詳しくない人には、「アルゴリズム」という概念がわかりにくいかもしれません。この場合は、コンピュータが大量のデータを処理することで、意味ある結論を導き出すための「手順」のことを言っています。古典的なプログラミングでは、「手順」をすべて人間が書き出して、データの処理を行っていました。最近は、データがあまりにも巨大で相関関係が複雑化しているため、「手順」自体をコンピュータが探索するような方式が取り入れられているようです。「手順を決める手順」「手順を決める手順を決める手順」等々、処理がどんどん階層化している、というイメージです。

こうなると、どういう手順で結果が得られたのか、一般人には想像がつかない、という事態が起きてきます。実際、囲碁や将棋のプログラムは最近急速に強くなってきましたが、「なぜその手を打った（指した）」のか、もはや誰にも（プログラムを作った人ですら）説明できないところまで来ているようです。

囲碁や将棋のアルゴリズムであれば、判断を下した基準が理解できなくても、一般人には実害はありません。しかし、現代の社会では、巨大なデータをアルゴリズムで処理した結果が、日常生活に影響を与え始めています。Google の検索結果の順序も、ネット通販の「おすすめ」も、何かのアルゴリズムで決定したものが提供されているわけです。その決定の基準が、誰にもわからないものになっているとしたら、どうでしょうか。

この問題には、二つのとらえ方があります。一つは、プログラマーを含めて誰にもわからない基準で、物事が決定されていく、という危険性です。もう一つは、特定の企業が、人々を特定の方向に誘導する意図を持って、特定のアルゴリズムを広く配布する危険性です。一つ目は、「人工知能に人類が支配される」というディストピア思想に通じるものですが、「そんな大げさな」と拒否感を示す人もあるでしょう。しかし、二つ目については、「それは困る」と感じる人が多いのではないでしょうか。

実際に起きることは、おそらくこれらの中間です。つまり、「特定の方向に誘導する強い意図を持っているわけではないが、結果として偏った情報を与えるアルゴリズムを広く配布する」ということが起きます。上記記事に紹介されている「犯罪予測」のプログラムなどは、その典型例だと思われます。（もしこれが上記の二番目のケース、つまり「黒人の犯罪率が高い」ということを明示的にプログラムに組み込んでいたとしたら、本当に救いがありませんが、そこまでタチの悪い話ではないと信じたい。）

アルゴリズムの透明性確保や検査制度については、上記記事で述べられている通りですが、一般人の立場では、どのように対処していけばよいのでしょうか。まずやるべきことは、私たちの心のどこかにある「コンピュータがうまくやって出してくれた答えなんだから、きっと正しいに違いない」という思い込みを、排除することです。「Google検索で上位に来た記事だから、重要に違いない」というのはダメで、なぜそれを重要と思うのか、自分で説明できないといけない。Googleが上位にしている理由などわからなくても、「自分にとってなぜ重要なのか」はわかるはずだし、わからないと困ります。それが「主体的にものを考える」ということにつながります。

世の中は、「考えなくても済む」方向にどんどん動いています。考えないほうがラクだから、ついその流れに乗ってしまう人が多いのです。結局、そういう人は食い物にされるんですよ。きちんと自分の頭で考えて、「精神の自由」を確保しましょう。