アルゴリズムはどれほど人を支配しているのか？ を読んで

近年の情報最適化の波から人工知能やシンギュラリティの議論の中で、AI（技術）対人間という構図が良く語られれているが、実際のところはよくわかっていないのが現実ではないのか。

フィルターバブルをはじめとして、知らず知らずのうちに、自分たちが情報に操られていると聞くと、なんとなく不安だとか、恐ろしいといったイメージが、われわれの想像力を喚起して、必要以上にそうした情報を過大評価している懸念も大きい。

本書は数学者の立場から、アルゴリズムにできることとできないこと、これからのAIの発展といったものを見通す内容となっている。

結局のところ、アルゴリズムはあくまでもアルゴリズムであって、それ以上でもそれ以下でもないということだろう。

数字のマジックにわれわれは簡単に騙されやすい。それは、数字が客観的で正確で、誤りなく現実を映し出す鏡だとわれわれが妄信しているからだ。

しかし、数字自体は客観的なものでも、その本質を見誤ると、適切な意味解釈が成り立たないことには気づきにくい。

０か１かのデジタル情報は、白黒明確な二分法を見えるが、実際の情報はグラデーションのある確率分布だ。確率的に起こりやすい事象を示すと100分率で示すだけで、そうでない可能性を棄却するものではない。

しかし私たちはそれを勝手にわかりやすく切り捨てて解釈する。だから低確率の事象が起これば、アルゴリズムが間違っているものだと解釈することになる。

心のないテクノロジーこそ正確だと思いがちだが、むしろ心ある人間のほうが、微妙な状況の機微を織り込んで判断できる分、正確な予測ができるということを見落としがちだ。

こうした技術信奉が進めば、人工知能がシンギュラリティでわれわれ人間を支配するというもっともらしいシナリオに安易に飛びつきやすい状況を生み出すことになる。

もちろん、技術の進歩によって、人間にはできなかった高速のデータ処理は可能になるだろう。しかし、アルゴリズムにはアルゴリズムの優位と限界があるわけで、それを見誤ると結論を違えることになる。

本文に出てくる「人工知能ではなく広告知能」という表現は良い得て妙だ。

データを収集し利用するという点で、われわれにパワーが移管されたのではなく、特定の、そうしたデータを占有する企業にパワーが集約されただけではないのか。

アルゴリズムは無前提に民主化を推し進めるツールなのではなく、データを用いてわれわれを欺くツールにもなりうる。

本書の分析では、フェイクニュースをはじめ、データを詐称することによる実際的な影響は思いのほか小さいことが示されている。その意味では、まだまだ人間の洞察力のほうが機械を上回っているといっていいのだろう。

ただし、無自覚にそうした情報にさらされ続けていけば、とくに多様性を担保する以上に心地よい情報だけに身を任せてしまうなら、バイアスはどんどん強化されていく。

便利なアルゴリズムにさらされる環境が整ってきているからこそ、アルゴリズムの特性、アルゴリズムには何ができて、何ができないのか、そういった前提条件への配慮がいっそう欠かせなくなってくる。