コンピュータの考えを信用できるか

数日間にわたって、人間の考え方とコンピュータの考え方（ディープラーニング）について考えてみました。「考える」を考えるという記事で、まず人間の考え方について書き、抽象化か数かという記事では、人間とコンピュータの考え方の違いについて書きました。様々な事例をもとに抽象化するのか、それとも具体例の数の多さをそのまま利用するのか。考え方を構築していく上での、こうした違いについて書きました。

数多くの事例をもとに「考え方」を構築していくディープラーニングにおいては、問題が起こったときにその原因を特定することが難しい、ということを昨日書きました。人間の学習方法を真似ているので、人間の場合と同じように、判断結果とその判断を構成した要因とのつながりは見えにくくなってしまいます。

さて、コンピュータの世界では少し前からディープラーニングが流行ってますが、こういう新しいテーマがあらわれるたびに、「人間の仕事がコンピュータやロボットに奪われる」という話が出てきます。方向性としては確かにそうでしょうが、まだまだ時間はかかるでしょう。

コンピュータの「考え方」は、上で書いた通り、ブラックボックスになっています。問題が起こっても、原因が特定しづらい。こうした状況で、コンピュータの出した答えを、ビジネスの経営者や現場の人たちが信用できるでしょうか。これがクリアできないと、創造的な仕事をコンピュータが行うのは難しい気がします。

自分たちの直感にあった答えなら、それを採用すると思います。しかし、直感的に考えて「この答えはありえない」「むしろ問題が起きる」といった場合は、どうするのでしょうか。後で振り返ってみると正しいとわかるかもしれないし、実際何かまずいことがコンピュータの中で起こっているかもしれないのですが、もし「まずいこと」が起こっていても、その特定は困難なんですよね。こうした状況で「コンピュータの出した答えを採用しない」のなら、結局人間の判断だけしか使っておらず、人間の代替にはできないことになってしまいます。

一般人からの信頼を集めるには、まだまだ時間と実績が必要ではないかと思います。