東京工科大学 メディア学部 ブログ

メディア学部の大淵です。

大学院の「先端音声処理特論」では、機械学習を使った音声処理の講義をしています。機械学習といえば、最近話題になっている人工知能の中核となる部分ですね。そこでこんな問題を考えてみましょう。

オオブチ教授は、「人間の声を聞いただけで、その人が沖縄県出身かどうかを当てることができる」ような人工知能を開発することにした。機械学習のプログラムを用意し、自分が勤務する大学の学生1,000人を無作為に抽出、沖縄県出身かどうかを確認したうえで声を録音させてもらい、そのデータを機械学習にかけて人工知能を作り上げた。どれくらいの性能のものができたかを確かめるため、さらに1,000人の学生を無作為に抽出してデータを集め、評価実験をしてみたところ、正解率99.6%という高い性能が得られた。オオブチ教授は「よし」と呟き、さっそく論文の執筆に取り掛かった…

問題設定などは変えてありますが、これは実話に基づくストーリーです。そしてその後、オオブチ教授は大失敗に気付くことになるのです。

「さてさて、論文を書くからには、もう少し詳しくデータを見てみよう」そう言ってオオブチ教授は評価実験の結果を詳しく見てみた。すると驚いたことに、人工知能は1000人の学生全員に対して「沖縄県出身ではない」という判定を下していたのだ。評価実験を行った1,000人の中には沖縄県出身者が4人しかいなかったため、996人が正解、4人が不正解で、正解率99.6%という当たり前の結果が得られていた。

要するに、機械学習に使ったデータの大半が「沖縄県出身ではない」というものだったので、声の性質を詳しく見て判別するよりも、一律で「沖縄県出身ではない」と答えた方が得策だと、人工知能が学習してしまったというわけです。そんなシステムを作っても何の意味もないということは、人間ならすぐにわかりますが、人工知能はそんなことは気にせず、ただひたすらに正解率が高くなる方式を学習したのでした。

「だから人工知能は一般常識を持てないのだ」と言い切ってしまうのは早計です。この例では「正解率」を適切に指示してあげなかったことが問題でした。例えば「沖縄県出身者を正しく見つける率」をもっと重視するように指示をすれば、まともな学習ができていたはずです。どういう正解率を用いるべきか、言い換えると、どういう価値観で学習を進めるかは、人間が決めなければなりません。その価値観のことを、我々は「一般常識」と呼んでいるのです。適切な価値観を与えれば、人工知能はちゃんと学習してくれます。ちなみにその後のオオブチ教授は、条件を変えて実験をやり直し、無事論文を書き上げることができたのでした。めでたしめでたし。