HPO機密日誌

自己をならふといふは、自己をわするるなり。

演繹と帰納、あるいは人工知能はヒューマンエラーの夢を見れるか?

先日、自分の昔の研究室に行って先生、先輩や、後輩達と親しく語らう機会があった。認知心理学の関係の研究室であったので、自然話は人工知能関連に。関連する研究をされている先生によると自動運転ひとつとっても、どれだけ人工知能がうまく運転できても許可されない恐れがあると。それは、見た目人間にはできないほどの運転を人工知能が見せたとしても、それが人間と同じ動機や、仕組みで動いているかは保証できない。運転のうまさ、囲碁の新戦略などパフォーマンスの高さも人間にはまねできないレベルに言ってしまっているが、同時にミスを犯す場合も人間には予測できないということになる。従って、人工知能研究に、心理学サイドから提言できることは、人間らしいエラーとはなにかを明示し、人工知能もエラーをするなら「人間らしい」エラーを犯すように学習や、知能の構造化を促すことがある。

また、現在の人工知能は基本ニューラルネットワークの発展型であるので、何がどのように学習されているのかは、人間にはわからない。アルファゴーが人間の棋士を打ち負かしたとは言え、アルファゴーの知能ネットワークのどこにその知見が蓄積されているのか分析できていない。人間、いや生物の自然なニューラルネットワークすら、完全には知能のサイドから分析できているわけではないので、当たり前ではあるのだが、これもまたブラックボックスのままとなってしまう。

逆に言えば、人工知能の実現を通して、初めて西欧科学は帰納的手法を定式化できたのだとも言える。論理学、数学に代表されるように、すくなくともツール、手法としては演繹しか科学は仕組みを持っていなかった。人工知能、ネットワークのシミュレーションとは学習という帰納による発見の瞬間を人工的に生み出すことができたのだと胸をはれる成果ではある。ただ、この発見の瞬間になにが起こっているのかは、誰にもわかっていないとは言っておこう。

予測としては、人工知能ニューラルネットワークにおいてもいずれかの分析によりネットワークのべき分布が確認されるのだと私は想う。知能の本質、生物の本質はネットワークであるのだから。

hpo.hatenablog.com

hidekih.cocolog-nifty.com

更に言えば、自己組織化現象、ネットワークにおけるカオス的ふるまい、ゆらぎが観測されるのだと私は想う。人と人工知能が限りなく近づいて行くには、まだまだ超えなければいけないハードルがある。