最強だった将棋プログラムを作られた山本一成さんのツイットに目が引き寄せられた。
人工知能はいまのところ論理的な思考はほとんどできない、むしろ所謂「直感」のほうを得意としているという話、あまり納得されてない。確かにコンピュータは論理的に動いている、でもそれはハード・ソフトウェアエンジニアが一生懸命作った論理であったコンピュータが発案した論理ではない。
— 山本一成🌤️Ponanza (@issei_y) 2018年5月11日
ちょうど、複数枚に別れた図面をAIで読み込んで立体物として再構成できるかという話しを考えていた。現在のニューラルネットワーク、機械学習を使えば図面のスケールや言葉も読めるようになるし、線分で描かれた対象も正しく認識できるようになるだろう。しかし、それらの数、言葉、線分が最終的に構成する「もの」の概念をニューラルネットワーク側が持たなければ正しく構成できないだろうと。
機械学習側でも、アプリオリなモデル構成の試みがあるようなので、そのうち可能にはなるのだろうとは思う。一枚一枚の図面の読み取りから、カプセル化された概念、モデルに辿りつきうるのではないかと。
しかし、現在のニューラルネットワーク／機械学習ではそもそも文字や、数字の読み取りにどのように「概念化」、「論理化」されているか不明なまま成長をつづけている。したがって、モデル化された「概念」をどう「カプセル化」したらいいのか人類はまだそこまでの叡智に到達していない。つまりは、現在人工知能と呼ばれるニューラルネットワーク／機械学習が人間と同じ概念、論理を持っているか保証されていない。平面図から立体を構成するにも、立体の概念を教えて挙げられない。*1
この恐ろしい事実を山本さんは、ごく簡単な論理ゲームから立証してくださっている。
10行にも満たない論理的なプログラムをDeep Learningで実現しようとするとすごい大変になる。https://t.co/0GmWgeVfXP
— 山本一成🌤️Ponanza (@issei_y) 2018年5月11日
更にそこから連想が進み、昔々、NHKでホッケ柱について見たことを思い出した。その時に、自分とはホッケ柱にすぎないのかと強く思った。
昨日放送のＮＨＫ番組「ワンダー×ワンダー」は、「北の海 驚異のホッケ柱」だった。ほっけ柱とは、数万引きのほっけが巨大な柱を作る珍現象のことで、柱の中心には渦ができ、餌となるプランクトンが海中に吸い込まれている。
(中略)
高度な機能を持つホッケ柱ですが、実は簡単な原理で再現できるはずだといいます。その原理とは。まず群れの行動に①同じ方向へ向かう②お互いにぶつからないように泳ぐ条件を摘要すると整然と群れが泳いで、方向転換も一糸乱れず綺麗に行動するようになる。ここで、③餌を食べる条件を加えると一手に集中して、ボールのようになり柱はできない。そこで、④一定時間餌を食べて満足した魚は下に行く条件を加えると、円柱の柱ができる。
ホッケ柱と共生 - 熊野田舎暮らし
「私」自身でさえ自分の神経単位がどのように発火し、どのように組み合わさり、概念や、論理を構成しているかわかっていない。自分が「赤」と呼ぶ減少が自分と他人と同じ神経刺激、ニューロンのネットワークになっているかは保証されていない。人の記憶や、論理などはかないもの。「私」の実態とはニューラルネットワークのパターンにすぎないとなる。
ああ、そっか、人間もニューラルネットワーク／機械学習の結果にすぎないのだと。私という主体が存在するように便宜的に私達は思い込んでいるが、そこに私などはない。ニューラルネットワークの刺激と反応のネットワークパターンがあるだけだ。逆に言えば、知識的な記憶がかなりの部分アルツハイマーなどにより失われたとしても、ニューラルネットワークのパターンとしての私は残りうるのだという希望の話しにもなる。
「私」という意識のつながりと、発話したり、手を動かしたりする身体全体の行動とが本来一致するわけはないのだ。「私」以前に身体全体のエージェントが共同作業で動いていて、意識に自分が決定していうと思わせるとより先に、手や足や声帯に指令を送っているのでないとタイミングが合わない。いわば、「私」という意識は、事後連絡しかいかない会社組織の「社長」と同じなのだと、彼は言って笑った。
意識は言語とともにあり、言語は人とともにある - HPO機密日誌
ここが人間の考える論理、コンピュータープログラムと、創発的知性、ニューラルネットワークの違いであるとおぼろげに気づいた。
*1:一晩考えたが、一枚一枚の図面をニューラルネットワークの手法で読み取り、そこから先はなんらかの「普通」のプログラムを組んで立体構成すればいいのだという当たり前の結論に達した。まあ、私はこの機能を作る側ではなく使う側なので無問題ではあるが。
