今の深層学習で、ただパラメータを増やすだけで汎用人工知能ができるとは思えない。でもどういう工夫を入れれば良いのかもよくわからない。
漫然とした思いつきとしては、まず世界モデルは重要だろうと思う。どういう動作をすれば世界がどう変わるかという理解自体が、自分の影響範囲とか、そもそも自分というものを確定するために必要かもしれない。石が勝手に坂を転がっているのか、自分が投げたことによって転がっているのか、意思の介入というのは最大限でもそういうところにしか見出だせない。
世界モデルにおける分節化をこちらでどの程度介入するべきか。カメラはピクセルごとの色味を感じているだけで、それを適当な単位でオブジェクトとみなし、それらが相互作用するというモデル化を、自然に獲得できるだろうか。
あとは行動の抽象化も必要だろう。将棋の指し手みたいに最初からクラス数が明確に決まっていることばかりではない。身体をどう動かすか、どのような発声をするか、どういう言葉を選ぶか。最初から選択肢が決められた世界ではいけない。
人間の学習のどこに先天的な仮定があるのか。ビッグデータ主義、なぁ。
