いろいろな事情でチームから人が少なくなっており、解体の機運。僕だってそれを目指していたところはあるんだけど、自分が寄与せず勝手にそうなってしまうと拍子抜けだ。
小説
記憶していた以上によくわからない話が多かったな。特に後半。こんな感じだったっけ。
理解できないものの中にさらに限界があるかもしれないというのは怖い。世界全体の知がどれだけ進んでも、僕自身の頭の性能で理解できるのはそのごく一部だけなのに、世界全体の知にすら限界があってどうする。その限界というのも、本質的な限界の前に言語自身の限界がありそうで困った。困るしかない。
その他
「人工知能に関するソフトウェアなどはオープンソースであるべきかどうか」という話が（主にYann LeCunを中心として）よく議論されているように見える。僕自身の立場としては、なにか明確な倫理観による判断というわけじゃなく、単に自分が利用できるものであった方が面白そうなのでオープンソースであってほしいなと思う。
悪用可能性みたいな話はまぁあるんだろうけど、いくつかの企業が技術を専有していることだって大して良くない結果に繋がりそうだ。Mataの研究チームはなんであんなに公開を頑張っているんだろう。PyTorchなどからして、研究分野にどれだけの貢献をしていることやら。
将棋を上手く指せるニューラルネットワークに言語モデル部分をくっつけて指し手の意図を話させたって、それが本当に判断の根拠と一致しているかはわからないけど、できるだけ根本の部分からくっつけるようにして、何度も確認した結果ずっと言葉の出力と指し手に一貫性があれば人間はきっとそこに関係を認めるようになっていくのだと思う。
試行回数の統計と信頼、きっとその程度のもので社会ってできているでしょう。
人工知能がちゃんと僕の持つあらゆる能力を超えて、かつコストも安くなれば、自分の労働力的価値はゼロになる。そうなれば誰も僕を手段として見ることがなくなる。その段階まで簡単に到達することはないだろうけど、僕の能力はもうピークを過ぎて基本的に下がっていくだろうし、人工知能は逆だろうから、いつか逆転の瞬間は来る。そのときを。
