データ作成とかちょこちょこやっていた。
読書
TransformerがIn-Context学習をできているというのは確かにもっと注目するべきなのかもしれない。今まで強化学習でやっていたようなことの一部は、Transformerに過去の試行とその結果をそのまま渡すだけで良いのかもしれないとは感じる。つまりはだいたいDecision Transformerなのかもしれないが。
Attention部分が短期記憶、MLP部分が長期記憶的な働きをしているのではないかというところは面白かった。Transformerの構造が強いことは認めざるを得ない。強化学習もDecision Transformerあたりで張り合えるようだし、系列モデリング重視の考え方をしていくべきなんだろう。
社会影響については、筆者はやや楽観的な立場ではあるのかなと感じた。LLMがずっと道具としてあり続けていくのかよくわからない。僕はもっといろいろ起こるのではないかと思う。起こってほしいと思っている。
その他
LLM（GPT-3.5）を使って運転判断をさせようという論文も出てきている。なにもリスクがなければ僕もこの方針を試してみたいところではあるけれど、実際は面倒が多くてやれるかどうかはわからない。
arXivで面白い論文が出ていないか、願うような気分で日々チェックしている。信仰の作法として習慣にまでしたい。これだけが僕の支えであって良い。真面目じゃなくて敬虔を目指す。
