近況報告的なやつ

今週はとても疲れた。

仕事が忙しかった、いくつかの心労が重なった、いくつか意思決定をした。毎日家に帰っても業務をし、業務以外のこと*1もなんとかこなした。とてもしんどい1週間だった。

なんとか生き延びて、12月になった。そう、気がついたらもう12月である。

やがて君になる

『やがて君になる』の最新巻（最終巻）が発売になった。

やがて君になる(8) (電撃コミックスNEXT)

もう言いたいことは特にないので紹介に留める。ただ何度も言うように、自分が自分であること、そして自分が自分でしかないことを僕が初めて受け入れるきっかけになったマンガである。それで自分の行動がどう変わったのか、みたいな話は今度公開する記事に書く。

blog.515hikaru.net

文章生成

最近なぜか文章の自動生成をするプログラムを書いていた。Encoder Decoder モデルを使ってどうこうするアレである。

例えば、下記のような記事がとても参考になった。

www.pytry3g.com

上記は文章は生成しないが、語彙が異なるだけでやることは同じである。他にも書籍を2冊ほど参考にした。

つくりながら学ぶ! PyTorchによる発展ディープラーニング

詳解ディープラーニング 第2版 ~TensorFlow/Keras・PyTorchによる時系列データ処理~ (Compass Booksシリーズ)

かなり疲れたけれど、久々に終わった感のある実装だった。学習ができることがわかったので、これからがスタートという向きもあるのだけど。

しかし Encoder Decoder モデル、最初 Encoder に文章をつっこんで context のようなものを Decoder に与えて、あと Decoder に <bos> token を与えれば文章を作ってくれると初めて聞いたときは「本当にそれだけでいいの？」と思ったのだけど、本当にそれだけでよかった。ニューラルネットワークってすごい。そしてちゃんと文脈変われば出力変わる、すごい*2。

そういえば、下記の面白そうな本を買ったんだけど、NLPと結びつけて考えてる人誰か居ないだろうか。少なくとも冒頭にかかれているような内容を読む限りでは、ナイーブには word2vec の考え方とほぼ同じような感じがしたんだが。

前置詞byの意味を知っているとは何を知っていることなのか ―多義論から多使用論へ

いや、あんまわかってないけど。

生き延びた

最初生き延びたと表現したように、久々にしんどい思いをした。そしてまた少々しんどい気がする。今日からも頑張って生きていきますかね。

なんの表明でもないけど、なんかそんな風に思っている。

*1:お金につながることではない。

*2:自然な文章では全く無いけれど。