derwind https://blog.hatena.ne.jp/derwind/ らんだむな記憶 https://randommemory.hatenablog.com/ machine_learning Transformer の解説 - らんだむな記憶 で触れたこの本が良さそうなので購入した。第 5 章くらいから見ていくか。pp.256-293 を取り敢えずやってみる。ゼロつく 2 では peephole connection の話は出ていなかったので、そうなのかという感想。にしても十分にチューニングされているせいか PyTorch で実行すると LSTM 版も速い速い・・・。LSTM — PyTorch 1.10.0 documentation を見ると >>> rnn = nn.LSTM(10, 20, 2) >>> input = torch.randn(5, 3, 10) >>> h… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Frandommemory.hatenablog.com%2Fentry%2F2021%2F11%2F27%2F220102" title="詳解ディープラーニング 第2版 (1) - らんだむな記憶" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2021-11-27 22:01:02 rich https://randommemory.hatenablog.com/entry/2021/11/27/220102 1.0 100%