wanchan-daisuki https://blog.hatena.ne.jp/wanchan-daisuki/ 人工知能とか犬とか https://takoroy-ai.hatenadiary.jp/ DeepLearning PyTorch Tutorial Seq2Seq 概要 PyTorchチュートリアルに、英仏の機械翻訳モデルを作成するTranslation with a Sequence to Sequence Network and Attentionがあります。 このチュートリアルは、教師データを一つずつ与える形になっており、結構遅いのです。 なので、バッチでの学習ができるように修正を試みたところ、注意ポイントがいくつかあったのでまとめておきます。 RNNのバッチ学習の実装 RNNでバッチ学習を行う際に問題となるのが、入力されるデータ系列の長さがバッチ内で異なることです。 この問題には一般的に、バッチ内での長さを揃えるためのパディングと、パディングした… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Ftakoroy-ai.hatenadiary.jp%2Fentry%2F2018%2F07%2F02%2F224216" title="PyTorchのSeq2Seqをミニバッチ化するときに気をつけたこと - 人工知能とか犬とか" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2018-07-02 22:42:16 rich https://takoroy-ai.hatenadiary.jp/entry/2018/07/02/224216 1.0 100%