akmtn https://blog.hatena.ne.jp/akmtn/ akmtn記録 https://akmtn.hatenablog.com/ PyTorch 機械学習プロフェッショナルシリーズの「深層学習」のChapter5を参考に，PyTorchでAutoEncoderの実装を行いました． パラメータとしては， 入出力層が28x28次元， 中間層が100次元， （28x28 -> 100 -> 28x28） 中間層の活性化関数はReLU， 出力層の活性化関数は恒等写像， 重みはガウス分布（σ=0.01）で初期化， SGD（重み減衰λ=0.1，モメンタムµ=0.5 Loss関数は二乗誤差 にしました． SGDよりもAdamの方がLossが落ちたのでAdamに変更しました． 結果としては， このようになり，数字は認識できます．画像全体として（背景が？… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fakmtn.hatenablog.com%2Fentry%2F2017%2F05%2F18%2F183737" title=" 自己符号化器，AutoEncoderの実装 - akmtn記録" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/a/akmtn/20170518/20170518183029.png Hatena Blog https://hatena.blog 2017-05-18 18:37:37 rich https://akmtn.hatenablog.com/entry/2017/05/18/183737 1.0 100%