prozorec https://blog.hatena.ne.jp/prozorec/ 隠居日録 https://prozorec.hatenablog.com/ 読書 科学 今泉允聡氏の深層学習の原理に迫る 数学の挑戦を読んだ。本書は深層学習がなぜ既存のニューラルネットワークに比べて高い性能が出るのかについて解説している。数学的側面から解説はしているが、難しい数式は殆ど出てこない。 多層の理由 普遍近似定理で「層が2層のニューラルネットがどんな関数であってもほぼ正確に表現できる」ことが示されている。 普遍近似定理層が２つあるニューラルネットワークは、一層辺りのパラメータの数が十分多ければ、どんな連続関数でも(無視できる範囲の誤差で)表現できる。 また、近似誤差レート(ニューラルネットワークのパラメーターの数を増やしたときの誤差の減少率)は2層のニューラルネットワー… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fprozorec.hatenablog.com%2Fentry%2F2022%2F03%2F14%2F070000" title="深層学習の原理に迫る 数学の挑戦 - 隠居日録" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://images-na.ssl-images-amazon.com/images/I/51Kx9kvv5kL._SY344_BO1,204,203,200_.jpg Hatena Blog https://hatena.blog 2022-03-14 07:00:00 rich https://prozorec.hatenablog.com/entry/2022/03/14/070000 1.0 100%