yuji_ueda https://blog.hatena.ne.jp/yuji_ueda/ はい！今やってます！ https://yuji-ueda.hatenadiary.jp/ Python 活性化関数 ReLU Deep Learning 活性化関数ReLU関数について 活性化関数、伝達関数と呼ばれる関数、中でも現代のニューラルネットワークでは最も一般的に利用されるReLUについて、 わかりやすく説明したい。 パーセプトロンとニューラルネットワークの違い 一般的に言われる「単純パーセプトロン」は、単層のネットワークで、活性化関数にステップ関数(閾値を境に出力が切り替わる関数)を利用したモデルです。 一方で、多層でシグモイド関数などの滑らかな活性化関数を使用するネットワークを「多層パーセプトロン」と呼び、これがニューラルネットワークとなります。 パーセプトロンについて パーセプトロンの誕生については1957年まで遡ります。視覚と脳… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fyuji-ueda.hatenadiary.jp%2Fentry%2F2017%2F07%2F16%2F151536" title="活性化関数、ReLUについて - はい！今やってます！" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> http://chart.apis.google.com/chart?cht=tx&chl=%0A%5Cdisplaystyle%20h%28X%29%20%3D%20%5Cfrac%7B1%7D%7B1%2Bexp%28-x%29%7D%0A Hatena Blog https://hatena.blog 2017-07-16 15:15:36 rich https://yuji-ueda.hatenadiary.jp/entry/2017/07/16/151536 1.0 100%