ryamada22 https://blog.hatena.ne.jp/ryamada22/ ryamadaの遺伝学・遺伝統計学メモ https://ryamada22.hatenablog.jp/ ニューラルネットワーク トロピカル幾何 トロピカル代数 ReLU arxiv.org この論文では、ニューラルネットワークでのactivation function をReLUに絞っても、まあ大丈夫、との判断の下、ReLUに絞った上で、ニューラルネットワークの入力から出力への変換がトロピカル幾何・トロピカル・有理関数で表現されることを説明している ごく大雑把に言うと、ニューラルネットワークが作るモデルは非凸な多面体になるが、それは、凸多面体の差として関数表現されるが、この「関数の差」がトロピカル関数で言うと、関数の比になるので、トロピカル有理関数になる、と、そういう話 ReLUという活性化関数は、ニューラルネットワークで用いる活性化関数の１つだが、これに限定… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fryamada22.hatenablog.jp%2Fentry%2F20210318%2F1616054579" title="ニューラルネットワークでのトロピカル幾何 - ryamadaの遺伝学・遺伝統計学メモ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2021-03-18 17:02:59 rich https://ryamada22.hatenablog.jp/entry/20210318/1616054579 1.0 100%