rookzeno https://blog.hatena.ne.jp/rookzeno/ エムスリーテックブログ https://www.m3tech.blog/ こちらはエムスリー Advent Calendar 2024 4日目の記事です。 こんにちは、最近ニューラルネットの可視化についての論文を読んだAI・機械学習チーム(AIチーム)の農見(@rookzeno)です。ニューラルネットの可視化で有名なものといえばGrad-CAMだと思いますが、僕が読んだ論文ではstructured attention graphs (SAGs)という可視化の手法を使ってました。これは平たく言えばニューラルネットが予測できる画像の最小限の部位はどれかを出すものです。 目と鼻と口以外はぼかしてても画像モデルが正しい予測ができる この方法の良さとしては、複数の注目部位が得… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fwww.m3tech.blog%2Fentry%2F2024%2F12%2F04%2F170000" title="Grad-CAMで注目されている部分をぼかすとどうなるの？ - エムスリーテックブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/m/m3tech/20241204/20241204170035.png Hatena Blog https://hatena.blog 2024-12-04 17:00:00 rich https://www.m3tech.blog/entry/2024/12/04/170000 1.0 100%