a_kawashiro https://blog.hatena.ne.jp/a_kawashiro/ a_kawashiroのブログ https://a-kawashiro.hatenablog.com/ 言語処理系 ONNX 機械学習 高速化 この記事の中のソースコードは全てhttps://github.com/akawashiro/sonnxにあります。 概要 ニューラルネットワークから要らなそうな枝を80%削除しても精度が変わらなかった ONNXの中身をいじるのが大変だった onnxruntimeには勝てなかった 背景 機械学習の学習済みモデルを小さなデバイスで動かす、というのが最近流行っているそうです。機械学習では、学習には大きな計算コストがかかりますが、推論はそれほど大きな計算コストがかかりません。このため、学習だけを別のコンピュータで行っておいて、実際の推論は小さなデバイスで行うということが可能です。 ただし、推論だけでも… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fa-kawashiro.hatenablog.com%2Fentry%2F2019%2F03%2F07%2F201304" title="ONNXファイルから不要な枝を削ってMNISTの推論を高速化してみる - a_kawashiroのブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://raw.githubusercontent.com/akawashiro/sonnx/master/original_NN.png Hatena Blog https://hatena.blog 2019-03-07 20:13:04 rich https://a-kawashiro.hatenablog.com/entry/2019/03/07/201304 1.0 100%