n-trino https://blog.hatena.ne.jp/n-trino/ trinoの走り書き https://n-trino.hatenadiary.org/ プログラム C++ 業務でリファクタリングを実施していた。演算結果が変わらないように毎回比較して違っていればエラーを吐くようにして、改良を進めていた。 if( std::abs( result - test ) > std::numeric_limits< double >::epsilon() ){ std::cout << "error : " << result << " , " << test << std::endl; } 浮動小数点は演算が一致する保証がないので、その差が非常に小さい値であるかどうかで評価する、まあ数値計算での基本ですね。 何の変哲もない上記のコード、実は大きな落とし穴があった。私はこ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fn-trino.hatenadiary.org%2Fentry%2F20161101%2Fp1" title="浮動小数比較の落とし穴 - trinoの走り書き" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2016-11-01 00:00:01 rich https://n-trino.hatenadiary.org/entry/20161101/p1 1.0 100%