shin https://blog.hatena.ne.jp/shin/ しんさんの出張所 はてなブログ編 https://shinsan.hatenablog.jp/ ソフトウェア技術 http://d.hatena.ne.jp/j5ik2o/20091024/1256369305上はJavaに限らずほとんどの言語で注意すべきもので、言語を覚える前にまず知るべき基礎的な知識。電子計算機概論ってやつだな。お金を扱う場所では必須の知識。入社1年目でも知るべきもっとも大事なもの。消費税計算するときにa = b * 1.05なんてかいたら終わり。 固定小数点前提のCOBOLとかみたいなの標準でほしいよね。 んでやっと本題。演算誤差が出るってことはイコールによる判定ができないんだよね。 float a = 0.1f; float b = 1-0.1f*9; while(a != b){… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fshinsan.hatenablog.jp%2Fentry%2F20091027%2Fp1" title="誤差が出るということは - しんさんの出張所 はてなブログ編" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2009-10-27 00:00:05 rich https://shinsan.hatenablog.jp/entry/20091027/p1 1.0 100%