akira2kun https://blog.hatena.ne.jp/akira2kun/ 技術とか戦略とか https://akira2kun.hatenablog.com/ SE仕事術 プログラムで小数点以下の計算を行う際、誤差が生じることがあります。金額計算を行う時はこの誤差が即障害に繋がるので、誤差が生じないように実装する必要があります。 今回の記事では、誤差が生じる原因とその対処法を２つ挙げていきたいと思います。 １．浮動小数点型の丸め誤差丸め誤差とは、小数点以下の数を２進数で表現できない（近似値を使わざるを得ない）ことにより発生する誤差です。浮動小数点型（javaで言うとfloat型やdouble型）の変数を使用する際に、この問題が発生することがあります。浮動小数点型を使用すると、例えば「0.3」が「0.29999999…」になったりするので、小数点以下の誤差が許され… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fakira2kun.hatenablog.com%2Fentry%2F2019%2F08%2F04%2F050102" title="プログラムによる小数点以下の計算で誤差が生じる原因＆対処法２選 - 技術とか戦略とか" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2019-08-04 05:01:02 rich https://akira2kun.hatenablog.com/entry/2019/08/04/050102 1.0 100%