hiratara https://blog.hatena.ne.jp/hiratara/ Pixel Pedals of Tomakomai https://hiratara.hatenadiary.jp/ 技術 数値が小数第四位まで与えられるとする。例えば、 1234.5678 のような形式である。 それらの数値を使って計算をしたいのだが、何も考えないと計算機上ではこれらの数値は double 型などで保持され、誤差が発生することは有名だろう。 >>> 1001.0000 * 1.1000 == 1101.1000 False >>> 1001.0000 * 1.1000 1101.1000000000001 誤差が発生するのは嫌なので、入力を 10000 倍して整数として扱いたくなる。例えば、 1234.5678 は 12345678 に変換したい。 しかし、この操作にも注意が必要である。 http… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fhiratara.hatenadiary.jp%2Fentry%2F2022%2F02%2F05%2F164209" title="小数第四位までの小数を10000倍して整数に直せるのか - Pixel Pedals of Tomakomai" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2022-02-05 16:42:09 rich https://hiratara.hatenadiary.jp/entry/2022/02/05/164209 1.0 100%