moqoo https://blog.hatena.ne.jp/moqoo/ ムードもりあげ楽団 https://moqoo.hatenadiary.org/ 計算誤差 唐突に浮動小数点の計算誤差って一体何なんだろう、ということをネットで調べてみましたメモ。勿論コンピュータに詳しい人なら皆知っているであろうことなんですが、僕はさっぱり知らないので調べてみました。そういえば興味本位で受けた基本情報処理の試験にもこんなトピックがあったような気もします（テキスト斜め読みしただけ・・・）。次回は BigDecimal について調べるつもりです。 Wikipedia によると、計算誤差には以下の種類があるそうです。 丸め誤差：どこかの桁で端数処理をした場合に発生する誤差 打ち切り誤差：計算を続ければ精度が良くなるにも関わらず、計算を途中で打ち切った場合に発生する誤差 情… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fmoqoo.hatenadiary.org%2Fentry%2F20090809%2F1249819910" title=" 浮動小数点の計算誤差 - ムードもりあげ楽団" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2009-08-09 21:11:50 rich https://moqoo.hatenadiary.org/entry/20090809/1249819910 1.0 100%