r_mujirushi https://blog.hatena.ne.jp/r_mujirushi/ R-無印のメモ帳…の切れっ端 https://r-mujirushi.hatenadiary.org/ プログラム 固定小数を使う時は精度が気になるとかいうことがあるようだけど、 実際どの位の精度なのかは以外と示されていないような気がしたので、調べてみる。 ……要するに、「2の-n乗」の表を書くだけなんですが…(汗) // 割り当てるbit数 : 表せる精度 1 : 0.5 2 : 0.25 3 : 0.125 4 : 0.0625 5 : 0.03125 6 : 0.015625 7 : 0.0078125 8 : 0.00390625 9 : 0.001853125 10 : 0.0009265625 11 : 0.00046328125 12 : 0.000231640625 13 : 0.00011… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fr-mujirushi.hatenadiary.org%2Fentry%2F20080121%2F1200930876" title="固定小数の精度とか - R-無印のメモ帳…の切れっ端" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2008-01-21 00:54:36 rich https://r-mujirushi.hatenadiary.org/entry/20080121/1200930876 1.0 100%