shigemk2 https://blog.hatena.ne.jp/shigemk2/ by shigemk2 https://www.shigemk2.com/ 読書ノート 浮動小数点数について。 C言語みたくint,double,floatではなく、intとfloatのみ 誤差に注意 丸めの関数に注意(境界値、マイナスの挙動) 非有限値に注意(inf、NaN) 小数を含んだ情報を扱うときや、金額など誤差が許されない場合 10 倍、100 倍、1,000 倍するなどして整数に 直して処理する 測定値・統計データなどでわずかな誤差は許容できる場合(温度など) おそらく float 型で問題ない 整数の情報を扱う場合 ・整数の上限値を超えないかどうかに注意する 64 ビット環境なら整数も 64 ビットになるのでまず安心 32 ビット環境であればGMP 関数の利用を検… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fwww.shigemk2.com%2Fentry%2F20111111%2F1321037224" title="WebDBPress Vol.57 PHP転ばぬ先の杖 その2 - by shigemk2" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2011-11-11 03:47:04 rich https://www.shigemk2.com/entry/20111111/1321037224 1.0 100%