odz https://blog.hatena.ne.jp/odz/ odz buffer https://odz.hatenablog.com/ Computer ref:某日記(前期) - 四捨五入を疑え! えーと、ちょっと誤解を与えかねないような。 たとえば、1.25 と 1.15 を有効桁数2桁に四捨五入する場合、両方とも最後の桁が偶数になるように、1.2 に丸めるので正しいのだけど、JISなんかで定められている四捨五入では n + 1 桁目だけを見るんではなくて、n + 1 桁目以降の有効数字全部を見て近いほうに丸めるわけで、偶数に丸めるだのの話は n + 1 桁目移行全てを見てもどちらが近いか確定できない場合(n + 1 桁目が 5 でかつ、n + 2 桁目移行全て0)の話。つまりは 1.25 を有効桁数2桁で四捨五入すると 1.2 だけど、1… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fodz.hatenablog.com%2Fentry%2F20070106%2F1168136385" title="四捨五入 - odz buffer" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2007-01-06 11:19:45 rich https://odz.hatenablog.com/entry/20070106/1168136385 1.0 100%