dataflight https://blog.hatena.ne.jp/dataflight/ 空と科学とファンタジー https://dataflight.hatenablog.com/ 飛行機 以前、「有効桁数」という話をしたのでそれにちなんでの話。学術的でつまらない話かもしれない。理系の人にはわかると思うが、計算で数値の桁をどこまで扱うか？決めたものである。例えば、前回の記事では 地球の質量を5.972×1024kg というように整数部分を一桁とし、それ以下の桁は小数点以下、×10の何乗という表記をする。それに倣うと 地球の半径は6.37518×106m と表記される。0.637518×107mとも表せるが、整数部分に0は使わない。整数部分から含めての桁数が有効桁数である。小数点第2位まで有効とするなら有効桁数3桁となる。足し算引き算はもちろん位を合わせないといけないが、乗算除算を… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fdataflight.hatenablog.com%2Fentry%2F2019%2F05%2F16%2F105043" title="有効桁数 - 空と科学とファンタジー" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2019-05-16 10:50:43 rich https://dataflight.hatenablog.com/entry/2019/05/16/105043 1.0 100%