lpha_z https://blog.hatena.ne.jp/lpha_z/ よーる https://lpha-z.hatenablog.com/ まずA1セルに1を入れ、A2セルには=A1*2と記入します。次に、A2セルのフィルハンドル（セルの右下にカーソルを合わせたときに出現する十字型のカーソル）を下にドラッグし、100セルほどコピーします。 このようにすると、2Nという数列を計算することができます。 しかし、A列の書式設定を「数値」にしてみると、途中から一の位が0になっていることがわかります。 2Nという数列のいかなる項も、一の位が0になることはありませんから、これはおかしいです。 内部で浮動小数点数演算をしているため、誤差が生じているのだ、といった考え方もあると思います。 しかし、近年の計算機が使う浮動小数点数の基数はほぼまちがい… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Flpha-z.hatenablog.com%2Fentry%2F2019%2F11%2F17%2F231500" title="Microsoft(R) Excel(R) が有効数字を減らしてくる現象について - よーる" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/l/lpha_z/20191117/20191117234956.png Hatena Blog https://hatena.blog 2019-11-17 23:59:14 rich https://lpha-z.hatenablog.com/entry/2019/11/17/231500 1.0 100%