xinformation https://blog.hatena.ne.jp/xinformation/ 日々ブログ https://xinformation.hatenadiary.com/ プログラミングのお話 プログラミングのお話-Javascript 最近、javascriptを利用していて何故か計算が合わないという事態があり、javascriptには、ちょっと変わった計算精度があることを知りました。 どのプログラミング言語にも計算精度は存在するのですが、簡単な掛け算で発生したり、javascriptはちょっと複雑な事情できまっていることが分かったので記事にしたいと思います。 プログラムにおける計算精度って？ プログラムの計算精度には限界があります。 コンピュータの中身は数字を2進数で扱っており、また数字を表すための2進数の文字数も決まっています。 64bitアーキテクチャやら32 bit アーキテクチャなどを聞いたことはないでしょうか。こ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fxinformation.hatenadiary.com%2Fentry%2F2021%2F08%2F07%2F210535" title="【プログラミング】javascriptの計算精度について調べてみた話 - 日々ブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/x/xinformation/20210807/20210807210422.png Hatena Blog https://hatena.blog 2021-08-07 21:05:35 rich https://xinformation.hatenadiary.com/entry/2021/08/07/210535 1.0 100%