ryamada22 https://blog.hatena.ne.jp/ryamada22/ ryamadaの遺伝学・遺伝統計学メモ https://ryamada22.hatenablog.jp/ メモ Java 生起確率 コンピュータによる数値計算における精度のこと。 浮動小数点のことなどあり、計算結果に誤差が出る話し。Mathematicaを用いて計算していたところ、任意精度という概念を採用していることはこちらに書いた。Mathematicaはを『１を３等分したもの』という形で情報を持ち続けることができて、これを絶対精度と呼んでいる。 今、生起確率についての絶対精度を考える。正確確率検定においては、この生起確率の大小比較を行い、等しいもの同士は、あくまでも等しいものとして扱いたい。生起確率は、非負の整数で表現された式であるが、割り算が入っているので、下手な順番でやると、精度の影響を受けて、本当は等しいもの同士… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fryamada22.hatenablog.jp%2Fentry%2F20080201%2F1201844557" title="数値の精度 - ryamadaの遺伝学・遺伝統計学メモ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2008-02-01 14:42:37 rich https://ryamada22.hatenablog.jp/entry/20080201/1201844557 1.0 100%