lpha_z https://blog.hatena.ne.jp/lpha_z/ よーる https://lpha-z.hatenablog.com/ 先週は平方根関数をライブラリとして実装する方法をひとつ紹介しました。その方法は、デフォルトの丸めモード（最近接丸め）では正しく動作しますが、方向丸めの場合にはうまくいかないことが判明しました。 その中で、逆数平方根をニュートン・ラフソン法で求める、invSqrt関数を実装しました。その実装は、丸め誤差に気を使っていない、ナイーブな実装になっています。それが原因で方向丸めの場合にうまくいかないのかを確かめるため、この関数の性質について調べます。 invSqrt関数の定義 以下で他の実装についても議論するので、invSqrt0とします。 float apploxInvSqrt( float x )… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Flpha-z.hatenablog.com%2Fentry%2F2018%2F10%2F21%2F231500" title="invSqrtをニュートン・ラフソン法で求める方法の性質 - よーる" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2018-10-21 23:15:00 rich https://lpha-z.hatenablog.com/entry/2018/10/21/231500 1.0 100%