tgbt https://blog.hatena.ne.jp/tgbt/ tgbtのはてな出張所 https://tgbt.hatenadiary.org/ マルチポスト元→http://exth.net/~tgbt/wordpress/2009/08/14/2433/ 「CUDAはIEEE754対応だよ！計算精度はCPUと変わらないよ！！！」みたいなことをこれまでに何度か聞いていたような気がするので，実際のところどうなのかを試してみた．これが直接的に論文のネタになるとは思っていないので，公開しておきます． 対象問題 誤差が出る問題として何を使うかちょっと悩んだんだけど，手元の数値計算の教科書（新版 入門数値計算）の最初に掲載されていた「ニュートン・ラフソン法」を実装してみることにした． もはや授業を受けたときの頃は全然覚えていないんだけど， f(… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Ftgbt.hatenadiary.org%2Fentry%2F20090814%2F1250228280" title="CUDAと浮動小数点の誤差に関する実験メモ - tgbtのはてな出張所" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2009-08-14 14:38:00 rich https://tgbt.hatenadiary.org/entry/20090814/1250228280 1.0 100%