toburau https://blog.hatena.ne.jp/toburau/ ゲームが作れるようになるまでがんばる日記 https://toburau.hatenablog.jp/ 雑記 ゲームプログラマになる前に覚えておきたい技術で次のような気になる文章が。 float変数に1を1億回足した答えは1677万だ。 floatの演算で計算誤差が出ることは知っていたけど、そこまで精度が無いとは。 ということで実際に試してみた。 #include <iostream> using namespace std; int main() { float sum = 0.0f; for(int i=0; i<100000000; ++i) { sum += 1.0f; } cout.setf(ios::fixed); cout << sum; } 実行結果 16777216.000000 お… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Ftoburau.hatenablog.jp%2Fentry%2F20120114%2F1326558361" title="floatの精度 - ゲームが作れるようになるまでがんばる日記" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2012-01-14 01:26:01 rich https://toburau.hatenablog.jp/entry/20120114/1326558361 1.0 100%