maminus
https://blog.hatena.ne.jp/maminus/
maminusのメモか何か
https://maminus.hatenadiary.org/
DirectX11
ということで、先日*1予告していたROPのfloat->UNORM変換が単純な「切り捨て」ではなく、「近い数値へ丸め」となっているかどうかの検証をやってみた。 検証プログラムの概要 こんな感じのプログラムで検証をしたいと思う。 ComputeShaderで3DテクスチャにRGB->HSV->RGB変換した値を書き込む。RGBそれぞれ0〜255の３次元とする テクスチャをSTAGINGでCPU_ACCESS_READなテクスチャにロードしてくる テクスチャをMap()してひたすら期待値と比較する ComputeShaderの実行され方(想像) ドキュメントが見当たらないのでゴトウさんの記事*2を…
190
<iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fmaminus.hatenadiary.org%2Fentry%2F20130302%2F1362233638" title="float->UNORM変換丸め確認 - maminusのメモか何か" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe>
https://cdn-ak.f.st-hatena.com/images/fotolife/m/maminus/20130302/20130302224620.png
Hatena Blog
https://hatena.blog
2013-03-02 23:13:58
float->UNORM変換丸め確認
rich
https://maminus.hatenadiary.org/entry/20130302/1362233638
1.0
100%