博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
关于浮点数精度的问题
阅读量:6336 次
发布时间:2019-06-22

本文共 302 字,大约阅读时间需要 1 分钟。

float double数精度,自己原来也不怎么在乎,但这大半年下来竟然发现屡屡在此问题上栽跟头。

总结下来写渲染程序:

1.在CPU端尽量设置为double类型数据计算各种变换矩阵,最终传给GPU时再弄为float。

2.如果数值偏差太大,建议先转换为局部坐标系进行各种计算,最终转换为最后的坐标系。

3.顶点着色器中设置为高精度的high,比medium 降低的性能真的很小,但效果改善很不错。

4.有时向着色器中传入时间变量,会随着程序的开启越来越大,此时要注意精度,采取必要的措施,如取余等方式。

转载于:https://www.cnblogs.com/liding/p/6255172.html

你可能感兴趣的文章
Scrum 联盟理事辞职
查看>>
2019数据库趋势报告,最受欢迎的是MySQL
查看>>
中台之上(六):如何为一个商业银行设计业务架构?
查看>>
angular2 jsonp跨域请求 express输出jsonp数据
查看>>
环信首席架构师梁宇鹏谈架构、管理及成长
查看>>
专访OneAPM创始人何晓阳:APM将是开发者必备服务
查看>>
又拍云创新CDN服务,同步提供1:1免费云存储
查看>>
C#和F#默认接口方法更新
查看>>
测试人员的GitHub
查看>>
Swift 集合的 reduce 操作
查看>>
无服务平台性能比较
查看>>
Electric Cloud推出用于DevOps的预测分析平台
查看>>
怀疑在软件测试中所起的作用
查看>>
Node.js和io.js将合并到Node基金会下
查看>>
腾讯云工业互联网助力平台发布 推动制造业“数字化”蝶变
查看>>
从Jira到GitHub,详解Spring Framework问题跟踪系统的迁移过程
查看>>
解读 2018之Go语言篇(下):明年有哪些值得期待?
查看>>
Envato不停机迁移边缘网络提供商
查看>>
遗传算法
查看>>
高品质软件工艺
查看>>