paubljp
作者paubljp·2011-12-08 10:49
软件开发工程师·银行

【cube建模】同一个计算公式不同cube得到的结果不一致

字数 85阅读 700评论 0赞 0
碰到同一个计算公式,里面包含两个浮点数相乘,在不同的cube里面出现结果不一致,但是结果差距不大
试问怎么会产生这种结果,难道是cube每次计算的时候四舍五入问题???

如果觉得我的文章对您有用,请点赞。您的支持将鼓励我继续创作!

0

添加新评论0 条评论

Ctrl+Enter 发表

作者其他文章

相关问题

相关资料

X社区推广