互联网服务

同一个计算公式不同cube得到的结果不一致

碰到同一个计算公式，里面包含两个浮点数相乘，在不同的cube里面出现结果不一致，但是结果差距不大
试问怎么会产生这种结果，难道是cube每次计算的时候四舍五入问题？？？
有没有比较详细的说明

参与3

2同行回答
全部行业
全部行业 互联网服务
|
按赞同排序
按时间排序

paubljp软件开发工程师银行

回复 2# 贝克汉姆

计算公式就是简单的交易金额*0.12
数据量比较大，每个cube得到的数据大概差100多一点收起

互联网服务 · 2011-12-09

浏览405

贝克汉姆软件开发工程师IBM

这个问题要看到实际情况就更好了
你的计算公式是什么，得到的值是什么？收起

互联网服务 · 2011-12-08

浏览422

提问者

软件开发工程师银行

评论23

问题状态

发布时间：2011-12-08

关注会员：1 人

问题浏览：2037

最近回答：2011-12-09

关于TWT 使用指南社区专家合作厂商入驻社区企业招聘投诉建议版权与免责声明联系我们
© 2024talkwithtrend — talk with trend,talk with technologist 京ICP备09031017号-30

X社区推广