db2 中字段类型为 DECIMAL(14,6)的字段的精度问题

db2 中字段类型为 DECIMAL(14,6)的字段值为2542.405000 的字段,取出后保存至字段类型为NUMERIC(14,6) 的表中,值变为2542.404999 ,这是什么原因造成的精度问题?怎么解决呢?显示全部

db2 中字段类型为 DECIMAL(14,6)的字段值为2542.405000 的字段,取出后保存至字段类型为NUMERIC(14,6) 的表中,值变为2542.404999 ,这是什么原因造成的精度问题?怎么解决呢?

收起
参与12

查看其它 4 个回答DB-TrendSetter的回答

DB-TrendSetterDB-TrendSetter联盟成员数据库架构师公司

那个版本,V9.7实测没问题

select cast(dec1 as numeric(14,6) from test1

输出还是2542.405000

电信运营商 · 2016-05-17
浏览2975

回答者

DB-TrendSetter
数据库架构师公司

DB-TrendSetter 最近回答过的问题

回答状态

  • 发布时间:2016-05-17
  • 关注会员:6 人
  • 回答浏览:2975
  • X社区推广