互联网服务Prometheus

为什么Prometheus所有样品值都是float64数据类型?

参与3

1同行回答

匿名用户匿名用户
因为限制了float64以简化设计,IEEE 754双精度二进制浮点格式支持高达253的值的整数精度。如果您需要高于253但低于263的整数精度,支持本地64位整数将有帮助。原则上,支持不同的样本值类型 (包括某种大整数,支持甚至超过64位)可以实现,但它现在不是一个优先级。 注意,一个计数器,...显示全部

因为限制了float64以简化设计,IEEE 754双精度二进制浮点格式支持高达253的值的整数精度。如果您需要高于253但低于263的整数精度,支持本地64位整数将有帮助。原则上,支持不同的样本值类型 (包括某种大整数,支持甚至超过64位)可以实现,但它现在不是一个优先级。 注意,一个计数器,即使每秒增加100万次,只有在超过285年后才会出现精度问题。

收起
银行 · 2019-12-31
浏览1534

提问者

shifo0409
信息分析/架构师日本ITS会社

相关问题

相关资料

相关文章

问题状态

  • 发布时间:2019-12-31
  • 关注会员:2 人
  • 问题浏览:2308
  • 最近回答:2019-12-31
  • X社区推广