关于计算,莫名多出一串小数0最后1位是1的原因

使用问题 · 414 次浏览
yuting 创建于 2023-03-17 18:22

实付金额2位88.2,苏宁付款金额是89.18,为什么通过计算得到所减金额是-8.918后面那么多位小数 正常不应该就是-8.918么


回复内容
CL 2023-03-17 18:39
#1

这里的运算是用的 double 双精度浮点类型,在计算机内不是精确存储的,详细可以百度“浮点数” 

yuting 回复 CL 2023-03-17 18:46 :

那直接用Math.Round  取需要的位数吗


CL 回复 yuting 2023-03-17 20:30 :

需要转换成文本的时候可以用这个模块


回复主贴