关于计算，莫名多出一串小数0最后1位是1的原因

使用问题 · 580 次浏览

yuting 创建于 2023-03-17 18:22

实付金额2位88.2，苏宁付款金额是89.18，为什么通过计算得到所减金额是-8.918后面那么多位小数正常不应该就是-8.918么

回复内容

CL 2023-03-17 18:39

#1

这里的运算是用的 double 双精度浮点类型，在计算机内不是精确存储的，详细可以百度“浮点数”

yuting 回复 CL 2023-03-17 18:46 :

那直接用Math.Round 取需要的位数吗

CL 回复 yuting 2023-03-17 20:30 :

需要转换成文本的时候可以用这个模块

回复主贴

相关资源