精易论坛

标题: 读取双精度 末尾自动加0问题 [打印本页]

作者: 啊基德    时间: 2021-5-6 22:30
标题: 读取双精度 末尾自动加0问题
本帖最后由 啊基德 于 2021-5-6 22:41 编辑

使用E2EE读取MYSQL double 保留2位小数字段,
当数据是0.01-0.04会出现错误    0.05-0.09正常
有什么办法能处理这种事,如果改成文本型,前面相当多部分的要改
decimal类型也试过了还是会出错

[attach]1098317[/attach]


[attach]1098318[/attach]

作者: 汉族    时间: 2021-5-7 00:17
后面有  2    那里应该表示给你四舍五入了       就是你截图
作者: 荭枫    时间: 2021-5-7 15:18
这不是e2ee问题 这是浮点数丢失精度问题 解决问题的办法就是存整数或者文本




欢迎光临 精易论坛 (https://125.confly.eu.org/) Powered by Discuz! X3.4