精易论坛

标题: 是不是最基本的数据类型有问题（小数自动增位） [打印本页]

作者: 茫然 时间: 2024-6-4 20:33
标题: 是不是最基本的数据类型有问题（小数自动增位）
用Sqlite数据库读写数据，突然发现select记录集不对了,经核验，是不是最基本的数据类型有问题，还望大神指教？比如：文本数字转小数（到数值、到小数，小数型、双精度小数型），结果自动增加几位小数呢？见下图，调试只有一个结果是正确的，好像还不太稳定

作者: q981204899 时间: 2024-6-4 20:42
为什么最后一个正确是因为你最后一个才把数值的类型和转换的类型弄对

作者: 神女软件定制 时间: 2024-6-4 20:44
小数是这样的，一直在丢失精度（很小可以忽略）

作者: 鹏书 时间: 2024-6-4 22:33
直接说吧，不要用小数型也不要用到小数直接用双精度小数型跟到数值

作者: 阿杰大大 时间: 2024-6-4 23:19
有小数需求直接用双精度小数,转换也一样,到数值而不是到小数,因为易语言文档就说明了,小数会有精度丢失问题.

作者: qq977352880 时间: 2024-8-22 12:30
简单明了，一看就懂，值得推荐。

作者: 涤尘 时间: 2025-4-25 20:02
感谢分享’

欢迎光临精易论坛 (https://125.confly.eu.org/)