Lua笔记浮点数与精度优化

Lua 的数字类型就是double,64 位精度,一开始看着挺普通,但用起来还蛮爽的。你不用去管什么 float 还是 int,全都一口气搞定。嗯,别担心性能,除非你在几十万条浮点数据,不然基本没啥差。精度也稳定,别拿它和 JavaScript 比,JS 那点小数精度坑,新人踩一脚就记一辈子。

顺便推荐几个相关的东西,蛮实用的。比如 JavaScript 浮点数运算精度问题,看完你会庆幸自己用的是 Lua。还有一个是编辑控件相关的,浮点数输入的体验优化方式,也能给你点启发。再就是如果你想深入研究浮点数的底层转换,可以看看 这份源码,还有 串口传输相关的转换技巧,都是干货。

,Lua 在数值这一块还是挺稳的。写脚本、搞游戏逻辑、配置文件,用起来都比较顺手。如果你平常有点浮点数的强迫症,用 Lua 真的能让你少操不少心。

enex 文件大小:15.39MB