fpy5627的博客

  • 关于我
fpy5627个人网站
热爱生活,乐于分享
  1. 首页
  2. 踩坑笔记
  3. 正文

Lua脚本处理数字溢出问题

2021年11月23日 206点热度 0人点赞 0条评论

平时经常使用Lua+redis来实现多个redis命令的原子操作,难免遇到int类型溢出的问题。int类型溢出会出现很多问题,会从负数变成正数,整数变负数,一定要注意。

Lua number变量的数字边界值在百万级,10^6,不算大,32位的整数就有2^31(一位留给正负号),大约是2*10^9。lua内部支持的数只有浮点数,可以精确存储上至10^15的整数,详情见:

http://www.lua.org/pil/2.3.html

因此涉及到json编码解码,在过程中要注意,超过边界值的数字,会变成科学计数法。也就是超过14位的数字,经过lua脚本处理,就会变成科学计数法。

存入缓存,json序列化,反序列化的时候,会出现问题。

本作品采用 知识共享署名 4.0 国际许可协议 进行许可
标签: 暂无
最后更新:2021年11月23日

fpy5627

这个人很懒,什么都没留下

点赞
< 上一篇
下一篇 >

文章评论

取消回复

COPYRIGHT © 2021 fpy5627.cn. ALL RIGHTS RESERVED.

THEME KRATOS MADE BY VTROIS

蜀ICP备18036084号-1