VB overflow

显示全部楼层 · 2009-7-14 20:57:09

定义一个Long数组data（）
Cint（inbyte（0））=35
Cint（inbyte（1））=128
上两者单独赋值给data（num）都可
data(num) = CInt(inbyte(0)) + 256 * CInt(inbyte(1))则提示overflow
请问如何解决？

千问 · 2009-7-14 20:57:09

inbyte(0) = 35inbyte(1) = 128data(num) = CInt(inbyte(0)) + 256 * CInt(inbyte(1))因为 Integer 表示的最大整数是 32767256 * CInt(inbyte(1)) 是 32768因为 256 是 Integer，CInt(inbyte(1)) 也是 Integer相乘结果就是 Integer，所以溢出了这样就行了data(num) = CInt(inbyte(0)) + 256& * CInt(inbyte(1))...

千问 · 2009-7-14 20:57:09

把下面data(num) = CInt(inbyte(0)) + 256 * CInt(inbyte(1))换成data(num) = CLng(inbyte(0)) + 256 * CLng(inbyte(1))就可以了。原因是Cint是转换为整形，取值范围-32768~32767CInt(inbyte(0)) + 25...

千问 · 2009-7-14 20:57:09

因为你用了cint函数而你256*inbyte(1)已经超过整型所能表达得数你应该这样 Clng(inbyte(0)) + 256 * CInt(inbyte(1))...