本文介绍了VB2010中奇怪的数学错误的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

以下代码:



x1 = 2305/4096


x5 = 4096


r = 2025


x1 = r / x5



导致两个实例都是x1最终为1,而不是0。


r,x1和x5定义为int32。


解决任何人?






使用VB作为补充的嵌入式应用程序开发人员

解决方案

the following code:

x1 = 2305 / 4096

x5 = 4096

r = 2025

x1 = r / x5

results in both instances is that x1 ends up being 1, and not 0 as it should.

r, x1 and x5 are defined as int32.

solution anyone?


developer of embedded apps using VB as complement

解决方案


这篇关于VB2010中奇怪的数学错误的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持!

08-21 00:28