CGFloat result=100/126;
NSLog(@"%0.5f",result);
上面的代码的输出为0.00000,但当我在计算器上对其进行检查时,该值为0.79365。问题是什么
最佳答案
问题在于,两个除法操作数均为整数,执行整数除法,其结果为0。要获取正确的值,您需要确保至少一个操作数为浮点数:
CGFloat result=100.0f/126;
关于iphone - 除法结果不正确,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/12857438/