intpart函数bug！

brucecolvin

intpart函数bug！

1. Params
   
2. 
   
3. Vars
   
4. 
   
5.         Numeric Status(-1.2);
   
6.         Numeric tmp;
   
7. 
   
8. Begin
   
9. 
   
10.         tmp = abs(Status);       //应等于1.2
    
11.        
    
12.         tmp = tmp-intpart(tmp); //应等于0.2
    
13.                
    
14.         tmp = tmp*10;            //应等于2
    
15.        
    
16.         Commentary(text(tmp)); //应等于2
    
17.        
    
18.         tmp = intpart(tmp);     //应等于2
    
19.        
    
20.         Commentary(text(tmp)); //应等于2，实际却等于1
    
21.        
    
22.         tmp = tmp/10;                          //应等于0.2，实际却等于0.1
    
23.        
    
24.         Commentary(text(tmp)); //应等于0.2，实际却等于0.1
    
25.        
    
26.         Commentary(text(IntPart(2))); //应该=2，实际也等于2;
    
27. 
    
28. End

复制代码

lh948

这个是数据底层浮点数的内部存储机制导致的。
尝试使用Floor等其他的函数来避免

brucecolvin

原帖由 lh948 于 2010-6-4 09:41 发表
测试确实有这个问题，是底层浮点数的内部存储机制导致的。
尝试使用Floor等其他的函数来避免

，还有好几个问题，我至少帮你们测出明确问题3个以上，你们测试部的要感谢我才对。
我说我的程序为什么常常放错，我一点点排查，花了很长时间，才定位到这个地方，真的很费劲。

[ 本帖最后由 brucecolvin 于 2010-6-4 11:05 编辑 ]

paozi84

工程部应该请brucecolvin吃饭~~