单片机keil-c51语言乘除法和取膜超范围问题
扫描二维码
随时随地手机看文章
注意:计算式,能不写成一大行的就分开写,只要保证了精度就可以了!!写一大行有时候反而影响精度!
例如:unsigned long int X;
double AD;
AD=AD/50.0;
X=AD*5000.0000/1023.00;
最好先局部计算一下,X=AD*100/1023.00;
1。浮点类型的不能做“模”运算。例如:float a=1234.56; a=a%10; 这是错误的。只有整形才能做“模”int a=12345; a=a%10;
2.如果你想做普通的四则运算。那肯定是浮点数的运算。整形的除法叫取模,不是我们平时的除法,它是舍去了余数,即小数部分。例如:int a=1; a=a/10; 结果会得到0;因为只有商被保留下来。正确的是: float a=1; a=a/10; 得到结果是:0.1
3。四则运算中常量之间做除法是特别注意:要加小数部分,不管它有没有小数部分;例如:float a; a=12/36; 这是错误的,这是取商运算,不叫“除法”,只能得到0。正确的应该是:float a; a=12.0/36.0; 加上小数点就对了,得到结果 0.3 。a=90*1000.0/20.0;第一步运算必须要有一个变量或常量是浮点型,后面的可以不用浮点数。C语言能自动想高一级转换类型。平时我们应该养成浮点数加小数点的习惯。常量也分数据类型的。 “12”代表是非浮点型(整型int或字符型char)“12.0”则是浮点型(float)
4.整形先乘法再除法,第一步乘法部分也不能超过左侧最大范围。unsigned int a,char b=90; a=b*1000/3000.0; 计算结果a=8;因为b*1000这里超过了a的最大范围65536,取模后得到8。正确写法:a=b*100/3000*10;这里可以得到a=30。
但是浮点数乘法再除法。就不会超范围; a=b*1000.0/3000;a结果是30.
6.对于不同类型的变量做计算时,要考虑结果是否超过了左面被赋值变量类型的范围。例如 unsigned int a,b=7; a=b+65536;得到的结果不会是65543,因为它已经超出了a的最大值 65536; 又如 a=b-65536;也不会得到负数. a=b*65536;也超出计算式最大数据类型的范围。因为是计算完之后才赋值为左边的数据类型
可见:四则运算要注意三点。1。数据类型。2.。精度问题 。 3。计算式超过最大数据类型范围的问题,计算完之后才会赋值为左边的数据类型。 特别是变量与常量的四则运算加倍注意是否超范围。