单精度数和双精度数

发布网友发布时间：2022-08-10 21:45

共2个回答

热心网友时间：2024-12-04 04:08

计算机中浮点数的存储是不精确的，双精度比单精度更精确而已。所以有关浮点数的运算都是近似的，如输出1.0-0.9的结果不是0.1，而是0.09999999999999998。只有整数的运算才是精确的结果。所以3.5在计算机中存的不是3.5后加0.而是像上面那样的数字

热心网友时间：2024-12-04 04:08

只是有效最大位是7位或15 位。

float 和double类型准确来说并不是一个准确的数都是转换为2进制

double d=2;//将int隐式转换为double类型

如果超过有效位两个接近的数看着不相等程序效果是相等的

double sum = 0;
            for (int i = 0; i < 440; i++)
            {
                sum += 0.10;
            }
            Console.WriteLine(sum);
            //你看下sum的结果不一定是44
如果是一定的进行小数之间的四则运算建议推荐decimal类型。精确度大大提高。