保留三位小数的概念有效数字

三位有效数字只要头一个数字有效其余两个数字可为零,三个有效数字需要三个数字都为非零的数字

三位有效数字一般是指小数点之后的三位数字,是一个相对准确的值的要求。

三个有效数字就是三个数字,任意三个都可以。

}

今天,利用MATLAB编写乘同余法产生随机数相关代码时,遇到一个问题:
(下图仅截取部分代码片段)

二者显然不相同。但是他们似乎是用相同的数0.0234和6进行相乘。结果为什么不相同呢?为了验证哪个计算出错,我又利用计算器进行了验证,结果非常amazing啊:
那第一个代码为什么会算出0.1406呢?我突然想到了一个点,是不是除法运算结果没有保留全部数值呢?
而用0.,结果保留四位有效数字果然是0.1406。

看来果然如此,MATLAB默认保留四位有效数字,其余位数省略,但是不消失。

结果显示,果然a和b并不相等:

经过大量资料查阅,只在这里找到部分答案:
“若为实数,则以保留小数点后4位的浮点型表示”

经过再次从网上查阅资料,发现可以修改结果保留的有效数字,详细步骤如三:

Step2:打开“命令行窗口”,找到“文本显示”
Step3:修改数值格式与数值显示
关于数值格式,共有12种,详见下表格:
显示格式只影响数值的显示方式,不影响它们在 MATLAB 中的存储方式。

当然,也可以使用format方法,链接如下:

  • 默认情况下,MATLAB 会在命令行窗口输出中显示空行。如:

  • compact可以取消显示空行。如:

如果各位有什么更容易的解决办法,欢迎在评论中给出,感激不尽~

}

我要回帖

更多关于 保留三位小数的概念 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信