matlab精确度怎样修改

2024-10-14 06:56:28

1、matlab默认精确到小数点后4位,比如输入pi显示的是3.1416是3.141592.。。的四舍五入显示。

matlab精确度怎样修改

2、我们可以使用命令format long来切换精确度到小数点后16位,比如输入pi则显示3.1415926535.。。。

matlab精确度怎样修改

3、pi是无理数,但matlab可以找到一个有理数来模拟趋近,命令是format rat这样pi就会用一个有理数355/113来表示

matlab精确度怎样修改

4、高精确度的这个科学计数法表述,命令为format long e则搜索所有的结果都会以e(X10)的形式表示,如pi=3.1415926535.。。。e+00=3.1415926535X10^0次幂

matlab精确度怎样修改

5、低精确度显示科学计数,命令是format short e则0.1*0.1表示位1e-02=1*10^(-2)次幂

matlab精确度怎样修改

6、还有切换成小数点后两位的显示方法 ,命令是format bank则有下面的效果显示:

matlab精确度怎样修改
猜你喜欢