矩阵内元素间数量级差别大时的精度的问题

vib · 发表于 2007-11-16 12:28

您需要登录才可以下载或查看，没有账号？我要加入

x

比如这样的一个矩阵：a=[3.0e17 2.1e-10]
由于里面的元素的数量及差别较大，
输出结果
a =

1.0e+017 *

3.0000 0.0000

就会把后面一项取值为0，该怎莫设置这个精度呢？谢谢

donkeyxu · 发表于 2007-11-16 13:31

format short e

账号		自动登录	找回密码
密码			我要加入

[编程技巧] 矩阵内元素间数量级差别大时的精度的问题