请问精度问题

yqchenlolo · 发表于 2006-4-18 11:23

您需要登录才可以下载或查看，没有账号？我要加入

x

matlab里计算的精度可以设置么？ 找了些资料没找到 比如一个例子： a=10^(-15)-10^(-16) 答案不是0 但是 a1=10^(15)+a; a2=10^(15)-a; 结果 a1-a2 ans= 0 应该是由于a相对于a1,a2太小的缘故而被截去了 有没有办法避免这种情况？

tz6091 · 发表于 2006-4-18 11:51

可以用vpa()来看结果。

yqchenlolo · 发表于 2006-4-18 16:11

你误解我的意思了 我不是要看结果的

suffer · 发表于 2006-4-19 09:00

这个只是显示问题，实际计算中并没有舍去

yqchenlolo · 发表于 2006-4-21 14:36

这个例子已经舍去了 我运行 a1-a2==0 运行结果为：１

happy · 发表于 2006-4-22 21:28

这个没办法，只能在算法上作处理

账号		自动登录	找回密码
密码			我要加入

回复：（yqchenlolo）请问精度问题