声振论坛

 找回密码
 我要加入

QQ登录

只需一步,快速开始

查看: 1690|回复: 4

[编程技巧] 求助 怎设置计算精度

[复制链接]
发表于 2006-10-27 14:04 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?我要加入

x
请问各位大虾
       在解非线性方程组的时候怎么设置 计算精度啊??   谢谢

[ 本帖最后由 lxq 于 2006-10-28 21:41 编辑 ]
回复
分享到:

使用道具 举报

发表于 2006-10-28 18:23 | 显示全部楼层
你说的是显示精度吧,用format就行了
计算精度matlab默认是双精度的,一般计算都够了

[ 本帖最后由 ChaChing 于 2010-7-24 10:59 编辑 ]

评分

1

查看全部评分

发表于 2006-10-28 21:45 | 显示全部楼层
具体格式:
format 要求的格式,变量

format short,a
format rat,a
发表于 2006-10-30 19:23 | 显示全部楼层
不知道显示比如结果的位数算不算是精度的问题。如果你是我的意思 你搜索搜索
 楼主| 发表于 2006-10-30 20:41 | 显示全部楼层
嗯 谢谢各位了
刚开始在求解非线性问题是  遇到的精度问题主要是控制迭代次数
后来我自己编程进行计算而不是运用fsolve  该问题已经得到很好的解决了 呵呵
您需要登录后才可以回帖 登录 | 我要加入

本版积分规则

QQ|小黑屋|Archiver|手机版|联系我们|声振论坛

GMT+8, 2024-11-12 16:14 , Processed in 0.059432 second(s), 18 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表