声振论坛

 找回密码
 我要加入

QQ登录

只需一步,快速开始

查看: 4935|回复: 8

[编程技巧] 如何设置数据的精度

[复制链接]
发表于 2008-3-12 09:23 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?我要加入

x
我想让算出来的结果可以精确到小数点后面的0.000000001,该怎么设置呀?

[ 本帖最后由 eight 于 2008-3-12 10:58 编辑 ]
回复
分享到:

使用道具 举报

发表于 2008-3-12 09:28 | 显示全部楼层
Matlab的计算精度是非常高的不需要改变的,只不过默认设置时不显示那么高。
如果你是要显示比较高精度的话,可以  vpa
如 vpa(pi,200)

[ 本帖最后由 sogooda 于 2008-3-12 09:29 编辑 ]
发表于 2008-3-12 10:58 | 显示全部楼层

看书、搜索,养成好习惯,而不是遇到问题只懂得发问。另外,发帖前看规则

[ 本帖最后由 eight 于 2008-3-12 10:59 编辑 ]
 楼主| 发表于 2008-3-12 13:04 | 显示全部楼层

大家帮忙看看下面数据怎么转化

matlab计算出来的数据:1.072,但是现在我想得出来的数据是:1.072000,我怎么写输出数据命令呀,还有就是我用了vpa()命令,但是感觉好像输出来的数据和我理论推导有出入,请大家帮帮忙吧,我就是想要可以精确到小数点后面6位的一个数值,还有就是我还想用输出命令,请大家告诉一下,我没有查到。万分感谢,急盼!
发表于 2008-3-12 13:40 | 显示全部楼层
Matlab预设时显示5 digits, 可以使用format long, 将预设显示值改为15 digits
 楼主| 发表于 2008-3-12 14:01 | 显示全部楼层
不知道能不能用fprintf(x,'\11.5f'),这种类似与c语言的格式输出数据呀
发表于 2008-3-12 14:14 | 显示全部楼层
a=1.072; fprintf(fid,'%15.6d',a);
建议真的需看书、搜索,养成好习惯
发表于 2008-3-12 15:27 | 显示全部楼层
原帖由 zheng720 于 2008-3-12 14:01 发表
不知道能不能用fprintf(x,'\11.5f'),这种类似与c语言的格式输出数据呀
如果是字符串,则可以使用 sprintf 命令,fprintf 是写到文件里面的
 楼主| 发表于 2008-4-1 08:14 | 显示全部楼层
已解决了,谢谢各位了!~

[ 本帖最后由 eight 于 2008-4-1 09:46 编辑 ]
您需要登录后才可以回帖 登录 | 我要加入

本版积分规则

QQ|小黑屋|Archiver|手机版|联系我们|声振论坛

GMT+8, 2024-12-26 09:37 , Processed in 0.069749 second(s), 17 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表