如何设置数据的精度

zheng720 · 发表于 2008-3-12 09:23

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？我要加入

x

我想让算出来的结果可以精确到小数点后面的0.000000001，该怎么设置呀？

[ 本帖最后由 eight 于 2008-3-12 10:58 编辑 ]

sogooda · 发表于 2008-3-12 09:28

Matlab的计算精度是非常高的不需要改变的，只不过默认设置时不显示那么高。
如果你是要显示比较高精度的话，可以 vpa
如 vpa(pi,200)

[ 本帖最后由 sogooda 于 2008-3-12 09:29 编辑 ]

eight · 发表于 2008-3-12 10:58

原帖由 zheng720 于 2008-3-12 09:23 发表

 登录/注册后可看大图

我想让算出来的结果可以精确到小数点后面的0.000000001，该怎么设置呀？着急！

看书、搜索，养成好习惯，而不是遇到问题只懂得发问。另外，发帖前看规则

[ 本帖最后由 eight 于 2008-3-12 10:59 编辑 ]

zheng720 · 发表于 2008-3-12 13:04

matlab计算出来的数据：1.072，但是现在我想得出来的数据是：1.072000，我怎么写输出数据命令呀，还有就是我用了vpa()命令，但是感觉好像输出来的数据和我理论推导有出入，请大家帮帮忙吧，我就是想要可以精确到小数点后面6位的一个数值，还有就是我还想用输出命令，请大家告诉一下，我没有查到。万分感谢，急盼！

ChaChing · 发表于 2008-3-12 13:40

Matlab预设时显示5 digits, 可以使用format long, 将预设显示值改为15 digits

zheng720 · 发表于 2008-3-12 14:01

不知道能不能用fprintf(x,'\11.5f'),这种类似与c语言的格式输出数据呀

ChaChing · 发表于 2008-3-12 14:14

a=1.072; fprintf(fid,'%15.6d',a);
建议真的需看书、搜索，养成好习惯

eight · 发表于 2008-3-12 15:27

原帖由 zheng720 于 2008-3-12 14:01 发表

 登录/注册后可看大图

不知道能不能用fprintf(x,'\11.5f'),这种类似与c语言的格式输出数据呀

如果是字符串，则可以使用 sprintf 命令，fprintf 是写到文件里面的

zheng720 · 发表于 2008-4-1 08:14

已解决了，谢谢各位了！~

[ 本帖最后由 eight 于 2008-4-1 09:46 编辑 ]

账号		自动登录	找回密码
密码			我要加入

[编程技巧] 如何设置数据的精度

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

大家帮忙看看下面数据怎么转化