声振论坛

 找回密码
 我要加入

QQ登录

只需一步,快速开始

查看: 1450|回复: 4

[编程技巧] 求助:输出结果精度不满足要求怎么办?

[复制链接]
发表于 2006-9-21 17:08 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?我要加入

x
我遇到这样的问题:
由于我编的程序对精度要求蛮高的,所以输出的结果小数点后的有效数字不满足要求怎么办?
例如:a=sqrt(sum((y-x).^2)/(m*(m-1))) 类似标准偏差, 可是输出的结果总是0.0000小数点后4位有效数字,其他的都不知道啊 怎么办
请高手指点,谢谢!!

[ 本帖最后由 lxq 于 2006-9-21 23:35 编辑 ]
回复
分享到:

使用道具 举报

发表于 2006-9-21 17:12 | 显示全部楼层
Example:
       format short, pi, single(pi)
    displays both double and single pi with 5 digits as 3.1416 while
       format long, pi, single(pi)
    displays pi as 3.14159265358979 and single(pi) as 3.1415927.
发表于 2006-9-21 20:18 | 显示全部楼层
呵呵,其实就像楼上说的,
format long
就行了
发表于 2006-9-22 07:06 | 显示全部楼层
如果上述方法还是不能满足精度,还可以猜用vpa
 楼主| 发表于 2006-9-22 08:36 | 显示全部楼层
谢谢各位了!!!!!
我的问题解决了。
可是,还有一个问题
就是我想在图像上输出s的值 可是怎么都得不到。
我用的是text(0.1,5.5,['Q='sqrt(sum((y-z).^2)/(m*(m-1)))])
或者s=sqrt(sum((y-z).^2)/(m*(m-1)))
        text(0.1,5.5,['Q='s])
在图像上都看不到s的值 只能得到Q=
怎么回事?
谢谢大侠们!!
您需要登录后才可以回帖 登录 | 我要加入

本版积分规则

QQ|小黑屋|Archiver|手机版|联系我们|声振论坛

GMT+8, 2024-6-4 10:21 , Processed in 0.047695 second(s), 17 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表