声振论坛

 找回密码
 我要加入

QQ登录

只需一步,快速开始

查看: 2461|回复: 1

[编程技巧] matlab如何降低数值计算精度?

[复制链接]
发表于 2006-12-12 10:17 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?我要加入

x
现在考虑用matlab模拟实验中的数据,要求matlab计算的的时候只用3位有效数字参与计算,因为实验器材得到的数据精度为有效数字三位,请问在matlab中如何实现?
回复
分享到:

使用道具 举报

发表于 2006-12-12 14:52 | 显示全部楼层

回复

这个问题也讨论过几次了,试试digits,vpa.
(不过好象内部计算精度是默认不变的)

[ 本帖最后由 xjzuo 于 2006-12-12 14:53 编辑 ]
您需要登录后才可以回帖 登录 | 我要加入

本版积分规则

QQ|小黑屋|Archiver|手机版|联系我们|声振论坛

GMT+8, 2024-12-13 08:53 , Processed in 0.072767 second(s), 17 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表