声振论坛

 找回密码
 我要加入

QQ登录

只需一步,快速开始

查看: 1421|回复: 0

[Patran专区] 求教:如何提高pcl语言的计算精度??

[复制链接]
发表于 2007-11-17 16:24 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?我要加入

x
本人用pcl编写了三个矩阵相乘的函数,其计算出来的结果为c3 = -1.005418E-010
但用matlab算结果为 1.9382e-010。本人确信编写的函数没用问题,仔细想想觉得是pcl语言计算上具有误差,可能是截取的小数点的位数不够多造成的。所以想问问有没有方法提高计算精度?
希望遇到同样问题的人,来讨论讨论!!!!
回复
分享到:

使用道具 举报

您需要登录后才可以回帖 登录 | 我要加入

本版积分规则

QQ|小黑屋|Archiver|手机版|联系我们|声振论坛

GMT+8, 2024-11-25 08:27 , Processed in 0.056154 second(s), 18 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表