yangjianguo22 发表于 2007-11-17 16:24

求教：如何提高pcl语言的计算精度？？

本人用pcl编写了三个矩阵相乘的函数，其计算出来的结果为c3 = -1.005418E-010
但用matlab算结果为 1.9382e-010。本人确信编写的函数没用问题，仔细想想觉得是pcl语言计算上具有误差，可能是截取的小数点的位数不够多造成的。所以想问问有没有方法提高计算精度？
希望遇到同样问题的人，来讨论讨论！！！！
页: [1]
查看完整版本: 求教：如何提高pcl语言的计算精度？？