请教下matlab计算精度的问题

heaventian · 发表于 2010-9-27 11:50

您需要登录才可以下载或查看，没有账号？我要加入

x

对文件中的数据进行处理，文件中数据精度很高，matlab进行处理的时候，应该不会对
数据精度有损失吧？
比方输入数据：-0.484165143790815D-03
是不是输入数据什么精度，参与matlab计算的就是什么精度？

Happy99 · 发表于 2010-9-27 14:44

Matlab系采用double precision, 除非有特殊需求

VibrationMaster · 发表于 2010-9-27 15:11

命令行输入format long 可检查

zhouyang664 · 发表于 2010-9-27 19:43

楼主说的问题不会出现。
MATLAB在进行存储、计算时都是采用double precision，即8字节存储；只有在显示的时候才会有format long/short的区别，这只是方便阅读，显示格式不同罢了，计算的时候都是双精度进行的

账号		自动登录	找回密码
密码			我要加入

[编程技巧] 请教下matlab计算精度的问题