声振论坛

 找回密码
 我要加入

QQ登录

只需一步,快速开始

查看: 2503|回复: 3

[其他CAD] VBA二次开发精度问题

[复制链接]
发表于 2009-7-8 12:27 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?我要加入

x
各位,VBA二次开发中都有用m作为单位的,因此1mm就该输入0.001,但是这样输入的话程序运行后0.001就被默认位0了,这应该还算常用,哪位能有好的解决办法啊。
回复
分享到:

使用道具 举报

发表于 2009-7-8 12:58 | 显示全部楼层
VBA里面也需要声明变量的类型的吧? 单元格内的数据是如何处理的? 若是设置为单精度或者双精度,应该不会出现0的。
了解一些QB,VB,而在office中对VBA只是曾经很简单的用过,所以不能深入讨论,抱歉。
 楼主| 发表于 2009-7-8 13:15 | 显示全部楼层
dim a as double
发表于 2009-8-15 15:26 | 显示全部楼层
一般在工程上用单精度就够了,单精度后面还有很多位小数,应该不会丢失很多精度的。
您需要登录后才可以回帖 登录 | 我要加入

本版积分规则

QQ|小黑屋|Archiver|手机版|联系我们|声振论坛

GMT+8, 2024-4-29 11:04 , Processed in 0.083912 second(s), 17 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表