计算中出现的问题

gina-yanke · 发表于 2005-11-4 18:20

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？我要加入

x

如果在计算过程中，出现了INF（无穷大）或者NaN（不定值）该怎么办啊？而实际上这个值只是很大，比如gamma(1032)，在程序中需要这个中间值，但是计算结果确是INF。

linqus · 发表于 2005-11-5 13:16

上限好像是1.0e308， 不能自己简化一下么？ 比如是物理量的话，从单位或量纲分析一下。 btw： fortran在win32平台下的real（kind＝8）值的上限也是1.0e308。

frogfish · 发表于 2005-11-5 14:20

<DIV class=quote>以下是引用gina-yanke在2005-11-4 18:20:39的发言： 如果在计算过程中，出现了INF（无穷大）或者NaN（不定值）该怎么办啊？而实际上这个值只是很大，比如gamma(1032)，在程序中需要这个中间值，但是计算结果确是INF。</DIV>
 什么数啊，这么大？ 如果真这么大误差一定也很大 还是先做物理上的变换吧，比如2楼说的量纲问题。

gina-yanke · 发表于 2005-11-6 09:53

谢谢，我再仔细找找问题

账号		自动登录	找回密码
密码			我要加入

计算中出现的问题

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

回复：（gina-yanke）计算中出现的问题