Chinaunix首页 | 论坛 | 博客
  • 博客访问: 394193
  • 博文数量: 28
  • 博客积分: 2272
  • 博客等级: 大尉
  • 技术积分: 265
  • 用 户 组: 普通用户
  • 注册时间: 2006-04-25 15:49
个人简介

懒虫一个呗。

文章分类

全部博文(28)

文章存档

2020年(4)

2019年(18)

2017年(6)

我的朋友

分类: 其他平台

2019-07-31 22:07:37

(误差是指测量计算时不大于被指认为错误的最小数量单位的取值范围。)

在程序的计算中同样也存在避免误差累积成错误的一些应对。我的办法一般是这样:针对参与计算的量,让小数化为整数,除法尽量变乘法或减法,把误差无可避免的计算尽量延后,总的目标是保证计算过程最终的值尽量保持其客观正确性。

大家有其它更好的办法,望各位不吝赐教,因为这个问题有时很重要。谢谢。
阅读(1318) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~