数值计算误差初步理解及简单分析

在线阅读 下载PDF 导出详情
摘要 介绍了数值计算中的误差类别,用数学表达式举例,说明了截断误差,根据IEEE754标准用数学表达式说明了舍入误差;并对截断误差与舍入误差进行了简单的分析;最后给出了数值计算中应注意的事项。
机构地区 不详
出处 《地理空间信息》 2011年3期
出版日期 2011年03月13日(中国期刊网平台首次上网日期,不代表论文的发表时间)
  • 相关文献