编程语言中浮点数精度丢失问题

被引:8
作者
程裕强
机构
[1] 玉林师范学院数学与信息科学学院
关键词
浮点数; 精度缺失; 单精度; 双精度;
D O I
暂无
中图分类号
TP312.1 [];
学科分类号
摘要
程序设计语言一般会出现浮点数精度丢失问题,这直接影响到程序执行结果的准确性和可靠性。以Java语言为例,从浮点数的存储结构上进行分析,找出了浮点数精度缺失问题产生的根源因素。为了解决此问题,Java语言提供了一个大数类BigDecimal,但是该类操作浮点数不方便,需要多次数据类型转换。提出了快捷的四舍五入解决方法,该方法同样适用于其他编程语言。
引用
收藏
页码:59 / 61
页数:3
相关论文
共 6 条
[1]   浮点数到整型数转换的正确性问题 [J].
张慧玲 .
计算机应用与软件, 2011, 28 (01) :161-162
[2]   科学计算浮点数据的高性能无损压缩 [J].
何克晶 .
计算机学报, 2010, 33 (06) :966-976
[3]   科学计算程序语言的浮点数机制研究 [J].
王力 .
计算机科学, 2008, (04) :285-287+291
[4]   C语言中浮点数的存储格式及其有效数字位数 [J].
张宗杰 ;
张明亮 .
计算机与数字工程, 2006, (01) :84-86+90
[5]  
Java面向对象程序设计.[M].梁燕来; 程裕强; 主编.人民邮电出版社.2013,
[6]  
一类范围约束的浮点数静态分析方法.[D].李仕伦.湖南大学.2010, 04