在最近的工作中,遇到一个BUG,本应是1200的一个变量,结果却变成了1199,找了一会,发现是由于Double的存储引起的。
问题简化如下:
var
d: Double;
begin
try
d := 1.2;
Writeln(Trunc(d * 1000));
Readln;
except
on E: Exception do
Writeln(E.ClassName, ': ', E.Message);
end;
end.
运行结果如下:
结果并不是意料中的1200,而是1199。
这是由于浮点数在内存中的存储格式引发的问题,具体的可以点击看这篇文章
由此,发散思维,做了几组对比实验。代码如下:
var
dTest: Double;
begin
//实验1
dTest := 1.2;
Writeln('当dTest赋值为1.2,你以为的dTest: 1.2,');
Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 1201,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Writeln('');
//实验2
dTest := 1.199999999999999960;
Writeln('当dTest赋值为1.199999999999999960,你以为的dTest: 1.199999999999999960');
Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 1200,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Writeln('');
//实验3
dTest := 1.19999999999999990;
Writeln('当dTest赋值为1.19999999999999990,你以为的dTest: 1.19999999999999990');
Writeln('实际内存中存的n: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 1200,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Writeln('');
//实验4
dTest := 1.199;
Writeln('当dTest赋值为1.199,你以为的dTest: 1.199');
Writeln('实际内存中存的n: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 1200,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Writeln('');
//实验5
dTest := 0.2;
Writeln('当dTest赋值为0.2,你以为的dTest: 0.2');
Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 200,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Writeln('');
//实验6
dTest := 11.2;
Writeln('当dTest赋值为11.2,你以为的dTest: 11.2');
Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 11200,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Writeln('');
//实验7
dTest := 111.2;
Writeln('当dTest赋值为1111.2,你以为的dTest: 1111.2');
Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));
Write('你以为Ceil(dTest * 1000) = 1111200,但是Ceil(dTest * 1000) = ');
Writeln(Ceil(dTest * 1000));
Write('Trunc(dTest * 1000): ');
Writeln(Trunc(dTest * 1000));
Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));
Readln;
end.
结果如下:
在Delphi中使用Ceil和Trunc对浮点数取整结果可能会出乎你的意料。当double存储时没有精度问题时,使用Ceil和Trunc函数没有问题,当有精度丢失时,使用Ceil和Trunc需要注意。
————————————————
原文链接:https://blog.csdn.net/TheRedFox/article/details/105844065
Copyright © 2014 DelphiW.com 开发 源码 文档 技巧 All Rights Reserved
晋ICP备14006235号-8 晋公网安备 14108102000087号
执行时间: 0.10539197921753 seconds