Delphi 中关于Double类型精度以及使用Ceil和Trunc取整引发的问题  
官方Delphi 学习QQ群: 682628230(三千人)
频道

Delphi 中关于Double类型精度以及使用Ceil和Trunc取整引发的问题


在最近的工作中,遇到一个BUG,本应是1200的一个变量,结果却变成了1199,找了一会,发现是由于Double的存储引起的。


问题简化如下:


var

  d: Double;

begin

  try

    d := 1.2;

    Writeln(Trunc(d * 1000));

    Readln;

  except

    on E: Exception do

      Writeln(E.ClassName, ': ', E.Message);

  end;

end.

 运行结果如下:


2020042917052171.png


结果并不是意料中的1200,而是1199。


这是由于浮点数在内存中的存储格式引发的问题,具体的可以点击看这篇文章


 由此,发散思维,做了几组对比实验。代码如下:


var

  dTest: Double;

begin

  //实验1

  dTest := 1.2;

  Writeln('当dTest赋值为1.2,你以为的dTest: 1.2,');

  Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));

  Write('你以为Ceil(dTest * 1000) = 1201,但是Ceil(dTest * 1000) = ');

  Writeln(Ceil(dTest * 1000));

  Write('Trunc(dTest * 1000): ');

  Writeln(Trunc(dTest * 1000));

  Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));

 

  Writeln('');

 

  //实验2

  dTest := 1.199999999999999960;

  Writeln('当dTest赋值为1.199999999999999960,你以为的dTest: 1.199999999999999960');

  Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));

  Write('你以为Ceil(dTest * 1000) = 1200,但是Ceil(dTest * 1000) = ');

  Writeln(Ceil(dTest * 1000));

  Write('Trunc(dTest * 1000): ');

  Writeln(Trunc(dTest * 1000));

  Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));

 

  Writeln('');

 

  //实验3

  dTest := 1.19999999999999990;

  Writeln('当dTest赋值为1.19999999999999990,你以为的dTest: 1.19999999999999990');

  Writeln('实际内存中存的n: ' + Format('%.18f', [dTest]));

  Write('你以为Ceil(dTest * 1000) = 1200,但是Ceil(dTest * 1000) = ');

  Writeln(Ceil(dTest * 1000));

  Write('Trunc(dTest * 1000): ');

  Writeln(Trunc(dTest * 1000));

  Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));

 

  Writeln('');

 

  //实验4

  dTest := 1.199;

  Writeln('当dTest赋值为1.199,你以为的dTest: 1.199');

  Writeln('实际内存中存的n: ' + Format('%.18f', [dTest]));

  Write('你以为Ceil(dTest * 1000) = 1200,但是Ceil(dTest * 1000) = ');

  Writeln(Ceil(dTest * 1000));

  Write('Trunc(dTest * 1000): ');

  Writeln(Trunc(dTest * 1000));

  Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));

 

  Writeln('');

 

  //实验5

  dTest := 0.2;

  Writeln('当dTest赋值为0.2,你以为的dTest: 0.2');

  Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));

  Write('你以为Ceil(dTest * 1000) = 200,但是Ceil(dTest * 1000) = ');

  Writeln(Ceil(dTest * 1000));

  Write('Trunc(dTest * 1000): ');

  Writeln(Trunc(dTest * 1000));

  Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));

 

  Writeln('');

 

  //实验6

  dTest := 11.2;

  Writeln('当dTest赋值为11.2,你以为的dTest: 11.2');

  Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));

  Write('你以为Ceil(dTest * 1000) = 11200,但是Ceil(dTest * 1000) = ');

  Writeln(Ceil(dTest * 1000));

  Write('Trunc(dTest * 1000): ');

  Writeln(Trunc(dTest * 1000));

  Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));

 

  Writeln('');

 

  //实验7

  dTest := 111.2;

  Writeln('当dTest赋值为1111.2,你以为的dTest: 1111.2');

  Writeln('实际内存中存的dTest: ' + Format('%.18f', [dTest]));

  Write('你以为Ceil(dTest * 1000) = 1111200,但是Ceil(dTest * 1000) = ');

  Writeln(Ceil(dTest * 1000));

  Write('Trunc(dTest * 1000): ');

  Writeln(Trunc(dTest * 1000));

  Writeln('FloatToStr(dTest * 1000): ' + FloatToStr(dTest * 1000));

 

  Readln;

end.

结果如下:


2.png


在Delphi中使用Ceil和Trunc对浮点数取整结果可能会出乎你的意料。当double存储时没有精度问题时,使用Ceil和Trunc函数没有问题,当有精度丢失时,使用Ceil和Trunc需要注意。

————————————————


原文链接:https://blog.csdn.net/TheRedFox/article/details/105844065



推荐分享
图文皆来源于网络,内容仅做公益性分享,版权归原作者所有,如有侵权请告知删除!
 

Copyright © 2014 DelphiW.com 开发 源码 文档 技巧 All Rights Reserved
晋ICP备14006235号-8 晋公网安备 14108102000087号

执行时间: 0.10539197921753 seconds