浮點數比較大小 - w3c菜鳥教程

文章推薦指數: 80 %
投票人數:10人

浮點數比較大小,在數算當中經常會涉及到判斷兩個數是否相等的情況對於整數很好處理a b這樣的一個語句就可以解決全部的問題但是對於浮點數是不同的 ... 浮點數比較大小 2021-06-1908:59:11字數1824閱讀2178 在數**算當中經常會涉及到判斷兩個數是否相等的情況  對於整數很好處理a==b這樣的一個語句就可以 解決全部的問題  但是對於浮點數是不同的  首先,浮點數在計算機當中的二進位制表達方式就決定了大多數浮點數都是無法精確的表達的  現在的計算機大部分都是 數字計算機,不是模擬機,數字機的離散化的資料表示方法自然無法精確表達大部分的資料量的。

  其次計算機浮點數的精度在單精度float型別下,只有7位,在進行浮點運算的時候,這個精度往往會導致運算的結果和實際期望的結果之間有誤差  因為前兩個原因,我們很難用a==b來判定兩個浮點數是否相同  很自然,我們可以想到fabs(a-b)



請為這篇文章評分?