,,

18026919780

級(jí)別: 探索解密

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 30 個(gè)
工控威望: 140 點(diǎn)
下載積分: 691 分
在線時(shí)間: 21(小時(shí))
注冊時(shí)間: 2021-06-20
最后登錄: 2024-12-18
查看18026919780的主題 / 回貼

樓主發(fā)表于: 2022-11-16 16:45

只看樓主 | 小中大

圖片：

D10=D20,W99.00為什么不輸出

hansir

級(jí)別: 探索解密

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 44 個(gè)
工控威望: 101 點(diǎn)
下載積分: 2030 分
在線時(shí)間: 18(小時(shí))
注冊時(shí)間: 2021-09-17
最后登錄: 2025-01-14
查看hansir的主題 / 回貼

1樓發(fā)表于: 2022-11-18 12:27

只看該作者 | 小中大

雖然看起來一樣，實(shí)際上內(nèi)部存儲(chǔ)的不一樣，所以浮點(diǎn)數(shù)不能直接比較相等，一般加上范圍進(jìn)行比較更準(zhǔn)確

本帖最近評(píng)分記錄：

下載積分:+1(guochunyi) 熱心助人！

hansir

級(jí)別: 探索解密

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 44 個(gè)
工控威望: 101 點(diǎn)
下載積分: 2030 分
在線時(shí)間: 18(小時(shí))
注冊時(shí)間: 2021-09-17
最后登錄: 2025-01-14
查看hansir的主題 / 回貼

2樓發(fā)表于: 2022-11-18 12:30

只看該作者 | 小中大

圖片：

如圖，D10和D20中的值并不相同

本帖最近評(píng)分記錄：

下載積分:+3(18026919780)

hansir

級(jí)別: 探索解密

發(fā)送短信
加為好友

精華主題: 0
發(fā)帖數(shù)量: 44 個(gè)
工控威望: 101 點(diǎn)
下載積分: 2030 分
在線時(shí)間: 18(小時(shí))
注冊時(shí)間: 2021-09-17
最后登錄: 2025-01-14
查看hansir的主題 / 回貼

3樓發(fā)表于: 2022-11-18 12:34

只看該作者 | 小中大

浮點(diǎn)數(shù)是能比較大小的。只是不太合適比較兩個(gè)浮點(diǎn)數(shù)是否“相等”。

這是由于十進(jìn)制的浮點(diǎn)數(shù)通常不能用有限位數(shù)的二進(jìn)制表示。所以，計(jì)算機(jī)中保存的十進(jìn)制浮點(diǎn)數(shù)都是“近似值”。舉個(gè)例子說，10個(gè)十進(jìn)制的0.1相加后，就“不等于”浮點(diǎn)數(shù)1.0

所以，當(dāng)需比較兩個(gè)浮點(diǎn)數(shù)是否相等時(shí)，一般我們要比較這兩個(gè)浮點(diǎn)數(shù)的差的絕對(duì)值，是否小于一個(gè)我們允許的誤差值，比如1億分之一。當(dāng)小于這個(gè)數(shù)時(shí)，我們就認(rèn)為這兩個(gè)浮點(diǎn)數(shù)是“相等”的。

本帖最近評(píng)分記錄：

下載積分:+3(18026919780)