正在播放超嫩在线播放,二区三区在线,少妇av一区二区

工控人家園 綜合討論 一個關于浮點數除法的疑問

科技改變未來

知識就是讓你禿頭的力量

級別: 家園常客

發送短信
加為好友

精華主題: 0
發帖數量: 539 個
工控威望: 759 點
下載積分: 10389 分
在線時間: 439(小時)
注冊時間: 2011-04-18
最后登錄: 2025-01-13
查看科技改變未來的主題 / 回貼

樓主發表于: 2022-08-24 10:44

只看樓主 | 小中大

圖片：

如圖通過模擬發現被除數小于82時候，算出的結果是準的。被除數大于83 ，為什么結果就不準了呢/有知道原因的小伙伴嗎

pretco123

不為失敗找理由，只為成功找方法

級別: 論壇先鋒

發送短信
加為好友
QQ聯系

精華主題: 0
發帖數量: 2422 個
工控威望: 1781 點
下載積分: 83909 分
在線時間: 1530(小時)
注冊時間: 2008-04-15
最后登錄: 2025-11-04
查看pretco123的主題 / 回貼

1樓發表于: 2022-08-24 10:50

只看該作者 | 小中大

第二個圖打不開

科技改變未來

知識就是讓你禿頭的力量

級別: 家園常客

發送短信
加為好友

2樓發表于: 2022-08-24 10:52

只看該作者 | 小中大

圖片：

幫看看分析一下

菜鳥入行

級別: 論壇先鋒

發送短信
加為好友

精華主題: 0
發帖數量: 1373 個
工控威望: 1557 點
下載積分: 3690 分
在線時間: 177(小時)
注冊時間: 2017-09-01
最后登錄: 2024-06-11
查看菜鳥入行的主題 / 回貼

3樓發表于: 2022-08-24 11:15

只看該作者 | 小中大

有沒可能F83其實是82.99992

打個醬油，懂的不多
水平有限，能幫則幫
互相幫助，共同進步

zlcp123

級別: 工控俠客

發送短信
加為好友

精華主題: 0
發帖數量: 128 個
工控威望: 4321 點
下載積分: 13692 分
在線時間: 560(小時)
注冊時間: 2018-09-11
最后登錄: 2025-09-28
查看zlcp123的主題 / 回貼

4樓發表于: 2022-08-24 13:31

只看該作者 | 小中大

有什么問題嗎？浮點數本來就是近似數

gxtmdb82164

級別: 論壇先鋒

發送短信
加為好友

精華主題: 0
發帖數量: 876 個
工控威望: 1255 點
下載積分: 680 分
在線時間: 700(小時)
注冊時間: 2019-09-22
最后登錄: 2025-11-06
查看gxtmdb82164的主題 / 回貼

5樓發表于: 2022-08-24 15:16

只看該作者 | 小中大

你繼續換其他數值,你會發現還有其他的數也會有誤差~

這就是傳說中,二進制不能用于表達任意值,通過浮點數格式,在有限范圍內盡可能精確的逼近目標值~

libin520

雖然沒什么突破和進步，卻還是每天在堅持著。

級別: 工控俠客

發送短信
加為好友

精華主題: 1 篇
發帖數量: 2396 個
工控威望: 2881 點
下載積分: 4646 分
在線時間: 1213(小時)
注冊時間: 2008-10-24
最后登錄: 2025-03-23
查看libin520的主題 / 回貼

6樓發表于: 2022-08-25 00:31

只看該作者 | 小中大

中間需要轉化一下。詳見以下視頻。更正K100應為E100。
https://www.bilibili.com/video/BV1vg411r7dj?spm_id_from=333.999.0.0&vd_source=fe01af24b36f4ec9d5907739c0079391
之前也看到過這個問題。網上搜索了一下。里面的內容需要批判繼承

三菱浮點數轉整數INT指令運算結果為什么不對.zip (1134 K) 下载次数:31

需要高品質音樂資源+QQ群：723680148，音質好的音樂讓愛車如音樂海洋。享受美妙音樂帶來的超快感。音樂文件資源來聊即送。

明月照我心

干飯了！干飯了！

級別: 略有小成

發送短信
加為好友
QQ聯系

精華主題: 0
發帖數量: 82 個
工控威望: 324 點
下載積分: 186 分
在線時間: 37(小時)
注冊時間: 2022-08-02
最后登錄: 2025-10-28
查看明月照我心的主題 / 回貼

7樓發表于: 2022-08-25 08:09

只看該作者 | 小中大

學習

哪有什么歲月盡好，只有一堆人在替你遮風擋雨！

rongbing

級別: 論壇先鋒

發送短信
加為好友

精華主題: 0
發帖數量: 1176 個
工控威望: 1413 點
下載積分: 30523 分
在線時間: 333(小時)
注冊時間: 2015-02-15
最后登錄: 2025-11-06
查看rongbing的主題 / 回貼

8樓發表于: 2022-08-25 08:18

只看該作者 | 小中大

浮點數近似值

niningtt

級別: 工控俠客

發送短信
加為好友
QQ聯系

精華主題: 0
發帖數量: 1226 個
工控威望: 3555 點
下載積分: 854 分
在線時間: 463(小時)
注冊時間: 2010-08-24
最后登錄: 2025-10-31
查看niningtt的主題 / 回貼

9樓發表于: 2022-08-25 11:54

只看該作者 | 小中大

IEEE 754 浮點數的尾數部分是23位，也就是23位的二進制是真正實現數值的精度的，指數可以近似理解為確定小數點位數(這么說便于理解)。1/128=0.0078125,也就在這附近了，精度不夠了，所以浮點數不需要糾結最后面的小數，只要小數點前位數多，小數點后就會出現，甚至太多的話個位、十位、百位都有可能北省去

工控人家園 綜合討論 一個關于浮點數除法的疑問

http://m.jt-zhenqiu.com
訪問內容超出本站范圍，不能確定是否安全
繼續訪問	取消訪問