望修復系統(tǒng)無法對0.00000001與0.000000001計算的問題
作者:博易POBO 來源:cxh99.com 發(fā)布時間:2024年05月04日
咨詢內(nèi)容:
望修復系統(tǒng)無法對0.00000001與0.000000001計算的問題
例:0.00000001,9位小數(shù)時系統(tǒng)邏輯計算時是大于0,但0.0000000001,10位小數(shù)卻不能識別為大于0,希望老師修復這個問題。
?
?來源:程序化99網(wǎng)( www.kzuj.com.cn )
博易技術(shù)人員:
您好,我已經(jīng)記錄這個問題,請問您能描述一下用途嗎,什么計算需要這么多位小數(shù)?
都是用于趨勢計算的。算法粗細而已,但出現(xiàn)這個問題是存在的。
來源 程序化久久網(wǎng)