咨詢內(nèi)容:
老師,怎樣提高計算精度
例如dma默認(rèn)的計算結(jié)果是整數(shù),我想保留小數(shù)點(diǎn)后兩位,怎樣做?
?
?來源:程序化99網(wǎng)( m.kzuj.com.cn )
博易技術(shù)人員:
有一個數(shù)值精度函數(shù),好像不能在包涵dma的混合計算中使用
PRECISION(N)
用逗號分隔放在輸出語句之后,設(shè)置輸出結(jié)果顯示的小數(shù)位數(shù)。
N為0-10的常數(shù),表示小時位數(shù)。
例如:
MA1:MA(C,5),PRECISION(3);
表示指標(biāo)輸出MA1為5周期收盤均線,顯示的數(shù)值精度為3位小數(shù)。
來源 程序化久久網(wǎng)