|
Precision
Precision[x]は,xにおける精度の有効桁数を与える.
Precision[x]はxの値における相対的な不確定性の尺度を与える.
絶対的な不確定性dxでは,Precision[x]は-Log[10, dx/x]である.
Precision[x]は,整数のような厳密な数に対してはInfinityを与える.
Precision[x]は通常整数を結果としては返さない.
Precision[x]は,機械精度の数に対しては$MachinePrecisionを与える.
digits`pの形式で入力された数は精度pであるとみなされる.
0``aのように全体のスケールが決定できない数は精度が0であるとみなされる.
精度が0あるいは負の数はStandardFormでは と出力される.ここで は確度である.
xが数でない場合,Precision[x]はxに現れるすべての数のPrecisionの最小値を与える.
参照セクション:3.1.4.
次も参照:Accuracy,N,Chop,SetPrecision,MachineNumberQ.
バージョン1の新関数.バージョン5.0で大幅改訂
他の例
|