Wolfram ResearchPRODUCTSPURCHASEFOR USERSCOMPANYOUR SITES
THIS IS DOCUMENTATION FOR AN OBSOLETE PRODUCT.
SEE THE DOCUMENTATION CENTER FOR THE LATEST INFORMATION.

Documentation / Mathematica / 組込み関数 / 数値計算 / 数値精度 /

Precision

FilledSmallSquare Precision[x]は,xにおける精度の有効桁数を与える.

FilledSmallSquare Precision[x]xの値における相対的な不確定性の尺度を与える.

FilledSmallSquare 絶対的な不確定性dxでは,Precision[x]-Log[10, dx/x]である.

FilledSmallSquare Precision[x]は,整数のような厳密な数に対してはInfinityを与える.

FilledSmallSquare Precision[x]は通常整数を結果としては返さない.

FilledSmallSquare Precision[x]は,機械精度の数に対しては$MachinePrecisionを与える.

FilledSmallSquare digits`pの形式で入力された数は精度pであるとみなされる.

FilledSmallSquare 0``aのように全体のスケールが決定できない数は精度が0であるとみなされる.

FilledSmallSquare 精度が0あるいは負の数はStandardFormではと出力される.ここでは確度である.

FilledSmallSquare xが数でない場合,Precision[x]xに現れるすべての数のPrecisionの最小値を与える.

FilledSmallSquare 参照セクション:3.1.4.

FilledSmallSquare 次も参照:AccuracyNChopSetPrecisionMachineNumberQ

FilledSmallSquare バージョン1の新関数.バージョン5.0で大幅改訂

他の例



Any questions about topics on this page? Click here to get an individual response.Buy NowMore Information


 © 2009 Wolfram Research, Inc.  Terms of Use  Privacy Policy | [en] |
ニュースレターのご登録