Wolfram ResearchPRODUCTSPURCHASEFOR USERSCOMPANYOUR SITES
THIS IS DOCUMENTATION FOR AN OBSOLETE PRODUCT.
SEE THE DOCUMENTATION CENTER FOR THE LATEST INFORMATION.

Documentation / Mathematica / 組込み関数 / 数値計算 / 数値精度 /

SetAccuracy

FilledSmallSquare SetAccuracy[expr, a]は,exprのすべての数をa桁の精度で与えられた形にする.

FilledSmallSquare SetAccuracyが数の精密さを増すことに使われた場合,この数はゼロでこの精密さまで桁を増やされる.この場合,2進でゼロが与えられる.したがって,10進に解釈すると,この追加分は通常,ゼロにならない.

FilledSmallSquare SetAccuracyは,$MachinePrecisionよりも小さい有効桁数が得られた場合でも,任意の精度数を返す.

FilledSmallSquare exprが任意の精度数を含む場合,SetAccuracy[expr, a]はコンピュータシステムによって異なる結果を与えることがある.

FilledSmallSquare SetAccuracyは,まず数値の内部のバイナリ表示で隠されている余分な桁を表し,それらを空にした後,連なるゼロを追加する.

FilledSmallSquare 0.004``25は,すべての連なるゼロと任意のコンピュータで精度25を持つ数値を作成する.

FilledSmallSquare SetAccuracy[expr, a]自体は,exprを変更することはない.

FilledSmallSquare 参照セクション:3.1.5.

FilledSmallSquare 次も参照:NAccuracySetPrecision

FilledSmallSquare バージョン2の新関数

他の例



Any questions about topics on this page? Click here to get an individual response.Buy NowMore Information


 © 2009 Wolfram Research, Inc.  Terms of Use  Privacy Policy | [en] |
ニュースレターのご登録