Wolfram ResearchPRODUCTSPURCHASEFOR USERSCOMPANYOUR SITES
THIS IS DOCUMENTATION FOR AN OBSOLETE PRODUCT.
SEE THE DOCUMENTATION CENTER FOR THE LATEST INFORMATION.

Documentation / Mathematica / 組込み関数 / 数値計算 / 数値精度 /

SetPrecision

FilledSmallSquare SetPrecision[expr, p]は,すべての数がp桁の精度を持つように設定された形のexprを作成する.

FilledSmallSquare SetPrecisionが,数の精度を増加させるために使用された場合,その数はゼロで充填される.このゼロは2進のゼロで与えられる.したがって,10進にした場合,通常,追加された桁はゼロにならない.

FilledSmallSquare 要求された数の精度が$MachinePrecisionより劣る場合でも,SetPrecisionは任意の精度の数を返す.

FilledSmallSquare SetPrecision[expr, MachinePrecision]expr中のすべての数を機械精度に変換する.

FilledSmallSquare exprが機械精度の数値を持つ場合,SetPrecision[expr, p]はコンピュータシステムによって異なる結果を与えることがある.

FilledSmallSquare SetPrecisionは,まず数値の内部のバイナリ表示で隠されている余分な桁を表し,それらを使い尽くしてはじめて,連なるゼロを追加する.

FilledSmallSquare 0.004`25は,すべての連なるゼロと任意のコンピュータで精度25を持つ数値を作成する.

FilledSmallSquare SetPrecision[expr, p]自体はexprを変更しない.

FilledSmallSquare 参照セクション:3.1.5.

FilledSmallSquare 次も参照:NPrecisionChopSetAccuracy$MinPrecision$NumberMarks

FilledSmallSquare バージョン2の新関数.バージョン5.0で大幅改訂

他の例



Any questions about topics on this page? Click here to get an individual response.Buy NowMore Information


 © 2009 Wolfram Research, Inc.  Terms of Use  Privacy Policy | [en] |
ニュースレターのご登録