|
SetPrecision
SetPrecision[expr, p]は,すべての数がp桁の精度を持つように設定された形のexprを作成する.
SetPrecisionが,数の精度を増加させるために使用された場合,その数はゼロで充填される.このゼロは2進のゼロで与えられる.したがって,10進にした場合,通常,追加された桁はゼロにならない.
要求された数の精度が$MachinePrecisionより劣る場合でも,SetPrecisionは任意の精度の数を返す.
SetPrecision[expr, MachinePrecision]はexpr中のすべての数を機械精度に変換する.
exprが機械精度の数値を持つ場合,SetPrecision[expr, p]はコンピュータシステムによって異なる結果を与えることがある.
SetPrecisionは,まず数値の内部のバイナリ表示で隠されている余分な桁を表し,それらを使い尽くしてはじめて,連なるゼロを追加する.
0.004`25は,すべての連なるゼロと任意のコンピュータで精度25を持つ数値を作成する.
SetPrecision[expr, p]自体はexprを変更しない.
参照セクション:3.1.5.
次も参照:N,Precision,Chop,SetAccuracy,$MinPrecision,$NumberMarks.
バージョン2の新関数.バージョン5.0で大幅改訂
他の例
|