Wolfram ResearchPRODUCTSPURCHASEFOR USERSCOMPANYOUR SITES
THIS IS DOCUMENTATION FOR AN OBSOLETE PRODUCT.
SEE THE DOCUMENTATION CENTER FOR THE LATEST INFORMATION.

Documentation / Mathematica / 組込み関数 / 数値計算 / 数値精度 /

他の例: SetPrecision

これはの機械精度による近似である.

In[1]:=

Out[1]=

You can increase the precision to . 精度を40桁まで上げることができる.

In[2]:=

Out[2]=

The additional digits are in base , not in base . Mathematica uses base internally to represent numbers. 追加された桁は2進法の0である.10進法ではない(Mathematicaは数を表すのに内部的には2進法を使う).

In[3]:=

Out[3]//BaseForm=

機械数を作る際に精度を下げることもできる.

In[4]:=

Out[4]=

In[5]:=

Out[5]=

In[6]:=



Any questions about topics on this page? Click here to get an individual response.Buy NowMore Information


 © 2009 Wolfram Research, Inc.  Terms of Use  Privacy Policy | [en] |
ニュースレターのご登録