このQ&Aは役に立ちましたか?
2004/03/03 10:58
単精度 倍精度という言葉をたまに聴きます。
camに使うときや、「体積計算などするときには倍精度でないと計算が出来ない」とか「単精度から倍精度に変換したから数値がおかしい」などと聞くことがあるのですが、そもそも「単精度 倍精度」どう意味なのか、具体的にどういう数値なのかご存知の方がいらっしゃったら教えてください。
電子計算機の数の内部表現に関係する事で
一般的には
単精度:32bit(2進数で32桁)
倍精度:64bit(2進数で64桁)
で表す浮動小数点数を指します。
この32桁や64桁のうち、符号部(+か-か)
指数部(2の何乗か)、仮数部(実際の数字部)に
桁を分けて表現します。
IEEE 754では精度は単精度で67桁、
倍精度で1516桁(いずれも10進数で)
程度となります。
単純に言ってしまえば倍精度は単精度より
多くの記憶領域を使用して精度を高めた数
と考えればよいと思います。
たとえば円周率は
単精度では 3.141593 までしか表現できませんが
倍精度では 3.14159265358979 まで表現できます。
http://hwb.ecc.u-tokyo.ac.jp/topics/infosystem/float.html
http://msugai.fc2web.com/java/binary.html
このQ&Aは役に立ちましたか?
この質問は投稿から一年以上経過しています。
解決しない場合、新しい質問の投稿をおすすめします。
> 「圧倒的に多い」とはCADベンダーに聞くとわかるのですかねぇ?
検索すれば出てきます。カタログにも書かれています。
ただ、単精度は現在では皆無に近く、ほとんどはJW(DOS版)の記事ばかりです。
1件だけですが、単精度(8桁)のCAD情報もありました。
失礼しました。(^^;)
2004/03/04 10:37
ありがとうございます。
私も検索してみます。
sweさんの正確な回答を受けて
CADに限っての単精度・倍精度について調べなおしましたら
単精度:7桁 、倍精度:16桁のCADが圧倒的に多いことが分かりましたので
訂正いたします。
2004/03/04 09:32
ありがとうございます。
「圧倒的に多い」とはCADベンダーに聞くとわかるのですかねぇ?今度聞いてみます。
大変参考になりました。
位置・寸法等を表示したり計算する際の有効数字の桁数です。(大ざっぱですが)
単精度:有効数字上位8桁
倍精度:有効数字上位16桁
となります。
2004/03/03 11:44
ありがとうございます。ちょっとすっきりしました。
関連するQ&A
タンク水張り検査について
消防法の油タンクの水張り検査の際に提出するタンク容量計算書の書き方が分かりませんご存知の方、具体的にどう書けば良いのか教えて下さい宜しくお願い致します。
コレットチャックの把持力計算について
初めて御質問させて頂きます。 コレットチャックのテーパを2θ=16°、ドローバー推力=2.0kNの場合、今までは単純に移動量の逆比と考え、把持力=2.0kN/...
金型の強度計算について
たわみの求め方やストッパー部強度、スライドのシリンダー設定などの強度計算を知りたいのですが、Q&Aを検索してもほとんどありませんでした。 本を見ても計算式はある...
2次元のCAMのソフト(アプリ)を作るには
2次元のCAMのソフト(アプリ)を作るには、何大学の何学部で学ぶと良いですか?領域を捜査線するデータ処理のアルゴリズムを知りたいです。良い参考書があれば良いので...
ゴムの経時変化について
いつも質問ばかりですいません。 ゴムの部品についてお尋ねしたいのです。 ゴムは種類にもよるでしょうが、経時変化がよく指摘されます。私は必要に迫られ使用時の精度を...
ベストアンサーを選ぶと質問が締切られます。
なおベストアンサーを選びなおすことはできません。
お礼
2004/03/04 09:27
ありがとうございます。
IEEE 754についても少し理解できました。