このQ&Aは役に立ちましたか?
JISの数値の丸め方について
2023/10/19 21:39
- JISの数値の丸め方について質問させていただきます。ある参考書でこんな記述があったのですが、どうも理解できません。
- JISの数値の丸め方についての解説をお願いいたします。
- 1.2501を有効数字2桁に丸めるとする場合、n桁目以下の数値が、n桁目の1単位の1/2を超える場合には、n桁目を1単位だけ増すという法則を使って1.3とする。
JISの数値の丸め方について
2018/09/15 20:02
お世話になります。
JISの数値の丸め方について質問させていただきます。ある参考書でこんな記述があったのですが、どうも理解できません。お分かりになる方、どうか分かりやすい解説をお願いいたします。
------------------------------------------------------------------------------------------------------------
1.2501を有効数字2桁に丸めるとする。
(n+1)桁目以下の数値が、n桁目の1単位の1/2を超える場合には、n桁目を1単位だけ増す。
この法則を使い1.3とする。
------------------------------------------------------------------------------------------------------------
質問者が選んだベストアンサー
>1.2501を有効数字2桁に丸めるとする。
>(n+1)桁目以下の数値が、n桁目の1単位の1/2を超える場合には、n桁目を1単位だけ増す。
>この法則を使い1.3とする。
JISの規定する丸め方か否かは差し置いて、記述してあることの意味は次のように理解すればいいと思います。
1.2501を有効数字n:2桁に丸めるとする。
(2+1)=3桁目以下の数値が、2桁目の1単位の1/2を超える場合には、2桁目を1単位だけ増す。
この法則を使えば、
3桁目以下の数値は、0.0501であって、2桁目の1単位である0.1の1/2を超えるので、1.2501の上位から2桁めの「2」を一単位増やして「3」とするということです。
結果として丸めた数値は、「1.3」になるということです。
数値の丸め方を規定するJISは、下記の参考URLで閲覧できます。
規格番号:JIS Z 8401
規格名称:数値の丸め方
このQ&Aは役に立ちましたか?
この質問は投稿から一年以上経過しています。
解決しない場合、新しい質問の投稿をおすすめします。
お礼
2018/09/17 10:27
大変わかりやすい解説をありがとうございます。納得できました。