My Day✳ブログの記事一覧 ↗

二段階の丸めで答えが変わらないか調べる

最後に丸めるまで元の値を残します。

ここでは正の十進数を最も近い値に丸め、ちょうど中間なら大きい方を選びます。途中の丸めが次の計算を変えるため、二回の丸めが一回の直接の丸めと同じとは限りません。

元の値2.346、2.35経由で2.4、直接なら2.3
元の値2.346、2.35経由で2.4、直接なら2.3

取り組み方

  1. 元の十進数、最終的な桁数、中間値の扱いを記録します。
  2. 元の値から直接丸める経路と、途中で丸める経路を別々に計算します。
  3. 結果を比べて元の値を保ち、指定した最後の段階で最終的に丸めます。

例

架空の計算:2.346を小数第2位まで丸めると2.35、さらに第1位までなら2.4です。2.346から直接第1位までなら2.3です。途中の2.35はここでは正確な十進数であり、計算機の二進数保存の説明ではありません。

My Day · Windows

My Dayには二つの経路と規則を保存できます。計算は自分で確認します。

Windows 版 My Day を購入 ↗