My Day✳ブログの記事一覧 ↗

見える数の合計と集計結果が違う理由

通常の数値書式は表示を変え、計算用の値は変えません。

通常の書式では、丸めて見える数字が新しい入力値になるわけではありません。合計を直す前に入力値と数式を確認します。表示の変更と、途中の値を実際に丸めて次に使う操作は別です。

A1入力1.24、A2入力1.24、合計2.48
A1入力1.24、A2入力1.24、合計2.48

取り組み方

  1. 数式バーで入力値と参照を確かめ、セル表面の数字だけに頼らないようにします。
  2. 通常の数値書式を使い、保存する精度を変更する設定がないことを確認します。
  3. 入力、表示、合計を分けて記録し、見える数字を合わせるためにデータを変更しません。

例

架空の Excel 表でA1とA2に各1.24を入力し、小数点以下1桁で各1.2を表示します。=A1+A2 は2.48となり表示は2.5ですが、見える1.2+1.2は2.4です。ROUNDとSet precision as displayedは使いません。モデルの計算であり、実際のExcel試験や二進数表現の説明ではありません。

My Day · Windows

My Dayには比較を通常のテキストメモとして手動で保存し、開き直して確認できます。内容の検証は自分で行います。

Windows 版 My Day を購入 ↗