下図は一覧表を使って、数式エディタで面積値（赤枠内）と、ゾーンカテゴリで面積値（青枠内）を表示したものです。
どちらも小数点以下の処理が四捨五入・切り捨て・切り上げできます。
この小数点以下の話は、別の記事にまとめます。
今回は一覧表に「読み取る小数点以下の桁数」と「表示する小数点以下の桁数」についてそれぞれ設定する箇所が異なりますので説明します。
一覧表の面積値について、「読み取る小数点以下の桁数」を変更する設定について説明します。
下図赤枠でゾーンから一覧表に読み取る小数点以下の桁数について、０～４桁まで設定できます。
例えば、面積値が1.62826㎡の時、
[ 小数 ] ＝ ０ ⇒ 一覧表に読み取るのは「 2 」
[ 小数 ] ＝ １ ⇒ 一覧表に読み取るのは「 1.6 」
[ 小数 ] ＝ ２ ⇒ 一覧表に読み取るのは「 1.63 」
[ 小数 ] ＝ ３ ⇒ 一覧表に読み取るのは「 1.628 」
[ 小数 ] ＝ ４ ⇒ 一覧表に読み取るのは「 1.6283 」
選択した[ 小数 ]の値の一つ下の位を「四捨五入」しています。 ただし、面積値としては小数第4位までしか持っていないので、[ 小数 ]の値を４とした場合は小数第５位を切り捨てしている処理と同じになっています。
一覧表の面積値について、「表示する小数点以下の桁数」を変更する設定について説明します。
下図赤枠でゾーンから一覧表に表示する小数点以下の桁数について、０～４桁まで設定できます。
例えば、面積値が1.0000㎡の時、
[ 小数 ] ＝ ０ ⇒ 一覧表に読み取るのは「 1 」
[ 小数 ] ＝ １ ⇒ 一覧表に読み取るのは「 1.0 」
[ 小数 ] ＝ ２ ⇒ 一覧表に読み取るのは「 1.00 」
[ 小数 ] ＝ ３ ⇒ 一覧表に読み取るのは「 1.000 」
[ 小数 ] ＝ ４ ⇒ 一覧表に読み取るのは「 1.0000 」
となります。
この2つの設定の組み合わせを表にしました。
すごく分かりづらい設定ですが、面積値について一覧表を使って精度をコントロールするには必要なところですので実際に使ってみると理解が深まると思います。
