集計表の端数処理

[shimada5A5C8]

集計表の端数処理について質問です。

あるパラメータの値が「〇〇.5」のとき、繰り上げられる場合と切り捨てられる場合があります。

どのようなルールの端数処理が行われているのでしょうか。

また、できれば統一をしたいのですがどうしたらよいでしょうか。

具体的には以下のようなことが起こっています。

寸法1＝寸法2＝201.5mm、集計表フィールドに寸法1と寸法2を追加し、書式設定として小数点以下の桁数0としています。

このとき、寸法1は202mｍと表示されるのに、寸法2は201mmと表示されます。

[miura_tVXDLF · Accepted solution]

@shimada5A5C8 さま

プロジェクト単位が異なっており、0.56が0.6のように切り上げられているのかと思います。

単位を0.0に設定すると治るかと思われます。

[shimada5A5C8]

@miura_tVXDLF さま

ご返信ありがとうございます。

単位を0.0に設定するとは、添付のような設定にするということでしょうか？

プロジェクト単位で長さは添付のようにしています。

質問で上げた現象は一つのプロジェクト内で起こっています。

共通の条件下で違う出力がなされているので困っています。

[AITS-miura · Accepted solution]

@shimada5A5C8 さま

小数点以下の区切りを2にし、0を省略すると正確な数値になるかと思います

よろしくお願いいたします。

[shimada5A5C8]

@AITS-miura さま
ご返信ありがとうございます。