公開日: 04/01/2021

測定の有効桁数

「測定の有効桁数」レポートは、測定の有効桁数を決めるのに役立ちます。有効桁数を増やしたり、逆に減らしたりする必要があるか、または、現在の桁数のままで良いかが表示されます。次の点を念頭に置いてください。

「公算誤差」(probable error; 確率誤差、蓋然誤差)は、繰り返し誤差(の絶対値)の中央値です。

「現在の測定単位」には、現在のデータから推察された測定単位が、10のべき乗で表示されます。この数値が、「最小有効測定単位」・「測定単位の下限」・「最大有効測定単位」と比較され、有効桁数の提案がなされます。

有効桁数を減らすと、測定値の最終桁における数字がもつ不確実さは減ります。しかし、数値を丸めたことによる誤差は大きくなります。一方、有効桁数を増やすと、数値の丸めによる誤差は小さくなります。しかし、測定値の最終桁における数字は、不確実さが増します。

より詳細な情報が必要な場合や、質問があるときは、JMPユーザーコミュニティで答えを見つけましょう (community.jmp.com).