制限と主な前提
間違い: 説明された適用範囲外で結果を使う。
修正: 列内の単位を統一し、両列の値が変化する必要があります。記述的な当てはめであり、校正証明書、不確かさ予算、独立した精度検証ではありません。外れ値や非線形性に注意してください。
計算 · 無料
線形校正残差ワークシート
機器の読みと基準値を当てはめ、残差を確認します。
01値を入力
ブラウザーで動作ブラウザー内でオフライン動作します。ページと必要なファイルの読み込み後は、処理にインターネット接続は不要です。
02線形校正残差ワークシート
ブラウザーで動作
使い方
機器の読みと基準値を当てはめ、残差を確認します。
b=Σ((x−x̄)(y−ȳ))/Σ(x−x̄)²; a=ȳ−bx̄; eᵢ=yᵢ−(a+bxᵢ); E%=100 max|eᵢ|/(max y−min y)
ブラウザーで動作
データは端末内に
入力はこのページ内で処理され、サーバーには送信されません。
このツールについて
ツールを使う ↑機器の読みと基準値を当てはめ、残差を確認します。
3–200組の観測から重みなし最小二乗法でy=a+bxを求めます。残差は基準値から当てはめ値を引いた値です。最大絶対残差と基準範囲に対する割合を示し、観測範囲内のみ予測します。
使い方
- 値を入力
校正観測値 · 補間する読み
- 計算 / 生成
機器の読みと基準値を当てはめ、残差を確認します。
- 結果
当てはめた基準値: 2 傾き: 2 切片: 1
計算方法
- 3–200組の観測から重みなし最小二乗法でy=a+bxを求めます。
- 残差は基準値から当てはめ値を引いた値です。
- 最大絶対残差と基準範囲に対する割合を示し、観測範囲内のみ予測します。
b=Σ((x−x̄)(y−ȳ))/Σ(x−x̄)²; a=ȳ−bx̄; eᵢ=yᵢ−(a+bxᵢ); E%=100 max|eᵢ|/(max y−min y)
線形校正残差ワークシート
- 校正観測値
- 機器の読み: 0, 基準値: 1 機器の読み: 1, 基準値: 3 機器の読み: 2, 基準値: 5
- 補間する読み
- 0.5
結果
当てはめた基準値: 2 傾き: 2 切片: 1
よくある質問
制限と主な前提
列内の単位を統一し、両列の値が変化する必要があります。記述的な当てはめであり、校正証明書、不確かさ予算、独立した精度検証ではありません。外れ値や非線形性に注意してください。
データはどこへ送られますか？
計算は端末上で行います。入力はサーバーへ送信されません。
用語と説明
値を入力
- 校正観測値
1行に1項目を入力し、各列でその内容を指定します。
- 機器の読み
この量の数値を入力してください。
最小値: -1000000000 · 最大値: 1000000000
- 基準値
この量の数値を入力してください。
最小値: -1000000000 · 最大値: 1000000000
- 補間する読み
この量の数値を入力してください。
最小値: -1000000000 · 最大値: 1000000000
結果
- 結果
3–200組の観測から重みなし最小二乗法でy=a+bxを求めます。残差は基準値から当てはめ値を引いた値です。最大絶対残差と基準範囲に対する割合を示し、観測範囲内のみ予測します。
入力値から以下の方法で計算します。
- 当てはめた基準値
3–200組の観測から重みなし最小二乗法でy=a+bxを求めます。残差は基準値から当てはめ値を引いた値です。最大絶対残差と基準範囲に対する割合を示し、観測範囲内のみ予測します。
入力値から以下の方法で計算します。
- 傾き
3–200組の観測から重みなし最小二乗法でy=a+bxを求めます。残差は基準値から当てはめ値を引いた値です。最大絶対残差と基準範囲に対する割合を示し、観測範囲内のみ予測します。
入力値から以下の方法で計算します。
- 切片
3–200組の観測から重みなし最小二乗法でy=a+bxを求めます。残差は基準値から当てはめ値を引いた値です。最大絶対残差と基準範囲に対する割合を示し、観測範囲内のみ予測します。
入力値から以下の方法で計算します。
- 残差／最大絶対残差
最大絶対残差と基準範囲に対する割合を示し、観測範囲内のみ予測します。
入力値から以下の方法で計算します。
- 最大残差／観測基準値の範囲
3–200組の観測から重みなし最小二乗法でy=a+bxを求めます。残差は基準値から当てはめ値を引いた値です。最大絶対残差と基準範囲に対する割合を示し、観測範囲内のみ予測します。
入力値から以下の方法で計算します。
- 機器の読み
3–200組の観測から重みなし最小二乗法でy=a+bxを求めます。残差は基準値から当てはめ値を引いた値です。最大絶対残差と基準範囲に対する割合を示し、観測範囲内のみ予測します。
入力値から以下の方法で計算します。
- 基準値
3–200組の観測から重みなし最小二乗法でy=a+bxを求めます。残差は基準値から当てはめ値を引いた値です。最大絶対残差と基準範囲に対する割合を示し、観測範囲内のみ予測します。
入力値から以下の方法で計算します。
よくある間違いと修正
制限と主な前提
- 列内の単位を統一し、両列の値が変化する必要があります。記述的な当てはめであり、校正証明書、不確かさ予算、独立した精度検証ではありません。外れ値や非線形性に注意してください。
- 3–200組の観測から重みなし最小二乗法でy=a+bxを求めます。残差は基準値から当てはめ値を引いた値です。最大絶対残差と基準範囲に対する割合を示し、観測範囲内のみ予測します。
- 表示値は丸められることがありますが、測定精度が向上するわけではありません。