ListFan
计算 · 免费

线性校准残差工作表

将参考值拟合到仪器读数并检查残差。

01输入数值

在浏览器中运行

可在浏览器中离线运行。页面和所需文件加载完成后,处理无需互联网。

用3–200组配对观测进行无权最小二乘拟合y=a+bx。残差为参考值减拟合值,报告最大绝对残差及其占参考范围的百分比。仅在观测读数范围内预测。

示例

使用方法

将参考值拟合到仪器读数并检查残差。

b=Σ((x−x̄)(y−ȳ))/Σ(x−x̄)²; a=ȳ−bx̄; eᵢ=yᵢ−(a+bxᵢ); E%=100 max|eᵢ|/(max y−min y)

在浏览器中运行

发现来源

数据留在你的设备上

输入仅在本页面处理,不会发送到服务器。

关于此工具

将参考值拟合到仪器读数并检查残差。

用3–200组配对观测进行无权最小二乘拟合y=a+bx。残差为参考值减拟合值,报告最大绝对残差及其占参考范围的百分比。仅在观测读数范围内预测。

使用工具 ↑

使用方法

  1. 输入数值

    校准观测 · 待插值读数

  2. 计算 / 生成

    将参考值拟合到仪器读数并检查残差。

  3. 结果

    拟合参考值: 2 斜率: 2 截距: 1

计算方法

  1. 用3–200组配对观测进行无权最小二乘拟合y=a+bx。
  2. 残差为参考值减拟合值,报告最大绝对残差及其占参考范围的百分比。
  3. 仅在观测读数范围内预测。
b=Σ((x−x̄)(y−ȳ))/Σ(x−x̄)²; a=ȳ−bx̄; eᵢ=yᵢ−(a+bxᵢ); E%=100 max|eᵢ|/(max y−min y)
示例场景

线性校准残差工作表

校准观测
仪器读数: 0, 参考值: 1 仪器读数: 1, 参考值: 3 仪器读数: 2, 参考值: 5
待插值读数
0.5
结果
拟合参考值: 2
斜率: 2
截距: 1

常见问题

限制与基本假设

每列单位一致,两列均须有变化。这是描述性拟合,不是校准证书、不确定度预算或独立精度验证。异常值和非线性可能使其不适用。

数据会发送到哪里?

计算在你的设备上进行。表单输入不会发送到服务器。

术语与定义

输入数值

校准观测

每行输入一个项目,各列描述该项目。

仪器读数

输入此量的数值。

最小值: -1000000000 · 最大值: 1000000000

参考值

输入此量的数值。

最小值: -1000000000 · 最大值: 1000000000

待插值读数

输入此量的数值。

最小值: -1000000000 · 最大值: 1000000000

结果

结果

用3–200组配对观测进行无权最小二乘拟合y=a+bx。残差为参考值减拟合值,报告最大绝对残差及其占参考范围的百分比。仅在观测读数范围内预测。

根据输入值按下方方法计算。

拟合参考值

用3–200组配对观测进行无权最小二乘拟合y=a+bx。残差为参考值减拟合值,报告最大绝对残差及其占参考范围的百分比。仅在观测读数范围内预测。

根据输入值按下方方法计算。

斜率

用3–200组配对观测进行无权最小二乘拟合y=a+bx。残差为参考值减拟合值,报告最大绝对残差及其占参考范围的百分比。仅在观测读数范围内预测。

根据输入值按下方方法计算。

截距

用3–200组配对观测进行无权最小二乘拟合y=a+bx。残差为参考值减拟合值,报告最大绝对残差及其占参考范围的百分比。仅在观测读数范围内预测。

根据输入值按下方方法计算。

残差/最大绝对残差

残差为参考值减拟合值,报告最大绝对残差及其占参考范围的百分比。

根据输入值按下方方法计算。

最大残差/观测参考范围

用3–200组配对观测进行无权最小二乘拟合y=a+bx。残差为参考值减拟合值,报告最大绝对残差及其占参考范围的百分比。仅在观测读数范围内预测。

根据输入值按下方方法计算。

仪器读数

用3–200组配对观测进行无权最小二乘拟合y=a+bx。残差为参考值减拟合值,报告最大绝对残差及其占参考范围的百分比。仅在观测读数范围内预测。

根据输入值按下方方法计算。

参考值

用3–200组配对观测进行无权最小二乘拟合y=a+bx。残差为参考值减拟合值,报告最大绝对残差及其占参考范围的百分比。仅在观测读数范围内预测。

根据输入值按下方方法计算。

常见错误与修正

限制与基本假设

错误: 将结果用于所述范围之外。

修正: 每列单位一致,两列均须有变化。这是描述性拟合,不是校准证书、不确定度预算或独立精度验证。异常值和非线性可能使其不适用。

限制与基本假设

  • 每列单位一致,两列均须有变化。这是描述性拟合,不是校准证书、不确定度预算或独立精度验证。异常值和非线性可能使其不适用。
  • 用3–200组配对观测进行无权最小二乘拟合y=a+bx。残差为参考值减拟合值,报告最大绝对残差及其占参考范围的百分比。仅在观测读数范围内预测。
  • 显示结果可能经过舍入,舍入不会提高测量精度。