ListFan
Calculadoras · Grátis

Planilha de resíduos de calibração linear

Ajuste referências às leituras e examine os resíduos.

01Insira os valores

Funciona no navegador

Funciona offline no navegador. Após carregar a página e os ficheiros necessários, o processamento não precisa de Internet.

Mínimos quadrados sem ponderação para y=a+bx com 3–200 pares. Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência. Previsão apenas no intervalo observado.

Exemplo

Como funciona

Ajuste referências às leituras e examine os resíduos.

b=Σ((x−x̄)(y−ȳ))/Σ(x−x̄)²; a=ȳ−bx̄; eᵢ=yᵢ−(a+bxᵢ); E%=100 max|eᵢ|/(max y−min y)

Funciona no navegador

Fonte da descoberta

Seus dados ficam com você

Os dados são processados nesta página e não são enviados a um servidor.

Sobre esta ferramenta

Ajuste referências às leituras e examine os resíduos.

Mínimos quadrados sem ponderação para y=a+bx com 3–200 pares. Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência. Previsão apenas no intervalo observado.

Usar ferramenta ↑

Como usar

  1. Insira os valores

    Observações de calibração · Leitura a interpolar

  2. Calcular / gerar

    Ajuste referências às leituras e examine os resíduos.

  3. Resultado

    Valor de referência ajustado: 2 Inclinação: 2 Intercepto: 1

Método de cálculo

  1. Mínimos quadrados sem ponderação para y=a+bx com 3–200 pares.
  2. Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência.
  3. Previsão apenas no intervalo observado.
b=Σ((x−x̄)(y−ȳ))/Σ(x−x̄)²; a=ȳ−bx̄; eᵢ=yᵢ−(a+bxᵢ); E%=100 max|eᵢ|/(max y−min y)
Exemplo prático

Planilha de resíduos de calibração linear

Observações de calibração
Leitura do instrumento: 0, Valor de referência: 1 Leitura do instrumento: 1, Valor de referência: 3 Leitura do instrumento: 2, Valor de referência: 5
Leitura a interpolar
0.5
Resultado
Valor de referência ajustado: 2
Inclinação: 2
Intercepto: 1

Perguntas frequentes

Limites e pressupostos

Unidades consistentes por coluna; ambas devem variar. Ajuste descritivo, não certificado, orçamento de incerteza ou validação independente. Valores atípicos e não linearidade podem invalidá-lo.

Para onde vão meus dados?

Os cálculos ocorrem no seu dispositivo. Os dados não são enviados a um servidor.

Termos e definições

Insira os valores

Observações de calibração

Um item por linha; as colunas descrevem esse item.

Leitura do instrumento

Introduza o valor numérico desta grandeza.

Mínimo: -1000000000 · Máximo: 1000000000

Valor de referência

Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência.

Introduza o valor numérico desta grandeza.

Mínimo: -1000000000 · Máximo: 1000000000

Leitura a interpolar

Introduza o valor numérico desta grandeza.

Mínimo: -1000000000 · Máximo: 1000000000

Resultado

Resultado

Mínimos quadrados sem ponderação para y=a+bx com 3–200 pares. Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência. Previsão apenas no intervalo observado.

Calculado com os seus dados pelo método abaixo.

Valor de referência ajustado

Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência.

Calculado com os seus dados pelo método abaixo.

Inclinação

Mínimos quadrados sem ponderação para y=a+bx com 3–200 pares. Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência. Previsão apenas no intervalo observado.

Calculado com os seus dados pelo método abaixo.

Intercepto

Mínimos quadrados sem ponderação para y=a+bx com 3–200 pares. Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência. Previsão apenas no intervalo observado.

Calculado com os seus dados pelo método abaixo.

Resíduo / resíduo absoluto máximo

Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência.

Calculado com os seus dados pelo método abaixo.

Resíduo máximo / amplitude de referência observada

Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência.

Calculado com os seus dados pelo método abaixo.

Leitura do instrumento

Mínimos quadrados sem ponderação para y=a+bx com 3–200 pares. Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência. Previsão apenas no intervalo observado.

Calculado com os seus dados pelo método abaixo.

Valor de referência

Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência.

Calculado com os seus dados pelo método abaixo.

Erros comuns e soluções

Limites e pressupostos

Erro: Usar resultados fora do âmbito descrito.

Solução: Unidades consistentes por coluna; ambas devem variar. Ajuste descritivo, não certificado, orçamento de incerteza ou validação independente. Valores atípicos e não linearidade podem invalidá-lo.

Limites e pressupostos

  • Unidades consistentes por coluna; ambas devem variar. Ajuste descritivo, não certificado, orçamento de incerteza ou validação independente. Valores atípicos e não linearidade podem invalidá-lo.
  • Mínimos quadrados sem ponderação para y=a+bx com 3–200 pares. Resíduo = referência menos ajuste; máximo absoluto e porcentagem da amplitude de referência. Previsão apenas no intervalo observado.
  • Os resultados podem ser arredondados; isso não aumenta a precisão da medição.