Правила округления значений погрешности и результата измерений

Исходными данными для расчёта являются нормируемые значения погрешности СИ, которые указываются с одной или двумя значащими цифрами.

В окончательном значении рассчитанной погрешности должны быть оставлены только первые одна -две значащие цифры.

Следует учитывать следующее обстоятельство. Если полученное число начинается с цифр 1 или 2, то отбрасывание второго знака недопустимо, так как приводит к большой ошибке (до 30..50%).

В остальных случаях сохранение второго знака нецелесообразно, так как не несёт достоверной информации.

На практике установилось следующее правило

- если полученное число начинается с цифры 3 следовательно один знак < 3 следовательно два знака

- результат измерения округляется до того же десятичного разряда, которым оканчивается округлённой значение абсолютной погрешности

- округление производится лишь в окончательном ответе, промежуточные вычисления лучше вести с одним – двумя лишними знаками.

Схема обработки результатов эксперимента по оценке основных метрологических характеристик СИ .

1. Определение случайной составляющей погрешности

1.1.Вычисляется среднее значение величин , измеренных аттестуемым АК

, где

i – номер отсчёта в точке j

1.2. Вычисляется оценка с.к.о. случайной составляющей погрешности АК для всех выбранных точек измеряемого диапазона

j = 1,2….m

1.3. Проверяется гипотеза о равномерности измерений, выполненных в различных точках измерительного диапазона.

Вычисляется отношение выборочных дисперсий

,

где - соответственно максимальная и минимальная оценки с.к.о. погрешности. Для выбранной доверительной вероятности по таблице F-распределения определяется граница . Если F< F_{рд, n} то различия в оценках дисперсий незначимы и для всех точек можно представить одну оценку с.к.о. погрешности СИ.

Если F≥ F_{рд, n}, то в качестве одной оценки следует выбрать

1.4. Проверяется гипотеза о том, что погрешность подчиняется нормальному распределению. Для проверки можно использовать рекомендации из[ ] [Калиткин Н.Н. Численные методы ]

1.5. Вычисляется граница случайной составляющей погрешности СИ

_рд

t_n,рд - квантиль распределения Стьюдента

2. Определение систематической составляющей погрешности.

2.1. Вычисляется оценка неисключённой систематической составляющей погрешности СИ

≈ _э

_{, э} – выборочное среднее угла в точке j , измеренного , соответственно, аттестуемым СИ и эталонным поверенным средством.

2.2. Находится максимальная оценка значения погрешности

2.3. Вычисляется оценка среднего значения погрешности

2.4. Вычисляется оценка с.к.о. погрешности

2.5. Проверяется гипотеза о нормальности распределения значений по выборке из m точек, равномерно распределённых по измерительному диапазону.

2.6. Если гипотеза о нормальности распределения погрешности принимается, то оценка доверительной границы систематической погрешности находится как

_рд

Если гипотеза о нормальности распределения погрешности отвергается, то для получения квантильной оценки границы погрешности следует либо уточнить форму закона распределения погрешности, либо принять в качестве оценки значение .

По ГОСТ 8.009-84 предел допускаемой систематической составляющей основной погрешности нормируется во всех случаях без исключения, а критерии рациональности нормирования характеристик случайных составляющих основной погрешности следующее:

– при и

нормируется а не нормируется;

– при <0,1 и

Нормируется , а не нормируется;

– при 0,1≤ < 0,9 и

нормируются и

Если не соблюдается любое из вторых неравенств, при соблюдении соответственно первых, ни , ни не нормируются.

Для цифровых измерительных преобразователей и аналого-цифровых преобразователей

Где – номинальная ступень квантования (номинальная оценка единицы постоянного разряда кода)