Правила округления значений погрешности и результата измерений

Рассчитывая значения погрешностей, получаем результат с большим числом знаков. Однако исходными данными для расчета являются нормируемые значения погрешности средств измерений или методик выполнения измерений, которые указываются с одной или двумя значащими цифрами. Вследствие этого и в окончательном значении рассчитанной погрешности должны быть оставлены только первые две значащие цифры.

На практике установилось такое правило: если полученное число начинается с цифры равной или большей , то в нем сохраняется лишь один знак; если оно начинается с цифры меньшей 3, то в нем сохраняется два знака. В соответствии с этим правилом установлены и нормированы погрешности средств измерений: в числах 1,5 и 2,5% указываются два знака, но в числах 0,5; 4; 6% указывается один знак.

Следует придерживаться следующих правил округлениязначений погрешности и результатов измерений:

§ погрешность результата измерения указывается двумя значащими цифрами, если первая из них 1 или 2, и одной, если первая 3 и более;

§ результат измерения округляется до того же десятичного разряда, которым оканчивается округление результата абсолютной погрешности;

§ округление производится лишь в окончательном ответе, а все предварительные вычисления производятся с одним-двумя лишними знаками.

Округление результата измерения до последнего разряда погрешности следует производить с учетом следующих рекомендаций:

§ лишние цифры в целых числах заменяются нулями, а в десятичных дробях отбрасываются;

§ если десятичная дробь в числовом значении результата измерения оканчивается нулями, то нули отбрасываются только до того разряда, который соответствует разряду погрешности;

§ если первая из заменяемых нулями или отбрасываемых цифр меньше «5», то остающиеся цифры не изменяются;

§ если первая из заменяемых нулями или отбрасываемых цифр равна или больше «5», то последняя остающаяся цифра увеличивается на единицу.

Пример 1. С помощью электронного потенциометра КСП класса точности 0,5 с пределом измерений 1100^оС был получен отсчет измеряемой температуры 855^оС.

Абсолютная погрешность измерения

Значение абсолютной погрешности округляется до одной значащей цифры Dt»6^оС, и измеренное значение записывается

Пример 2. Результат измерения 2,09000; погрешность Окончательно результат записывают .

Пример 3. Результат измерения 1234,55; погрешность . Окончательно результат записывают .

Пример 4. Результат измерения 5499,7; погрешность . Окончательно результат записывают .

Пример 5. Результат измерения 575,3455; погрешность . Окончательно результат записывают .

Дата добавления: 2015-04-30