Правила округления

Задачи по оценке погрешностей результатов прямых однократных измерений.

9.1. Показание миллиамперметра 80мА. Найти погрешности результата измерения, если предел измерения прибора 100 мА; класс точности 2,0; относительная температурная погрешность ±1,5%; случайная погрешность ζ = 2,7мА (принять доверительную вероятность Р=0,95).

9.2. Показание вольтметра 30 В. Найти абсолютную и относительную погрешности, если U_к =50 В, класс точности 1,5; СКО метода σ_м=0,8 В; СКО вольтметра σ_v = 0,8 В (принять доверительную вероятность Р=0,99).

9.3. Показания омметра 500 Ом. Найти абсолютную и относительную погреш­ности результата измерения, если класс точности омметра 1,5; относитель­ная методическая погрешность ±2%; случайная погрешность ζ =3,2 Ом; вер­хний предел измерения 600 Ом. Принять доверительную вероятность Р=0,95.

9.4. Показание вольтметра 125,4 В. Найти абсолютную и относительную по­грешности результата измерения, если предел измерения прибора 200 В; класс точности вольтметра 1,5; случайная погрешность ζ =0,75 В (Р=0,95); внутреннее сопротивление 49 кОм; эквивалентное сопротивление цепи, к которой подключён вольтметр, составляет 1 кОм. Округлить. Записать ре­зультат с учётом погрешности.

9.5. Показание миллиамперметра 20 мА. Найти абсолютную и относительную погрешности результата измерения, если предел измерения прибора 50 мА; класс точности 2,5; внутреннее сопротивление 1кОм и сопротивление цепи 49 Ом. Принять СКО результата измерения равным 1,3 Ом и доверительную вероятность Р=0,99. Округлить. Записать результат измерения с учётом пог­решности.

9.6. Показание вольтметра 80,3 В. Верхний предел измерения 100 В. Найти абсолютную и относительную погрешности результата измерения, если класс точности вольтметра 1,0 и относительная температурная погреш­ность ±1,5%). Принять погрешность метода ±2,8 В и доверительную ве­роятность Р=0,95. Полученный результат округлить и записать результат измерения с учётом погрешности.

9.7. Показание миллиамперметра 50 мА. Найти абсолютную и относительную погрешности результата измерения, если предел измерения прибора 200 мА класс точности 2,0 и относительная температурная погрешность ±1,5% (Р=0,95). Принять СКО результата измерения равным 3,16 мА. Округлить. Записать результат измерения с учётом найденной погрешности.

Результаты измерений и погрешности следует округлять по сложившимся правилам.

Основные положения правил округления:

1. Округление проводится только один раз при получении окончательных результатов. Все промежуточные результаты целесообразно представлять тем числом разрядов, которые удаётся получить.

2. Округление начинается с округления погрешности результата измерения.

3. Погрешность результата измерения округлятся до двух значащих цифр, если при движении слева направо первая значащая цифра округляемой погрешности меньше 3.

Погрешность результата измерения округляется до одной значащей цифры, если при движении слева направо первая значащая цифра округляемой погрешности больше 3 или равна 3.

4. Результат измерения округляется так, чтобы он оканчивался цифрой того же разряда, что и значение погрешности. Если числовое значение результата измерения представляется десятичной дробью, оканчивающейся нулями, то нули отбрасываются только до того разряда, который соответствует разряду числового значения погрешности.

5. Если цифра старшего из отбрасываемых разрядов меньше 5, то остающиеся цифры в числе не изменяют. Если эта цифра больше 5, то последнюю оставляемую цифру увеличивают на единицу. Лишние цифры в целых числах заменяют нулями, а в десятичных дробях отбрасывают. Например, результат измерения U=25,4587 мВ при погрешности результата Δ=±0,0213 мВ. Округление начинается с погрешности. После округления погрешность Δ =±0,021 мВ и результат измерения U=25,459 мВ. Результат измерения с учетом погрешности запишется в виде U`=(25,459±0,021) мВ. Если погрешность (при том же результате измерения) Δ=±6,25 мВ, то после округления Δ=±6 мВ, U=25 мВ и результат измерения с учетом погрешности U`=(25±6) мВ.

6. Если отбрасываемая цифра равна 5, а следующие за ней цифры отсутствуют или нули, то последнюю сохраняемую цифру числа не изменяют.

Если отбрасываемая цифра равна 5, а следующие за ней цифры отличны от нуля, то последнюю сохраняемую цифру числа увеличивают на единицу.

7. Примеры округления:

а) результат измерения А=625,47; погрешность ΔА=±7,24. После округления: ΔА=±7; А=625 и результат измерения с учетом погрешности A`=(625±7);

б) результат измерения B=1055,53; погрешность ΔB=±5,29. После округления: ΔB=±5; B=1056 и результат измерения с учетом погрешности B'=(1056±5);

в) результат измерения С=72,85; погрешность ΔС=±0,35. После округления: ΔС=±0,3; С=±72,8 и результат измерения с учетом погрешности С=(72,8±0,3).

Дата добавления: 2015-04-30