Задача № 1. Округление результатов измерений

При выполнении измерений важно соблюдать определенные правила округления и записи их результатов в технической документации, так как при несоблюдении этих правил возможны существенные ошибки в интерпретации результатов измерений.

Правила записи чисел

1. Значащие цифры данного числа - все цифры от первой слева, не равной нулю, до последней справа. При этом нули, следующие из множителя 10, не учитывают.

Примеры.

а) Число 12,0 имеет три значащие цифры.

б) Число 30 имеет две значащие цифры.

в) Число 12010 8 имеет три значащие цифры.

г) 0,51410 -3 имеет три значащие цифры.

д) 0,0056 имеет две значащие цифры.

2. Если необходимо указать, что число является точным, после числа указывают слово "точно" или последнюю значащую цифру печатают жирным шрифтом. Например: 1 кВт / ч = 3600 Дж (точно) или 1 кВт / ч = 3600 Дж.

3. Различают записи приближенных чисел по количеству значащих цифр. Например, различают числа 2,4 и 2,40. Запись 2,4 означает, что верны только целые и десятые доли, истинное значение числа может быть, например, 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли: истинное значение числа может быть 2,403 и 2,398, но не 2,41 и не 2,382. Запись 382 означает, что все цифры верны: если за последнюю цифру ручаться нельзя, то число должно быть записано 3,810 2 . Если в числе 4720 верны лишь две первые цифры, оно должно быть записано в виде: 4710 2 или 4,710 3 .

4. Число, для которого указывают допустимое отклонение, должно иметь последнюю значащую цифру того же разряда, как и последняя значащая цифра отклонения.

Примеры.

а) Правильно: 17,0 + 0,2. Неправильно: 17 + 0,2 или 17,00 + 0,2.

б) Правильно: 12,13+ 0,17. Неправильно: 12,13+ 0,2.

в) Правильно: 46,40+ 0,15. Неправильно: 46,4+ 0,15 или 46,402+ 0,15.

5. Числовые значения величины и её погрешности (отклонения) целесообразно записывать с указанием одной и той же единицы величины. Например: (80,555 + 0,002) кг.

6. Интервалы между числовыми значениями величин иногда целесообразно записывать в текстовом виде, тогда предлог "от" означает "", предлог "до"– "", предлог "свыше" – ">", предлог "менее" – "<":

"d принимает значения от 60 до 100" означает "60d 100",

"d принимает значения свыше 120 менее 150" означает "120 <d < 150",

"d принимает значения свыше 30 до 50" означает "30 <d 50".

Правила округления чисел

1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.

2. В случае если первая из отбрасываемых цифр (считая слева направо) менее 5, то последнюю сохраняемую цифру не меняют.

Пример: Округление числа 12,23 до трех значащих цифр дает 12,2.

3. В случае если первая из отбрасываемых цифр (считая слева направо) равна 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,145 до двух цифр дает 0,15.

Примечание . В тех случаях, когда следует учитывать результаты предыдущих округлений, поступают следующим образом.

4. Если отбрасываемая цифра получена в результате округления в меньшую сторону, то последнюю оставшуюся цифру увеличивают на единицу (с переходом при необходимости в следующие разряды) , иначе – наоборот. Это касается и дробных и целых чисел.

Пример: Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3.

4. В случае если первая из отбрасываемых цифр (считая слева направо) более 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,156 до двух значащих цифр дает 0,16.

5. Округление выполняют сразу до желаемого количества значащих цифр, а не по этапам.

Пример: Округление числа 565,46 до трех значащих цифр дает 565.

6. Целые числа округляют по тем же правилам, что и дробные.

Пример: Округление числа 23456 до двух значащих цифр дает 2310 3

Числовое значение результата измерения должно оканчиваться цифрой того же разряда, что и значение погрешности.

Пример: Число 235,732 + 0,15 должно быть округлено до 235,73 + 0,15, но не до 235,7 + 0,15.

7. Если первая из отбрасываемых цифр (считая слева направо) меньше пяти, то остающиеся цифры не меняются.

Пример: 442,749+ 0,4 округляется до 442,7+ 0,4.

8. Если первая из отбрасываемых цифр больше или равна пяти, то последняя сохраняемая цифра увеличивается на единицу.

Пример: 37,268 + 0,5 округляется до 37,3 + 0,5; 37,253 + 0,5 должно быть округлено до 37,3 + 0,5.

9. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.

Пример: Поэтапное округление результата измерения 220,46+ 4 дает на первом этапе 220,5+ 4 и на втором 221+ 4, в то время как правильный результат округления 220+ 4.

10. Если погрешность средств измерения указывается всего с одной или двумя значащими цифрами, а рассчетное значение погрешности получают с большим числом знаков, в окончательном значении рассчитанной погрешности должны быть оставлены соответственно только первые одна или две значащие цифры. При этом, если полученное число начинается с цифр 1 или 2, то отбрасывание второго знака приводит к очень большой ошибке (до 3050 %), что недопустимо. Если же полученное число начинается с цифры 3 и более, например, с цифры 9, то сохранение второго знака, т.е. указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так как исходные данные не обеспечивают такой точности.

Исходя из этого на практике установилось такое правило: если полученное число начинается со значащей цифры, равной или большей 3, то в нем сохраняется лишь она одна; если же оно начинается со значащих цифр, меньших 3, т.е. с цифр 1 и 2, то в нем сохраняют две значащих цифры. В соответствии с этим правилом установлены и нормируемые значения погрешностей средств измерений: в числах 1,5 и 2,5 % указываются две значащих цифры, но в числах 0,5; 4; 6 % указывается лишь одна значащая цифра.

Пример: На вольтметре класса точности 2,5 с пределом измерений х К = 300 В был получен отсчет измеряемого напряжения х = 267,5 В. В каком виде должен быть записан результат измерения в отчете?

Расчет погрешности удобнее вести в следующем порядке: вначале необходимо найти абсолютную погрешность, а затем – относительную. Абсолютная погрешность х =  0 х К /100, для приведенной погрешности вольтметра  0 = 2,5 % и пределов измерения (диапазона измерения) прибора х К = 300 В: х = 2,5300/100 = 7,5 В ~ 8 В; относительная погрешность  = х 100/х = 7,5100/267,5 = 2,81 % ~ 2,8 % .

Так как первая значащая цифра значения абсолютной погрешности (7,5 В) больше трех, то это значение должно быть округлено по обычным правилам округления до 8 В, но в значении относительной погрешности (2,81 %) первая значащая цифра меньше 3, поэтому здесь должны быть сохранены в ответе два десятичных разряда и указано  = 2,8 %. Полученное значение х = 267,5 В должно быть округлено до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности, т.е. до целых единиц вольт.

Таким образом, в окончательном ответе должно быть сообщено: "Измерение произведено с относительной погрешностью = 2,8 % . Измеренное напряжениеХ = (268+ 8) В".

При этом более наглядно указать пределы интервала неопределенности измеренной величины в виде Х = (260276) В или 260 ВX276 В.

В некоторых случаях, точное число при делении определенной суммы на конкретное число невозможно определить в принципе. Например, при делении 10 на 3, у нас получается 3,3333333333…..3, то есть, данное число невозможно использовать для подсчета конкретных предметов и в других ситуациях. Тогда данное число следует привести к определенному разряду, например, к целому числу или к числу с десятичным разрядом. Если мы приведем 3,3333333333…..3 к целому числу, то получим 3, а приводя 3,3333333333…..3 к числу с десятичным разрядом, получим 3,3.

Правила округления

Что такое округление? Это отбрасывание нескольких цифр, которые являются последними в ряду точного числа. Так, следуя нашему примеру, мы отбросили все последние цифры, чтобы получить целое число (3) и отбросили цифры, оставив только разряды десятков (3,3). Число можно округлять до сотых и тысячных, десятитысячных и прочих чисел. Все зависит от того, насколько точное число необходимо получить. Например, при изготовлении медицинских препаратов, количество каждого из ингредиентов лекарства берется с наибольшей точностью, поскольку даже тысячная грамма может привести к летальному исходу. Если же необходимо подсчитать, какая успеваемость учеников в школе, то чаще всего используется число с десятичным или с сотым разрядом.

Рассмотрим иной пример, в котором применяются правила округления. Например, имеется число 3,583333, которое необходимо округлить до тысячных - после округления, за запятой у нас должно остаться три цифры, то есть результатом станет число 3,583. Если же это число округлять до десятых, то у нас получится не 3,5, а 3,6, поскольку после «5» стоит цифра «8», которая приравнивается уже к «10» во время округления. Таким образом, следуя правилам округления чисел, необходимо знать, если цифры больше «5», то последняя цифра, которую необходимо сохранить, будет увеличена на 1. При наличии цифры, меньшей, чем «5», последняя сохраняемая цифра остается неизменной. Такие правила округления чисел применяются независимо от того, до целого числа или до десятков, сотых и т.д. необходимо округлить число.

В большинстве случаев, при необходимости округления числа, в котором последняя цифра «5», этот процесс выполняется неправильно. Но существует еще и такое правило округления, которое касается именно таких случаев. Рассмотрим на примере. Необходимо округлить число 3,25 до десятых. Применяя правила округления чисел, получим результат 3,2. То есть, если после «пяти» нет цифры или стоит ноль, то последняя цифра остается неизменной, но только при условии, что она является четной - в нашем случае «2» - это четная цифра. Если бы нам необходимо было выполнить округление 3,35, то результатом бы стало число 3,4. Поскольку, в соответствии с правилами округления, при наличии нечетной цифры перед «5», которую необходимо убрать, нечетная цифра увеличивается на 1. Но только при условии, что после «5» нет значащих цифр. Во многих случаях, могут применяться упрощенные правила, согласно которым, при наличии за последней сохраняемой цифрой значений цифр от 0 до 4, сохраняемая цифра не изменяется. При наличии других цифр, последняя цифра увеличивается на 1.