О численных расчетах

При вычислениях на микрокалькуляторе в ответе автоматически получается столько цифр, сколько их вмещается на индикаторе микрокалькулятора. При этом создается впечатление об избыточной точности результата. В то же время результаты измерений являются приближенными числами. Напомним (см., например, М.Я.Выгодский, Справочник по элементарной математике), что для приближенных чисел отличают запись 2,4 от 2,40, запись 0,02 от 0,0200 и т.д. Запись 2,4 означает, что верны только цифры целых и десятых, истинное же значение числа может быть, например, 2,43 или 2,38. Запись 2,40 означает, что верны и сотые доли, истинное число может быть 2,403 или 2,398, но не 2,421 и не 2,382. То же отличие проводится и для целых чисел. Запись 382 означает, что все цифры верны. Если же за последнюю цифру ручаться нельзя, то число округляется, но записывается не в виде 380, а в виде 38·10. Запись же 380 означает, что последняя цифра (ноль) верна. Если в числе 4720 верны лишь первые две цифры, его нужно записать в виде 47·10² или 4,7·10³. В тех случаях, когда численные значения физических величин много больше либо много меньше единицы, их принято записывать в виде числа между 1 и 10, умноженного на соответствующую степень десяти.

Число знаков в окончательном результате устанавливается по следующим правилам. Сначала ограничивается число значащих цифр погрешности. Значащими цифрами называются все верные цифры числа кроме нулей, стоящих впереди числа. Например, в числе 0,00385 три значащие цифры, в числе 0,03085 четыре значащие цифры, в числе 2500 - четыре, в числе 2,5·10³ - две. Погрешность записывается всегда с одной или двумя значащими цифрами. При этом руководствуются следующими соображениями.

Величина случайной погрешности, полученная из обработки результатов некоторого числа измерений, сама является случайным числом, т.е., если проделать это же число измерений еще раз, то, вообще говоря, будет получен не только другой результат для измеряемой величины, но и другая оценка для погрешности. Поскольку погрешность оказывается случайным числом, то, пользуясь законами математической статистики, можно и для нее найти доверительный интервал. Соответствующие расчеты показывают, что даже при довольно большом числе измерений этот доверительный интервал оказывается весьма широким, т.е. величина погрешности оценивается достаточно грубо. Так при 10 измерениях относительная погрешность у погрешности превышает 30%. Поэтому для нее следует приводить две значащие цифры, если первая из них 1 или 2, и одну значащую цифру, если она равна или больше 3. Это правило легко понять, если учесть, что 30% от 2 составляет 0,6, а от 4 уже 1,2. Таким образом, если погрешность выражается, например, числом, начинающимся с цифры 4, то это число содержит неточность (1,2), превышающую единицу первого разряда.

После того, как погрешность записана, значение результата должно быть округлено таким образом, чтобы его последняя значащая цифра была того же разряда, что и у погрешности. Пример правильного представления окончательного результата:

t =(18.7± 1.2)·10² с.