Мир науки
Рефераты и конспекты лекций по географии, физике, химии, истории, биологии. Универсальная подготовка к ЕГЭ, ГИА, ЗНО и ДПА!
Погрешности измерений показывают также, какие цифры в полученном результате измерения сомнительны, поэтому нет смысла в записи погрешности с большим числом знаков.
По обычаю ограничиваются одной значащей цифрой и только при особо точных измерениях погрешность записывается двумя или тремя цифрами.
Используют 3 правила округления рассчитанного значения погрешности и полученного экспериментального результата измерения:
1. Погрешность результата измерения показывается двумя значащими цифрами, если первая из них 1 или 2, и одной — если первая цифра 3 и более.
2. Результат измерения округляется до того же десятичного разряда, которым заканчивается округления значение абсолютной погрешности.
3. Округление производится только в конечной ответы, а все предварительные расчеты проводят с одним — двумя лишними знаками.
В соответствии с правилом 1 установлены и нормированные значения погрешностей 3В: в числах 1,5% или 2,5% показываются два знака, но в числах 0,5%, 4%, 6%; показывается только один знак.
При округлении результатов измерения используют еще такие правила:
1) лишние цифры в целых чисел заменяют нулями, а в дробных десятичных отвергают; н., 732 «700.
2) если первая из заменяемых нулями или откидываемых цифр <5, то цифры, которые остались не меняются, если же она> 5, то последняя из оставшихся цифр увеличивается на 1;
3) если отвергаем цифра = 5 со следующими нулями, то округление производится до ближнего четного числа.
Результаты измерения можно записать некоторыми значимыми цифрами и рядом нулей, но в этом случае и нули должны полностью определенное значение и характеризуют погрешность измерения. Н., пусть результат измерения их = 9,5 B, который можно записать цифрами: 9,5; 9,50; 9,500. В этих случаях нули после последней значащей цифры определяют показатель достоверности результатов измерения. С этой точки зрения эти записи необходимо читать так: 9,45 В метрологии по обычаю используют следующее правило: погрешность, которая получается в результате вычислений, должна быть на порядок меньше суммарной погрешности измерения, т.е. необходимое число знаков в результате вычисления должно быть жестко связано с реальной точностью измерений. При выполнении вычислений нескольких составляющих погрешности с n верными знаками, необходимо взято наибольшее составляющую с (n +1) знаками, другие составляющие округлить до разрядности крупнейшей составляющие округлить до разрядности крупнейшей составляющей и выполнить вычисления. После выполнения вычислений округлить результат до необходимого количества значащих цифр.
Источник
1. Результат измерения округляют до того же десятичного знака, которым оканчивается округленное значение абсолютной погрешности. Лишние цифры в целых числах заменяют нулями. Если десятичная дробь в числовом значении результата измерений оканчивается нулями, то нули отбрасывают до того разряда, который соответствует разряду числового значения погрешности
Пример. Результат 4,0800, погрешность 0,001. Решение. Результат округляют до 4,080 2. Если цифра старшего из отбрасываемых разрядов меньше 5, то остальные цифры числа не изменяют. Лишние цифры в целых числах заменяют нулями, а в десятичных дробях отбрасывают.
Пример. Число 174437 при сохранении четырех значащих цифр должно быть округлено до 174400, число 174,437 — до 174,4. 3. Если цифра старшего из отбрасываемых разрядов больше или равна 5, но за ней следуют отличные от нуля цифры, то последнюю сохраняемую цифру увеличивают на единицу.
Пример. При сохранении трех значащих цифр число 12567 округляют до 12600, число 125,67 до 126. 4. Если отбрасываемая цифра равна 5, а следующие за ней — неизвестны или нули, то последнюю сохраняемую цифру не изменяют, если она четная, и увеличивают на единицу, если она нечетная.
Пример. Число 232,5 при сохранении двух значащих цифр округляют до 232, а число 233,5 до 234. 5. Погрешность результата измерения указывают двумя значащими цифрами, если первая из них равна 1 или 2, и одной — если первая цифра равна 3 или более. 6. Округление результатов измерений производят лишь в окончательном ответе, а все предварительные вычисления проводят с одним-двумя лишними знаками Если руководствоваться этими правилами округления, то количество значащих цифр в числовом значении результата измерений дает возможность ориентировочно судить о точности измерения. Это связано с тем, что предельная погрешность, обусловленная округлением, равна половине единицы последнего разряда числового значения результата измерения. Основная задача физических измерений состоит в том, чтобы дать оценку истинного значения измеряемой величины и определить погрешность измерения. Результаты измерений принято записывать в следующей форме: где Хизм
— измеряемая физическая величина, Х — оценка её истинного значения, Dx — абсолютная погрешность.
АБСОЛЮТНАЯ ПОГРЕШНОСТЬ – отклонение результата измерения Х от истинного значения Хи
измеряемой величины: О точности измерения удобно судить по относительной погрешности. ОТНОСИТЕЛЬНАЯ ПОГРЕШНОСТЬ – отношение абсолютной погрешности измерения к истинному значению измеряемой величины: Если абсолютная погрешность измерения не известна, то относительная погрешность равна: где – это первая значащая цифра числа a, n – общее число значащих цифр в этом числе.
ПРИВЕДЕНАЯ ПОГРЕШНОСТЬ – отношение абсолютной погрешности измерительного прибора к нормирующему значению ХN
. Приведенную погрешность также выражают в процентах
ТОЧНОСТЬ ИЗМЕРЕНИЯ – качество измерения, отражающее близость его результата к истинному значению измеряемой величины.
ПОПРАВКА – равна систематической погрешности по величине и обратна ей по знаку . где Х
п – значение ФВ снятое с прибора.
ЦЕНА ДЕЛЕНИЯ ШКАЛЫ: где С – цена деления; Хк
– конечное значение; N – полное число делений на шкале прибора. где n – порядковый номер деления.
Формулы для оценки абсолютной и относительной погрешности для значения функции и переменных
1. Температура в масляном термостате измеряется образцовым палочным стеклянным термометром и поверяемым парогазовым термометром. Первый показал 111 °С, второй 110 °С. Определите истинное значение температуры, погрешность поверяемого прибора, поправку к его показаниям и оцените относительную погрешность термометра. Погрешность измерения одной и той же величины, выраженная в долях этой величины: 1×10 -3 – для одного прибора; 2×10 -3 – для другого. Какой из этих приборов точнее?
ВАРИАНТЫ
1.1.Определите относительную погрешность измерения в начале шкалы (для 30 делений) для прибора с абсолютной погрешностью равной 0,5, имеющего шкалу 100 делений. Насколько эта погрешность больше погрешности на последнем – сотом делении шкалы прибора?
1.2.Используя линейку с максимальной длиной 30 см, измерили два объекта контроля: l1 = 12 мм и l2 = 255 мм. Измерение какого объекта более точное? Ответ обоснуйте математическим неравенством.
1.3. При измерении времени в беге на 100 м использовался электронный секундомер с относительной инструментальной погрешностью 0.2 %. Ответьте, можно ли говорить о том, что показанный результат 8,70 с является новым рекордом, если время действующего рекорда было равно (8,745 ± 0.001) с. Ответ обоснуйте математическим неравенством.
1.4.На бензоколонке заливают бензин с абсолютной систематической погрешностью Δ = – 0,1 л при каждой заправке. Вычислите относительные погрешности, возникающие при покупке 16 л и 40 л бензина. Определите выгоду от приобретения в течение года 1360 литров по цене 18 руб./л при покупках по 16 л по сравнению с покупкой по 40 л.
1.5.При измерении длины используется метровая линейка с коэффициентом линейного расширения α = 10-5 м/ºС. Вычислите дополнительные максимальные абсолютные погрешности линейки, связанные с изменением температуры в диапазоне от –40 до +40 ºС, если линейка была изготовлена при температуре +20 ºС.
1.6. В цепь с сопротивлением R = 49 Ом и источником тока с Е = 10 В и R
вн = 1 Ом включили амперметр сопротивлением R
I = 1 Ом. Определите показания амперметра I и вычислите относительную погрешность d его показания, возникающую из-за того, что амперметр имеет определенное сопротивление, отличное от нуля; классифицируйте погрешность.
1.7. К зажимам элементов с Е = 10 В и r = 1 Ом подсоединим вольтметр с сопротивлением Rи = 100 Ом. Определите показания вольтметра и вычислите абсолютную погрешность его показания, возникновение которой обусловлено тем, что вольтметр имеет не бесконечно большое сопротивление; классифицируйте погрешность.
1.8.Какое средство измерения толщины изделия с волнистостью 0,035 мм является оптимальным для однократного измерения: штангенциркуль (цена деления 0,05 мм) или микрометр (цена деления 10 мкм)? Ответ обоснуйте математическим неравенством.
1.9. Измеряется мощность трехфазного тока двумя ваттметрами. Какова наибольшая погрешность измерения, если стрелка первого ваттметра показывает 120 делений и погрешность этого прибора не более 0,5%, а стрелка второго ваттметра показывает 40 делений и погрешность прибора 1%.
1.10.Двумя пружинными манометрами на 600 кПа измерено давление воздуха в последней камере компрессора. Один манометр имеет погрешность 1% от верхнего предела измерений, другой 4%. Первый показал 600 кПа, второй 590 кПа. Назовите действительное значение давления в камере, оцените возможное истинное значение давления, а также погрешность измерения давления вторым манометром.
Источник
Обработка и представление результатов измерений. Процедура
1. Назначение и область применения
1.1. Процедура устанавливает единые требования к обработке и представлению результатов измерений, полученных в лаборатории (центре). 1.2. Представление результатов измерений в лабораторных журналах и в документах, выдаваемых лабораторией, осуществляется согласно методикам измерений и данной процедуре. 1.3. Требования настоящей процедуры распространяются на всех специалистов лаборатории (центра).
2. Нормативные ссылки
2.1. СТ СЭВ 543-77 «Числа. Правила записи и округления» (настоящий стандарт является обязательным в рамках Конвенции о применении стандартов СЭВ); 2.2. ГОСТ 8.736-2011 «Государственная система обеспечения единства измерений (ГСИ). Измерения прямые многократные. Методы обработки результатов измерений. Основные положения»; 2.3. МР 18.1.04-2005 «Система контроля качества результатов анализа проб объектов окружающей среды»; 2.4. ПМГ 96-2009 «Государственная система обеспечения единства измерений (ГСИ). Результаты и характеристики качества измерений. Формы представления» (правила по межгосударственной стандартизации введены в действие для добровольного применения в РФ в качестве рекомендаций по метрологии РФ).
3. Определения
3.1. Значащие цифры числа – это все цифры от первой слева, не равной нулю, до последней записанной цифры справа. При этом нули, следующие из множителя 10 n , не учитываются (согласно СТ СЭВ 543-77).
Примеры
Таким образом, нули вначале числа всегда незначимы; нули в середине числа между ненулевыми цифрами значимы; нули в конце числа могут быть значимыми и незначимыми. По количеству значащих цифр осуществляется запись приближенных чисел (согласно СТ СЭВ 543-77).
Пример
3.2. Округление числа – это отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда (согласно СТ СЭВ 543-77). В случае, если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется. В случае, если первая из отбрасываемых цифр (считая слева направо) равна или больше 5, то последняя сохраняемая цифра увеличивается на единицу. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.
Примеры
2) Если число 0,703 требуется округлить до сотых долей, получаем число 0,70; если число 0,703 требуется округлить до десятых долей, после округления получаем число 0,7. 3) Если число 0,703 требуется округлить до двух значащих цифр, после округления получаем число 0,70; если число 0,703 требуется округлить до одной значащей цифры, после округления получаем число 0,7. 4) Если число 0,429 требуется округлить до двух значащих цифр, после округления получаем число 0,43; если число 0,429 требуется округлить до одной значащей цифры, после округления получаем число 0,4. 5) Если число 8,574 требуется округлить до двух значащих цифр, после округления получаем число 8,6; если число 8,574 требуется округлить до одной значащей цифры, после округления получаем число 9. 6) Поэтапное округление результата измерения 227,46 дает на первом этапе 227,5 и на втором этапе 228, в то время как правильный результат округления 227. 3.3. Окончательный результат – это результат измерения с погрешностью, который вносится испытателями в лабораторные журналы. Окончательный результат выдается лабораторией в протоколе испытаний. 3.4. Промежуточные результаты – это вся информация по анализу от показания приборов до окончательного результата (в том числе расчеты результатов единичных определений; расчет результата измерения как среднеарифметическое значение результатов единичных определений, полученных в условиях повторяемости; контроль повторяемости; расчет погрешности). Промежуточные результаты заносятся испытателями в лабораторные журналы, но в протоколах испытаний не выдаются.
4. Процедура
4.1. Требования к промежуточному результату
4.1.1. Число значащих цифр в промежуточных вычислениях при обработке результатов измерений должно быть больше, чем в окончательном результате. 4.1.2. Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим две значащие цифры, то для промежуточных результатов расчета сохраняем не менее трех значащих цифр. 4.1.3. Если значение погрешности (неопределенности) результата измерений представлено числом, содержащим одну значащую цифру, то для промежуточных результатов расчета сохраняем не менее двух значащих цифр. 4.1.4. При проведении промежуточных расчетов в рукописных лабораторных журналах в числовых значениях измеряемой величины и погрешности следует оставлять столько значащих цифр, чтобы в окончательном результате не появлялась ошибка, связанная с поэтапным округлением.
Примеры
4.2. Требования к окончательному результату
4.2.1. Числовые значения результата измерений и его погрешности (неопределенности) записываются с указанием одной и той же единицы измерения.
Примеры
4.2.2. Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение его погрешности (неопределенности).
Примеры
4.2.3. Значение погрешности (неопределенности) результата измерений представляют числом, содержащим одну или две значащих цифры. Если числовое значение погрешности (неопределенности) в целой части числа содержит три и более цифр, то результат и погрешность округляются до целых чисел без подсчета количества значащих цифр.
Примеры
4.2.4. Если заказчик требует другие формы представления результатов измерений, лаборатория оставляет за собой право учитывать эти требования.
5. Ответственность
Ответственность за правильность обработки и представления результатов измерений несут специалисты лаборатории.
Представление результатов измерений на примере определения обобщенных и химических показателей в воде с учетом требований методик измерений
1. Железо общее (ГОСТ 4011-72)
Примеры
* — дополнительные цифры в промежуточных результатах оставлены для предотвращения ошибки в окончательных результатах при поэтапном округлении.
2. Хлориды (ПНД Ф 14.1:2:3.96-97)
3. Фосфорсодержащие вещества (ГОСТ 18309-2014)
4. Взвешенные вещества (ПНД Ф 14.1:2:3.110-97)
5. Цветность (ГОСТ 31868-2012)
Пример
При определении цветности при постоянной комнатной температуре (20 ± 5) °С в конкретной лаборатории допускается по согласованию с заказчиком не указывать в протоколе значение температуры.
6. Металлы (ПНД Ф 14.1:2:4.139-98)
7. Алюминий (ГОСТ 18165-2014)
Примеры
* — дополнительные цифры в промежуточных результатах оставлены для предотвращения ошибок при поэтапном округлении.
8. Нефтепродукты (ПНД Ф 14.1:2:4.128-98)
9. Анионные поверхностно-активные вещества (ПНД Ф 14.1:2:4.158-2000)
10. Щелочность (МП УВК 1.19-2013)
11. Температура, прозрачность, запах (РД 52.24.496-2018)
12. Кальций (РД 52.24.403-2018)
13. Перманганатная окисляемость (ПНД Ф 14.1:2:4.154-99)
14. Фториды (ПНД Ф 14.1:2:4.270-2012)
15. Растворенный кислород (ПНД Ф 14.1:2:3.101-97)
Источник
Рассчитывая значения систематической, случайной и суммарной погрешностей, особенно при использовании электронного калькулятора, получают значение с большим числом знаков. Однако исходные данные для этих расчетов всегда указываются с одной или двумя значащими цифрами. Действительно, класс точности прибора на его шкале указывается не более чем с двумя значащими цифрами, а среднее квадратическое отклонение не имеет смысла записывать с более чем двумя значащими цифрами, так как точность этой оценки при 10 измерениях не выше 30 %. Вследствие этого и в окончательном значении расчетной погрешности должны быть оставлены только первые одна — две значащие цифры. При этом необходимо учитывать следующее. Если полученное число начинается с цифры 1 или 2, то отбрасывание второго знака приводит к очень большой ошибке (до 30– 50 %), это недопустимо. Если же полученное число начинается, например, с цифры 9, то сохранение второго знака, то есть указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так как исходные данные не обеспечивают такой точности. В итоге можно сформулировать правила округления рассчитанного значения погрешности и полученного экспериментального результата измерения: 1. Абсолютная погрешность результата измерения указывается двумя значащими цифрами, если первая из них равна 1 или 2, и одной, – если первая есть 3 и более. 2. Среднее значение измеренной величины округляется до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности. 3. Относительную погрешность, выраженную в процентах, достаточно записать двумя значащими цифрами. 4. Округление производится лишь в окончательном ответе, а все предварительные вычисления проводятся с одним лишним знаком.
Пример:
Отсутствие различий между знаками говорит о том, что случайная погрешность пренебрежимо мала, поэтому суммарная погрешность совпадает с систематической (см. рис. 1а). Сначала найдем абсолютную, а затем относительную погрешности. Абсолютная погрешность градуировки прибора равна:
Так как первая значащая цифра абсолютной погрешности больше трех, то это значение должно быть округлено до 8 В. Относительная погрешность:
В значении относительной погрешности должны быть сохранены два значащих разряда: 2,8 %.
Таким образом, в окончательном ответе должно быть сообщено “Измеренное напряжение U=(268+8) В при относительной погрешности d
U
=2,8 % ”.
Источник
— округление производится лишь в окончательном ответе, а все предварительные вычисления — с одним — двумя лишними разрядами.
Значащими цифрами числа являются все цифры данного числа, кроме нулей, стоящих слева. Нули, стоящие в середине или в конце числа (справа) являются значащими цифрами, так как обозначают отсутствие единиц в соответствующем разряде. При этом цифры множителя 10 n не учитываются. При ограничении числа значащих цифр используется операция округления. Округление числа представляет собой отбрасывание значащих цифр справа после определенного разряда с возможным изменением цифры этого разряда. Существуют следующие правила округления. 1. Если первая из отбрасываемых цифр меньше чем “5”, то цифра предыдущего разряда не изменяется. 2. Если первая из отбрасываемых цифр больше чем “5”, то цифра предыдущего разряда увеличивается на единицу. 3. Если отбрасывают несколько цифр и первая из отбрасываемых цифр “5”, то цифру предыдущего разряда увеличивают на единицу. 4. Если отбрасывают только одну цифру “5”, а за ней нет цифр, то округление производят до ближайшего четного числа, т. е. цифра предыдущего разряда остается неизменной, если она четная, и увеличивается на единицу, если она нечетная.
Запись результатов измерений
При записи результатов промежуточных вычислений сохраняется одна запасная цифра. 1. При сложении и вычитании в окончательном результате сохраняют столько десятичных знаков, сколько их содержится в числе с наименьшим количеством десятичных знаков.
Пример: 23,2 + 0,44 + 7,247 = 23,2 +0,44 + 7,25 = 30,89 ≈ 30,9. 2. При умножении и делении в окончательном результате следует сохранить столько значащих цифр, сколько их имеет число с наименьшим числом значащих цифр.
Пример: 30,9·3,8364 = 118,54476 ≈ 119. Исключение из правила допускается в тех случаях, когда один из сомножителей начинается с единицы, а сомножитель, имеющий наименьшее количество цифр, – с любой другой цифры. В этом случае в результате сохраняют на одну цифру больше, чем в числе с наименьшим количеством значащих цифр.
Пример: 30,9·1,8364 = 56,74476 ≈ 56,74. 3. В результате расчета значений функций вида x n , x 1/n , lnx результат должен содержать столько значащих цифр, сколько их имеет аргумент x.
Пример: (11,38) 2 = 129,5044 ≈ 129,5. При вычислении промежуточных результатов сохраняют на одну цифру больше, чем предусмотрено пунктами 1–3. В окончательном результате эта дополнительная цифра отбрасывается по правилам записи окончательного результата или по правилам записи результата с учетом погрешности. Если при вычислениях используются табличные данные, то все их цифры верные. Если при квадратичном суммировании одно из чисел меньше другого в 3 и более раз, то им можно пренебречь.
Примеры решения задач
Определить максимальную абсолютную, относительную, приведѐнную погрешности и сделать запись результата измерения напряжения аналоговым вольтметром с классом точности 1,5 с пределом 1 В для показания 0,87 В. Обозначение класса точности вольтметра числом 1,5 означает, что класс точности определяется по приведенной погрешности, которая является аддитивной. Максимальная абсолютная погрешность из формулы (11)
р – класс точности; X N
– нормирующее значение измеряемой величины, равное пределу измерения.
Источник
Расчет погрешностей и округление результатов измерений
Дано: Δ
1
= 1·10 -3 Δ
2
= 2·10 -3
Решение: Точности характеризуются значениями, обратными погрешностям, т.е. для первого прибора это 1/(1×10 -3 ) = 1000, для второго 1/(2×10 -3 ) = 500; 1000>500. Следовательно, первый прибор точнее второго в 2 раза. Ответ: точнее первый.
Найти:
Правила округления результатов измерений и значений погрешности
1) Число 12,0 – имеет три значащие цифры;
2) Число 30 – имеет две значащие цифры;
3) Число 120 × 10 3 – имеет три значащие цифры;
4) Число 0,514 × 10 – имеет три значащие цифры;
5) Число 0,0056 × 10 – имеет две значащие цифры;
6) Число 0,704 – имеет три значащие цифры;
7) Число 68 – имеет две значащие цифры.
Следует различать числа 2,4 и 2,40.
Запись 2,4 означает, что верны только цифры целых и десятых; истинное значение числа может быть, например, 2,43 и 2,38.
Запись 2,40 означает, что верны и сотые доли числа; истинное число может быть, например, 2,403 и 2,398, но не 2,421 и не 2,382.
1) Если число 12,364 требуется округлить до сотых долей, после округления получаем число 12,36; если число 12,364 требуется округлить до десятых долей, после округления получаем число 12,4.
Промежуточные результаты
Окончательные результаты
0,178 ± 0,053
0,18 ± 0,05
0,1784 ± 0,0533
0,178 ± 0,053
1,22 ± 0,18
1,2 ± 0,2
1,224 ± 0,183
1,22 ± 0,18
3,74 ± 0,748
3,7 ± 0,7
3,742 ± 0,748
3,74 ± 0,75
12,83 ± 1,28
12,8 ± 1,3
54,2 ± 5,4
54 ± 5
54,23 ± 5,42
54,2 ± 5,4
177,6 ± 33,7
178 ± 34
2357,4 ± 212,2
2357 ± 212
11624,8 ± 5812,4
11624 ± 5812
(5,4 ± 0,5) мг/дм³;
(6,1 ± 0,7) ммоль/ дм³.
Правильно
Неправильно
0,043 ± 0,004
0,043 ± 0,0043
0,0428 ± 0,0043
0,0428 ± 0,004
17,0 ± 0,2
17,00 ± 0,2 или 17 ± 0,2
12,13 ± 0,17 или 12,1 ± 0,2
12,1 ± 0,17 или 12,13 ± 0,2
46,40 ± 4,64 или 46,4 ± 4,6
46,402 ± 4,64 или 46,4 ± 4,64
Результаты измерения
0,14 ± 0,05
0,164 ± 0,051
1,1 ± 0,1
1,18 ± 0,11
3,6 ± 0,6
3,28 ± 0,54
12,4 ± 1,2
44 ± 4
44,2 ± 4,4
168 ± 34
2357 ± 212
23684 ± 1184
Округлять результат до двух значащих цифр.
Окончательные результаты, мг/дм³
Промежуточные результаты, мг/дм³
0,12 ± 0,03
0,116 ± 0,029
0,18 ± 0,04
0,178 ± 0,0445*
0,18 ± 0,05
0,183 ± 0,046
0,31 ± 0,08
0,308 ± 0,077
1,3 ± 0,3
1,26 ± 0,32
1,8 ± 0,3
1,77 ± 0,32
12 ± 2
12,4 ± 2,2
25 ± 5
25,3 ± 4,6
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и значение характеристики погрешности, выраженное в мг/дм³ и содержащее не более двух значащих цифр.
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.
В протоколе указывают метод определения цветности по настоящему стандарту, результат с указанием единиц измерения (например, градусов цветности по хром-кобальтовой шкале Cr-Co) и температуру пробы анализируемой воды.
Цветность — 10 градусов цветности (Cr-Co), 18 °С.
Примеры записи числовых значений:
Диапазон, мг/дм³
Точность округления, мг/дм³
от 0,004 до 0,01 вкл.
0,0001
от 0,01 до 0,1 вкл.
0,001
от 0,1 до 1 вкл.
0,01
от 1 до 10 вкл.
0,1
свыше 10
1
Числовое значение результата измерений должно оканчиваться цифрой того же разряда, что и абсолютное значение характеристики погрешности измерений, выраженное в мг/дм³. Абсолютное значение характеристики погрешности измерений представляют двумя значащими цифрами, если первая цифра не превышает 3. В остальных случаях оставляют одну значащую цифру.
Окончательные результаты, мг/дм³
Промежуточные результаты, мг/дм³
0,287 ± 0,057
0,2872 ± 0,0574
0,262 ± 0,052
0,2623 ± 0,05246*
2,38 ± 0,48
2,381 ± 0,476
13,5 ± 2,7
13,47 ± 2,69
16,6 ± 3,3
16,62 ± 3,32
22 ± 4
21,8 ± 4,4
27 ± 5
27,4 ± 5,48*
38 ± 7
38,47* ± 7,7
51 ± 10
51,46* ± 10,3
Примеры записи числовых значений, мг/дм³:
0,009 ± 0,005
0,08 ± 0,03
0,65 ± 0,16
3,5 ± 0,9
3,5 ± 0,9
25 ± 6
Примеры записи
для питьевой воды, мг/дм³
Примеры записи
для природной и сточной воды, мг/дм³
0,028 ± 0,010
0,080 ± 0,032
0,44 ± 0,12
0,35 ± 0,11
4,8 ± 1,0
71 ± 17
Численные значения результата количественного химического анализа должны оканчиваться цифрой того же разряда, что и численное значение характеристики погрешности. Характеристику погрешности измерения следует выражать числом, содержащим не более двух значащих цифр.
Численное значение результата измерений должно оканчиваться цифрой того же разряда, что и значение характеристики погрешности.
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения погрешности; последние не должны содержать более двух значащих цифр.
Результаты измерений округляют с точностью:
Диапазон, мг/дм³
Точность округления, мг/дм³
от 0,25 до 1,0 вкл.
0,01
от 1,0 до 10 вкл.
0,1
свыше 10
1
Результаты измерений концентрации фторид-ионов при занесении в протокол округляют с точностью:
Диапазон, мг/дм³
Точность округления, мг/дм³
от 0,15 до 10 вкл.
0,01
свыше 10
0,1
Численные значения результата измерений должны оканчиваться цифрой того же разряда, что и значения характеристики погрешности.Правила округления погрешности и результата измерения
На вольтметре класса точности 2,5 с пределом измерений 300 В были произведены несколько повторных измерений одного и того же напряжения. При этом оказалось, что все замеры дали одинаковый результат 267,5 В.
Правила округления значения погрешности и полученного результата