유효숫자와 표기법

--

유효숫자

1. 측정값의 유효숫자 

측정장치의 가장 작은 눈금보다 하나 더 작은 숫자까지 측정값의 유효숫자로 한다. 

그림 1(a)에 보이는 자 (ruler) 는 눈금이 5mm 마다 매겨져 있다. 이 자를 이용 하여 물체의 길이를 측정하면 135mm~140mm 사이라는 것은 정확하게 읽을 수 있으 며, 이 때 눈대중 (경험) 을 동원하여 137mm 까지 읽어서 측정값으로 택한다.

2. 계산값의 유효숫자

2.1. 덧셈과 뺄셈: 자릿수에 의해 결정

ex.) 32.11 + 1.534 = 33.644 → 33.64

① 2.1234 (소수점 이하 네 자리) + 0.1 (소수점 이하 한 자리) = 2.2134 → 2.2 (소수점 이하 한 자리)

② 2.1234 (소수점 이하 네 자리) + 0.01020 (소수점 이하 다섯 자리) + 0.12 (소수점 이하 두 자리) = 2.2536 → 2.25 (소수점 이하 두 자리)

③ 1.01×10-2 (소수점 이하 두 자리) + 11.0×10-2 (소수점 이하 한 자리) = 12.01×10-2 → 12.0×10-2 (소수점 이하 한 자리) → 1.20×10-1 (과학적 표기 규칙) 

④ 1.01×10-2 + 1.00×10-3 = 1.01×10-2 (소수점 이하 두 자리) + 0.100×10-2 (소수점 이하 세 자리) = 1.110×10-2 →1.11×10-2 (소수점 이하 두 자리)

또는

1.01×10-2 + 1.00×10-3 = 10.1×10-3 (소수점 이하 한 자리) + 1.00×10-3 (소수점 이하 두 자리) 

= 11.10×10-3 → 11.1×10-3 (소수점 이하 한 자리) → 1.11×10-2 (과학적 표기 규칙)

2.2. 곱셈과 나눗셈: 유효숫자의 수에 의해 결정

ex.) 31.2 X 1.321 = 41.2152 → 41.2

① 2.05 (유효숫자 3개) × 2.1234 (유효숫자 5개) = 4.35297 → 4.35 (유효숫자 3개)

② 0.02050 (유효숫자 4개) × 2.1234 (유효숫자 5개) = 0.0435297 → 0.04353 (유효숫자 4개 그리고 반올림)

③ (1.3×10-3)(유효숫자 2개) × (2.123×10-6)(유효숫자 4개) = 2.7599×10-9 → 2.8×10-9 (유효숫자 2개, 반올림)

3. 과학표기법

유효숫자를 분명하게 표시하는 방법

측정값 5,320,0000 

  : 유효숫자: 5, 3, 2

: 유효숫자: 5, 3, 2, 0

틀린 표현	틀린 이유 x×10y 에서	올바른 표현
12×10-3	x < 10 이어야 함	1.2×10-2
0.75×10-3	x ≥ 1 이어야 함	7.5×10-4
14.6×103	x < 10 이어야 함	1.46×104
1.5×102.5	y : 1 이상의 정수이어야 함	4.7×102
9.504×10-7.5	y : 1 이상의 정수이어야 함	3.005×10-7
9.504×10-0.54	y : 1 이상의 정수이어야 함	2.741

3.2. log 계산

[H+]	→ pH = -log[H+]	pH	→ [H+] = 10-pH
10-7 M (유효숫자 : 없음)	7 (유효숫자 : 없음)	4 (유효숫자 : 없음) (참고4)	10-4 M (유효숫자 : 없음)
2×10-7 M (유효숫자 : 1개)	계산기 결과 6.698970004 ↓ 6.7 (유효숫자 : 1개) (반올림) (참고1)	3.5 (유효숫자 : 1개) (참고5)	계산기 결과 0.000316227 ↓ 3×10-4 M (유효숫자 : 1개)
2.0×10-7 M (유효숫자 : 2개)	계산기 결과 6.698970004 ↓ 6.70 (유효숫자 : 2개) (반올림) (참고1)	3.50 (유효숫자 : 2개) (참고6)	계산기 결과 0.000316227 ↓ 3.2×10-4 M (유효숫자 : 2개) (반올림)
3.00×10-7 M (유효숫자 : 3개)	계산기 결과 6.522878745 ↓ 6.523 (유효숫자 : 3개) (반올림) (참고1)	8.789 (유효숫자 : 3개) (참고7)	계산기 결과 0.000000001659586908 ↓ 1.66×10-9 M (유효숫자 : 3개) (반올림)

--

__

2016. 12. 23 작성