과학적 표기법과 측정의 불확정성

1. 양의 접두어와 과학적 표기법

1) 양의 접두어

특히 화학에서는 단위의 크기가 너무 작거나 커서 불편함이 발생합니다. 이러한 이유로 $ SI$ 단위는 더 작거나 더 큰 양을 나타내는 접두사를 사용해 변형됩니다(질량을 나타내는 $ SI$ 기본 단위인 킬로그램은 이미 킬로 접두사를 포함하고 있음을 유의해야 합니다).

$ T$ 테라(tera) $ 1,000,000,000,000=10^{12}$

$ G$ 기가(giga) $ 1,000,000,000=10^{9}$

$ M$ 메가(mega) $ 1,000,000=10^{6}$

$ k$ 킬로(kilo) $ 1,000=10^{3}$

$ h$ 헥토(hecto) $ 100=10^{2}$

$ da$ 데카(deka) $ 10=10^{1}$

$ d$ 데시(deci) $0.1=10^{-1}$

$ c$ 센티(centi) $0.01=10^{-2}$

$ m$ 밀리(milli) $0.001=10^{-3}$

$ \mu$ 마이크로(micro) $0.000 001=10^{-6}$

$ n$ 나노(nano) $0.000 000 001=10^{-9}$

$ p$ 피코(pico) $0.000 000 000 001=10^{-12}$

$ f$ 펨토(femto) $0.000 000 000 000 001=10^{-15}$

2) 과학적 표기법

큰 수를 표기할 때는 소수점 왼쪽 세 자리마다 쉼표를 표기하고, 작은 수를 표기할 때 과학에서는 보통 소수점 다음 세 자리마다 약간의 공간을 띄어서 표기합니다.

위와 같이 매우 작은 수나 큰 수를 우리는 과학적 표기법($ scientific notation$)이라고 부르는 지수 형식으로 표기합니다. 수를 과학적 표기법으로 나타내기 위해서는 소수점을 왼쪽 또는 오른쪽으로 n번 옮겨서 1과 10 사이의 숫자가 나오도록 합니다. 이때 소수점을 오른쪽으로 옮기면 $ n$은 양수입니다. 그런 후 1과 10 사이의 숫자를 $ 10^{n}으로 곱하여 구합니다.

2. 측정에서의 정확도, 정밀도, 유효숫자

1) 정밀도, 정확도

측정의 불확정성($ uncertainty$)을 논할 때는 정확도와 정밀도라는 용어가 필요합니다. 정확도($ accuracy$)는 측정값이 참값과 얼마나 가까운지를 나타내고, 정밀도($ precision$)는 반복된 독립 측정값이 얼마나 서로 일치하는지를 나타냅니다.

2) 유효숫자와 계산법

① 유효숫자

측정의 불확실성을 표현하기 위해 기록하는 값은, 확실한 측정값의 자릿수에 추정 자릿수 하나를 더해 표현합니다. 위처럼 기록된 전체 자릿수를 측정값의 유효숫자($ significant figure$)라고 합니다.

유효숫자를 개수를 계산하는 규칙은 아래와 같습니다.

1. 0이 아닌 수 사이에 있는 0은 다른 숫자와 동일하게 유효숫자로 취급합니다.

예를 들어, 1001에서 유효숫자는 4개입니다.

2. 수의 시작 부분에 있는 0은 유효숫자가 아닙니다. 이것은 소수점의 위치를 나타내기 위해서 사용된 것뿐입니다.

3. 수의 끝에 있는 0은 소수점 다음에 있으면 항상 유효숫자입니다.

4. 숫자의 마지막 부분에 있는 0이 소수점 앞에 있으면 유효숫자일 수도 아닐 수도 있습니다.

예를 들어, 24,700에서 유효숫자는 3개, 4개, 5개 중 어느 것도 가능하지 않습니다. 하지만, 24,700.으로 표기된 경우에는 유효숫자는 5개로 고정됩니다.

과학적 표기법으로 기록함으로써 유효숫자의 개수를 나타낼 수 있습니다. 예를 들어 $ 1.72\times10^{3}$에서 유효숫자는 3개이고, $ 3.7200\times10^{3}$일 경우에 유효숫자는 5개입니다.

또한 완전수, 즉 물체를 세서 얻은 수나 측정된 상수처럼 확실하다고 판단되는 수는 유효숫자가 무한개로 판단합니다. 대표적인 완전수는 $ \pi$나 물방울 수와 같이 세서 얻은 값이 있습니다.

실제 실험에서 측정한 값을 계산하다 보면 더 많은 유효숫자가 나타나는 경우가 종종 있습니다. 이런 경우에는 유효숫자 계산 규칙에 따라 유효숫자를 잘라 반올림해야 합니다.

② 유효숫자의 계산 규칙

1. 곱셈이나 나눈셈에서 답은 계산하는 수보다 유효숫자가 클 수 없습니다. 이는 유효숫자의 정확도와 관련됩니다. 계산과정의 쓰인 수의 정확도보다 더 높은 정확도를 가지는 결과값이 나올 수 없습니다.

2. 덧셈이나 뺄셈에서 답은 계산하는 수보다 소수점 오른쪽에 더 많은 유효숫자 개수를 가질 수 없습니다.

[ConFer]
반올림 규칙
1. 제거하는 숫자들의 첫 번째 숫자가 5보다 작으면 그 수 아래의 숫자들도 버립니다.

2. 제거하는 숫자들의 첫 번째 숫자가 5 이상이면 왼쪽에 있는 수에 1을 더하여 반올림합니다.