모든 측정은 정직한 동반자를 둔 숫자입니다. 얼마나 자신할 수 있을까? 그 동반자는 두 조각입니다. 측정을 반복하면 평균으로 줄어드는 우연 오차, 그리고 몇 번을 재어도 사라지지 않는 편향인 계통 오차. 따라서 어떤 양의 정직한 보고는 x ± u(x)이며, u는 잘 정의된 불확정성입니다. ± 기호는 "이만큼의 확률로 대략 이 범위"의 속기입니다. 이 패널의 네 계산기가 실무 도구를 커버합니다. 유효숫자 세기(장부 지름길), 합·차·곱·몫·거듭제곱을 통한 불확정성 전파(실수의 미적분), 표준편차(데이터가 얼마나 퍼져 있는지), 그리고 여러 독립 성분의 GUM식 결합 불확정성.
두 종류의 오차, 두 반대 행동: 우연 오차는 N의 제곱근으로 줄어들고(σ/√N), 그래서 평균 내기가 언제나 이깁니다. 계통 오차는 전혀 줄지 않으므로, 교정이 반복보다 중요합니다. 측정은 σ가 작아도 편향 때문에 틀릴 수 있습니다.
유효숫자 — 장부 관리 지름길
유효숫자는 자신 있게 아는 숫자이며, 크기 관례를 채우는 0은 아닙니다. 다섯 규칙: (1) 0이 아닌 모든 숫자는 유효, (2) 0이 아닌 숫자 사이의 0은 유효, (3) 선행 0은 유효하지 않음(소수점 자리만 표시), (4) 소수점 뒤의 후행 0은 유효, (5) 소수점 없는 후행 0은 모호함(과학적 표기 사용). 따라서 기본값 0.0070800은 유효숫자 5개(7, 0, 8, 0, 0)를 가지며 (7.0800 ± 0.00005)×10−3으로 읽힙니다. 0.0070800을 보고하면 7.0800×10−3과 같은 정밀도를, 0.00708을 보고하면 천분의 일 정밀도를 암시합니다. 지름길은 교과서 보고서에 작동하고, 실제 측정에서는 불확정성 u가 정직한 숫자이며 유효숫자는 매번 ±를 쓰지 않고 그것을 표현하는 편리한 방법입니다.
오차 전파 — 실수의 미적분
z = f(x, y)에 대해 독립 불확정성을 결합하는 규칙은 σz² ≈ (∂f/∂x)²σx² + (∂f/∂y)²σy²입니다. 네 실무 연산에서는 이렇게 줄어듭니다. 덧셈/뺄셈은 절대 오차를 제곱합으로 더하고 σz = √(σx² + σy²). 곱셈/나눗셈은 분수 오차를 제곱합으로 더하고 σz/|z| = √((σx/x)² + (σy/y)²). 거듭제곱 xn은 분수 오차를 |n|배 합니다. σz/z = |n|σx/x. 기본 샘플(x = 10 ± 0.3, y = 5 ± 0.2, 덧셈)은 z = 15와 σz ≈ 0.36, 즉 15.00 ± 0.36(상대 약 2.4%)를 줍니다. 같은 입력으로 곱셈으로 바꾸면 z = 50 ± 2.5(상대 5%)입니다 — 같은 ± 값, 전혀 다른 전파 규칙, 그리고 곱의 상대 불확정성이 상대 불확정성들의 제곱합과 같습니다. 절대 불확정성은 합/차의 올바른 화폐이고, 분수 불확정성은 곱/몫의 올바른 화폐입니다.
표준편차 — 데이터의 퍼짐
표준편차 σ는 평균으로부터의 제곱평균제곱근 편차입니다. 데이터가 무엇을 나타내느냐에 따라 두 버전이 있습니다. 모집단 σ = √(Σ(xi − x̄)² / n)은 알려진 집합의 모든 구성원의 퍼짐을 기술하고, 표본 s = √(Σ(xi − x̄)² / (n − 1))은 표본이 뽑힌 더 큰 모집단의 퍼짐을 추정합니다. 기본 샘플(12.2부터 12.8까지 10개 값, 평균 12.5)은 모집단 σ ≈ 0.1732, 표본 s ≈ 0.1826, SEM = s/√N ≈ 0.0577을 줍니다. 평균 자신의 불확정성은 σ/√N(표본 버전은 s/√N)이므로, 하나의 양을 25번 측정해 평균 내면 불확정성이 1/5로 줄어드는 이유입니다. 표준편차는 신뢰구간도 먹입니다. 정규분포에서 ±1σ는 68.3%, ±2σ는 95.5%, ±3σ는 99.7%를 담습니다.
확장 불확정성 — 모든 원인 결합
측정에 여러 독립 오차원(기기 분해능, 교정, 반복성, 온도 드리프트, 조작자 효과)이 있으면 GUM식 결합 불확정성은 uc = √(Σui²)입니다. 원인은 A형(데이터에서 온 통계)과 B형(그 외 전부, 판단이나 제조사 명세로 추정)으로 분류되며, 둘 다 같은 방식으로 uc에 들어갑니다. 포함 인자 k가 구간을 고른 신뢰도로 스케일합니다. 68.3%는 k = 1, 95.5%는 k = 2, 99.0%는 k = 2.58, 99.7%는 k = 3. 기본 샘플(0.15, 0.08, 0.05, 0.03mm 원인, k = 2)은 uc ≈ 0.1797mm와 U = k·uc ≈ 0.3595mm(95.5%)를 줍니다. 보고 값은 그 신뢰도로 (측정 ± 0.36)mm가 됩니다. GUM(ISO/IEC Guide 98-3)이 이 절차의 국제 표준입니다. A형 성분은 반복 판독의 통계에서, B형은 기기 명세와 판단에서 오며 — 둘 다 같은 제곱합으로 결합됩니다.
흔한 오해
- 유효숫자가 많으면 측정이 더 정확하다. 그 숫자들이 정말 측정에서 나왔을 때만 그렇습니다. 손으로 쓴 "12.34567m"는 천만분의 일 정확도가 아닙니다. 유효숫자는 정밀도를 전달하는 방법이지 만들어내는 방법이 아닙니다. 지어낸 숫자로 채우는 것보다 ±를 보고하는 편이 정직합니다.
- 계통 오차는 평균으로 줄일 수 있다. 반대입니다. 우연 오차는 1/√N으로 평균되지만, 계통 편향(교정이 틀린 저울, 중심에서 벗어난 0)은 몇 번을 재어도 제자리입니다. 편향은 식별하고 교정하세요. 깨진 실험에서 "데이터가 너무 재현된다!"의 함정이 이것입니다.
- 표준편차가 단일 측정의 오차를 말해준다. 분포의 퍼짐을 특성화할 뿐, 개별 시행의 오차가 아닙니다. N개 표본에서 x̄를 얼마나 아는지 보고할 때 관련 수치는 평균의 표준오차(s/√N)입니다.
- 불확정성은 언제나 마지막 숫자의 ±다. 표준 관례는 "불확정성을 한 자릿수(때로 두 자릿수) 유효숫자로 반올림한 뒤, 값도 맞춰 반올림"입니다. 12.345678 ± 0.234의 측정은 12.345678 ± 0.234가 아니라 12.35 ± 0.23으로 보고해야 합니다.
관련 도구: 이면의 확률 분포는 통계, 숫자를 만들어내는 실험 설정은 역학, 전파의 대수는 계산기.
