자를 대는 순간 생기는 것
책상의 길이를 잰다. 자에 눈금이 1 mm 간격으로 있고, 끝이 눈금 사이 어딘가에 걸친다. 당신은 "1,203 mm"라고 적는다.
그런데 이 숫자는 무엇을 말하는가. 정확히 1,203 mm라는 뜻인가, 아니면 1,202.5와 1,203.5 사이 어딘가라는 뜻인가. 자를 다시 대면 같은 값이 나올까. 자 자체는 정확한가.
측정에서 참값은 원리적으로 알 수 없다. 더 좋은 도구를 쓰면 더 가까워질 뿐, 도달하지는 못한다. 이건 도구가 부족해서가 아니라 측정이라는 행위의 성질이다.
그래서 과학이 택한 길은 참값을 맞히는 것이 아니었다. 얼마나 모르는지를 함께 적는 것이었다.
정밀한데 틀릴 수 있다
여기서 두 낱말이 갈린다. 일상에서는 섞어 쓰지만 측정에서는 다른 것을 가리킨다.
- 정확도(accuracy) — 참값에 얼마나 가까운가
- 정밀도(precision) — 다시 재면 얼마나 같은 값이 나오는가
과녁으로 그리면 분명해진다. 화살 열 발이 한 점에 모였는데 그 점이 과녁 바깥이면, 정밀하지만 부정확하다. 열 발이 과녁 주위에 흩어졌는데 평균이 중심이면, 정확하지만 정밀하지 않다.
둘은 서로 독립적이다. 그리고 위험한 쪽은 앞이다. 흩어진 값은 누구나 의심하지만, 한 점에 모인 값은 믿게 된다 — 그 점이 틀린 자리여도.
계기가 어긋난 저울은 매번 같은 값을 준다. 그 일관성이 오히려 오류를 숨긴다.
자릿수는 주장이다
"1,203 mm"와 "1,203.0 mm"는 다른 말이다. 유효숫자는 장식이 아니라 내가 어디까지 안다고 주장하는지를 밝히는 표기다.
앞은 mm 자리까지 안다는 뜻이고, 뒤는 0.1 mm 자리까지 안다는 뜻이다. 뒤를 적으려면 그만한 도구로 쟀어야 한다.
여기서 흔한 잘못이 나온다. 1,203 mm를 인치로 바꾸면 계산기가 47.362204724409±를 뱉는다. 이 숫자를 그대로 옮겨 적으면, 원래 mm까지밖에 모르던 값이 갑자기 소수점 아래 아홉 자리를 아는 값으로 둔갑한다. 단위를 바꿨을 뿐인데 없던 정밀도가 생긴 것이다.
계산은 정밀도를 만들어 내지 못한다. 들어간 것보다 정밀한 답은 나올 수 없다.
킬로그램이 살을 뺐다
이 이야기의 가장 비싼 사례는 원기다.
1889년부터 2019년까지 1 킬로그램은 파리 근교 금고에 든 백금-이리듐 원기둥 하나였다. 국제 킬로그램 원기(IPK). 정의상 이것은 정확히 1 kg이었다 — 무게가 변하더라도, 변한 그 값이 1 kg이 되는 구조였다.
문제는 각국이 받아 간 복제본들이었다. 백 년에 걸쳐 비교해 보니 복제본들이 IPK보다 평균 50 마이크로그램쯤 무거워졌다. 머리카락 한 올의 절반 남짓이다.
여기서 답할 수 없는 질문이 생긴다. 복제본이 무거워진 것인가, 원기가 가벼워진 것인가. 원기가 정의 그 자체이므로, 원기와 비교해서는 원기의 변화를 알아낼 방법이 없다. 자로 그 자를 잴 수는 없다.
실물을 기준으로 삼는 한 이 물음에는 답이 없다.
그래서 물건을 버렸다
2019년 5월 20일, 국제도량형총회의 결의가 발효되며 마지막 실물 원기가 정의에서 물러났다. 킬로그램은 플랑크 상수 h를 정확히 6.62607015×10⁻³⁴ J·s로 못 박고 거기서 끌어낸 값이 됐다.
미터도 같은 길을 먼저 갔다. 1983년부터 빛의 속력을 정확히 299,792,458 m/s로 고정하고 미터를 그로부터 정의한다.
이 전환의 뜻은 이렇다. 예전에는 물건이 기준이었고, 그 물건이 어디 있는지가 중요했다. 이제는 상수가 기준이고, 장비만 갖추면 도쿄에서든 나이로비에서든 같은 킬로그램을 만들어 낼 수 있다.
기준이 파리 금고를 떠난 것이다.
그래도 오차는 남는다
상수로 정의했다고 측정이 정확해지는 것은 아니다. 정의는 완벽해졌지만, 그 정의를 실현하는 장치에는 여전히 불확도가 붙는다. 키블 저울로 킬로그램을 구현할 때의 상대 불확도는 10⁻⁸ 규모다.
달라진 것은 오차가 사라진 게 아니라 오차가 어디에 있는지가 분명해진 것이다. 예전에는 "원기가 변했을지도 모른다"는 알 수 없는 오차가 있었다. 이제는 "우리 장비의 불확도는 이만큼"이라고 적을 수 있다.
1993년 국제 지침 GUM이 불확도 표기를 표준화한 것도 같은 정신이다. 값 하나만 적는 것은 절반만 말하는 것이다. (1,203.0 ± 0.2) mm 라고 적어야 온전한 문장이 된다.
남은 것
표준은 기술이기 전에 약속이다. 그리고 좋은 약속은 "우리는 정확하다"고 말하지 않는다. **"우리가 얼마나 모르는지 여기 적어 두었다"**고 말한다.
숫자 뒤에 붙은 ± 기호는 자신 없음의 표시가 아니다. 그 반대다. 자기가 무엇을 모르는지 아는 사람만 그 기호를 쓸 수 있다.