근삿값
근삿값에 대한 오차의 절댓값이 어떤 값 이하일 때, 그 값을 근삿값에 대한 오차의 한계라고 한다.
측정
가령 둥근 직경 40.00 mm를 목표로 하여 원통이 되게끔 가공했다고 하자. 그런데 가공 후에 원통의 중앙에서 직경을 재었더니 40.05 mm였다면 목표 수치 40.00 mm와는 0.05 mm 차이가 난다. 실제 측정한 값, 즉 측정치와 목표치와의 차를 '오차'라 한다. 이 오차에는 측정의 오차와 가공의 오차가 포함되어 있다. 가령 눈금이 0.01 mm마다에 매겨진 정확한 측정기가 있다면, 눈금과 눈금 사이는 목측(目測)으로 절반 이상을 절상하고 절반 이하는 잘라 버리며 읽으니 40.05 mm로 읽은 수치는 사실 40.04500… mm보다 크고 40.0549… mm보다 작다고 하는 것을 보여 주고 있을 뿐으로서, 0.01 mm 폭의 애매성을 포함하고 있는 것이다. 실제 값(참된 값이라고 한다)은 완전한 측정기가 없는 한 알 수가 없지만 측정의 오차는 절상, 또는 잘라 버린 반 눈금인 0.005 mm보다 작은 것은 확실하다. 그뿐 아니라 측정기의 눈금은 인간이 가공해서 만든 것이므로 여기에 가공의 오차가 가산된다. 그 오차는 일반적으로 한 눈금의 절반 이하인데, 이것을 가미하면 측정오차는 0.01 mm를 넘지 않는 정도가 되며 참값은 40.040 mm에서 40.0599… mm 사이에 존재하게 된다. 참값은 분명치 않지만 가령 40.046 mm였다고 가정하면 목표치로부터의 편차 0.046 mm는 가공의 오차라고 할 수 있다.