정보 엔트로피
요약 : 확률이 낮을수록, 어떤 정보일지는 불확실하게 되고, 우리는 이때 ‘정보가 많다’, ‘엔트로피가 높다’고 표현한다.
과학적 방법
과학에서 측정은 항상 불확정성에 대한 평가를 동반한다. 불확정성은 종종 요구되는 양에 대한 반복적인 측정으로 평가된다. 즉, 반복하여 측정된 양을 평가하여 계산함으로써 불확정성의 정도를 파악할 수 있다. 예를 들어 반복하여 측정된 양의 평균을 측정 값으로 정하는 것을 통해 오차의 범위를 정할 수 있다. 불확정성의 정도를 나타내는 지수로 측정불확도가 있다.