정보 엔트로피
요약 : 확률이 낮을수록, 어떤 정보일지는 불확실하게 되고, 우리는 이때 ‘정보가 많다’, ‘엔트로피가 높다’고 표현한다.
요동정리
요동정리(搖動定理, fluctuation theorem; FT)는 통계역학에서 출발한 것으로, 열역학적 평형(i.e. 최대 엔트로피) 상태가 아닌 계의 엔트로피가 주어진 시간이 흐름에 따라 증가할지 또는 감소할지 그 상대 확률을 다루는 정리이다. 열역학 제2법칙에서 고립계의 엔트로피는 평형에 도달할 때까지 계속 증가한다고 예측하고 있으나, 제2법칙 역시 통계적 법칙임이 통계역학의 성과로 밝혀짐에 따라 고립계의 엔트로피가 자발 감소할 확률은 언제나 0이 아니어야 한다. 요동정리는 이 확률을 정량적으로 다루는 것이다.