온도
온도의 국제 단위는 켈빈(K)이다. 켈빈은 물의 삼중점의 열역학적 온도의 1/273.16으로 정의된다. 일반적인 정의에 사용되는 온도 기준에 열역학적 정의의 온도를 사용함으로써 일반적인 정의의 온도라도 물리학적인 의미, 다양한 기초적인 물리법칙과의 관련성을 만들 수 있다.
쿨백-라이블러 발산
쿨백-라이블러 발산(Kullback–Leibler divergence, KLD)은 두 확률분포의 차이를 계산하는 데에 사용하는 함수로, 어떤 이상적인 분포에 대해, 그 분포를 근사하는 다른 분포를 사용해 샘플링을 한다면 발생할 수 있는 정보 엔트로피 차이를 계산한다. 상대 엔트로피(relative entropy), 정보 획득량(information gain), 인포메이션 다이버전스(information divergence)라고도 한다. 정보이론에서는 상대 엔트로피, 기계학습의 결정 트리에서는 정보 획득량을 주로 사용한다.