Física matemática
La mecánica estadística constituye un campo distinto, fuertemente relacionado con la teoría ergódica y algunos aspectos de la teoría de probabilidades. La noción de entropía estadística usada en teoría de la información procede de la noción de entropía física, relacionada con las probabilidades por Ludwig Boltzmann.
Historia de la estadística
Ver Ian Hacking's "The emergence of probability" and James Franklin's "The science of conjecture: evidence and probability before Pascal" para historias del desarrollo del concepto de probabilidad matemática. En la era moderna, el trabajo de Andréi Kolmogórov ha sido imprescindible para la formulación del modelo fundamental de Teoría de Probabilidades.