Física matemática
La mecánica estadística constituye un campo distinto, fuertemente relacionado con la teoría ergódica y algunos aspectos de la teoría de probabilidades. La noción de entropía estadística usada en teoría de la información procede de la noción de entropía física, relacionada con las probabilidades por Ludwig Boltzmann.
Teoría de la justificación
Lo anterior parece sugerir un cuestionamiento al concepto de prueba o demostración, incluso en aquellas áreas que tradicionalmente emplean “demostraciones formales”. En las palabras de Imre Lakatos: “Y ahora un sumario breve. Hemos visto que las demostraciones (proofs) matemáticas son de tres tipos: pre-formales, formales, post-formales. En general, las primeras y terceras demuestran algo acerca de ese, a veces claro y empírico, a veces vago y casi empírico, “algo” (stuff), que es el verdadero pero más bien evasivo sujeto de las matemáticas. Este tipo de demostración esta siempre abierta a alguna incertidumbre debido a posibilidades no consideradas con anterioridad. El segundo tipo de demostraciones matemáticas tiene certeza absoluta; es una lastima que no sea tan cierto -aunque es aproximadamente cierto- acerca de que es esa certeza.