Interpretaciones de las probabilidades
Hay dos categorías amplias de interpretaciones de las probabilidades las cuales pueden ser llamadas probabilidades "físicas" y "evidenciales".  Algunas interpretaciones de probabilidad son asociadas con enfoques a inferencia estadística, incluyendo las teorías de estimación y pruebas de hipótesis. La interpretación física, por ejemplo, es adoptada por seguidores de los métodos estadísticos "frecuentistas", como Ronald Fisher [dubious] , Jerzy Neyman y Egon Pearson. Los estadísticos de la escuela opuesta (bayesiana) típicamente aceptan la existencia e importancia de las probabilidades físicas, así como también consideran el cálculo de probabilidades evidenciales; de acuerdo a esta escuela, ambas son válidas y necesarias en estadísticas. Este artículo, sin embargo, se enfoca en las interpretaciones de probabilidad más que en las teorías de inferencia estadística.
Teoría de la justificación
Lo anterior parece sugerir un cuestionamiento al concepto de prueba o demostración, incluso en aquellas áreas que tradicionalmente emplean “demostraciones formales”. En las palabras de Imre Lakatos: “Y ahora un sumario breve. Hemos visto que las demostraciones (proofs) matemáticas son de tres tipos: pre-formales, formales, post-formales. En general, las primeras y terceras demuestran algo acerca de ese, a veces claro y empírico, a veces vago y casi empírico, “algo” (stuff), que es el verdadero pero más bien evasivo sujeto de las matemáticas. Este tipo de demostración esta siempre abierta a alguna incertidumbre debido a posibilidades no consideradas con anterioridad. El segundo tipo de demostraciones matemáticas tiene certeza absoluta; es una lastima que no sea tan cierto -aunque es aproximadamente cierto- acerca de que es esa certeza.