Interpretaciones de las probabilidades
Hay dos categorías amplias de interpretaciones de las probabilidades las cuales pueden ser llamadas probabilidades "físicas" y "evidenciales".  Algunas interpretaciones de probabilidad son asociadas con enfoques a inferencia estadística, incluyendo las teorías de estimación y pruebas de hipótesis. La interpretación física, por ejemplo, es adoptada por seguidores de los métodos estadísticos "frecuentistas", como Ronald Fisher [dubious] , Jerzy Neyman y Egon Pearson. Los estadísticos de la escuela opuesta (bayesiana) típicamente aceptan la existencia e importancia de las probabilidades físicas, así como también consideran el cálculo de probabilidades evidenciales; de acuerdo a esta escuela, ambas son válidas y necesarias en estadísticas. Este artículo, sin embargo, se enfoca en las interpretaciones de probabilidad más que en las teorías de inferencia estadística.
Estadística robusta
Las estadísticas robustas intentan proporcionar métodos que emulan a los métodos clásicos, pero que no son afectados indebidamente por valores atípicos u otras pequeñas discrepancias respecto de las asunciones del modelo. En Estadística, los métodos clásicos confían en hipótesis que no se resuelven o no se verifican a menudo en la práctica. Por ejemplo, se asume a menudo que los residuales de los datos están distribuidos normalmente, por lo menos aproximadamente, o que se puede confiar en el Teorema del límite central para producir estimaciones normalmente distribuidas. Desafortunadamente, cuando hay valores atípicos en los datos, los resultados producidos por los métodos clásicos son a menudo de baja calidad.