Математическая статистика занимается обработкой результатов случайного эксперимента. В отличие от теории вероятностей, в ней математическая модель эксперимента не известна (либо частично, либо полностью). Следовательно, возникает задача: по имеющимся наблюдаемым данным эксперимента (их всегда конечное, может быть и достаточно большое число) установить или восстановить неизвестное распределение вероятностей или объективно оценить параметры распределения.
Можно утверждать, что математическая статистика занимается задачами, обратными задачам теории вероятностей. Для пояснения сказанного рассмотрим следующий пример.
В контейнере содержится N деталей, среди которых М бракованных и, следовательно, N — М стандартных. Из контейнера извлекается без возвращения п деталей (бесповторный отбор). Если бы мы знали количество бракованных и стандартных деталей в контейнере,
то по соответствующей модели можно было бы получить распределение вероятностей числа m бракованных деталей в выборке объема п (гипергеометрическое распределение).
Рассмотренная задача относится к компетенции теории вероятностей.