Конечномерные распределения и матрица перехода за n шагов
Из свойств условной вероятности и определения однородной цепи Маркова получаем:
,
откуда вытекает специальный случай уравнения Колмогорова — Чепмена:
,
то есть матрица переходных вероятностей за шагов однородной цепи Маркова есть -я степень матрицы переходных вероятностей за 1 шаг. Наконец,
.