Рассмотрим нелинейную систему дифференциальных уравнений, запишем ее уравнения в векторной форме
или в координатной форме
.
В качестве независимой переменной выбрано время t, поэтому система дифференциальных уравнений является моделью некоторого процесса – изменения переменной 
во времени или движения материальной точки, занимающей в фазовом пространстве текущее положение 
и изменяющей это положение с изменением времени t. Таким образом, движение – это частное решение системы дифференциальных уравнений.
Зададим некоторые начальные условия 
. Пусть выполняются условия теоремы Коши (непрерывны 
в рассматриваемой области). Тогда через любую точку расширенного фазового пространства 
из рассматриваемой области проходит единственная интегральная кривая – график частного решения 
. Назовем движение, «начинающееся» в точке невозмущенным движением . Если «возмутить» – несколько изменить начальные условия в фазовом пространстве, выбрать их 
, то изменится и движение. Назовем движение, «начинающееся» в точке , возмущенным движением 
. Если возмущение начальных условий невелико, то в некоторой окрестности начальной точки траектории – движения тоже близки.
Справедлива теорема о непрерывности решения по начальным условиям. Пусть выполнены условия теоремы Коши. Тогда 
Отсюда видно, что близость возмущенного и невозмущенного движений гарантируется в некоторой временной окрестности, размер которой зависит от размеров трубки – окрестности («допуска») в фазовом пространстве координат.
Однако в практике встречаются процессы, для которых надо гарантировать близость возмущенного и невозмущенного движений «вообще», при любом времени t > T (важно, чтобы существовало это некоторое T).
Например, запустив спутник на орбиту, полезно быть уверенным, что он не свалится нам на голову через 10 или 100 лет, а будет «вечно» находиться на орбите.
В наше время приходится сталкиваться с экологическими проблемами. Кто же знал, конструируя двигатель внутреннего сгорания, что через некоторое время использование этого открытия поставит под угрозу существование жизни на Земле?
Рассматривая близость возмущенного и невозмущенного движений «вообще», при любом времени t > T, мы приходим к определению устойчивости движения по Ляпунову.
Движение называется устойчивым по Ляпунову, если
Смысл определения в том, что для любого размера окрестности «допуска» (по фазовым координатам) невозмущенного движения существует размер окрестности, в которой можно «возмутить» начальные условия. Причем это возмущение приведет к тому, что возмущенное движение после некоторого момента времени Т войдет в окрестность «допуска» и останется в этой окрестности при любом t > T.
Если движение устойчиво по Ляпунову и 
, то такое движение называется асимптотически устойчивым.
Если движение асимптотически устойчиво, то возмущенное движение с ростом времени стремится к невозмущенному.
Движение называется неустойчивым по Ляпунову, если
Смысл этого определения в том, что как бы ни было мало возмущение начальных условий, все равно со временем хотя бы по одной координате возмущенное движение выйдет из некоторой окрестности «допуска» невозмущенного движения.
Теорема. Задача об устойчивости движения может быть сведена к задаче об устойчивости тривиального (тождественно равного нулю) решения системы.
Доказательство. Обозначим 
. Тогда
.
При 
имеем 
, поэтому задача об устойчивости движения для исходной системы уравнений может быть заменена эквивалентной ей задачей об устойчивости тривиального решения для системы
.
Поэтому обычно заранее делают указанную замену и исследуют задачу об устойчивости тривиального решения.
Таким образом, задача об устойчивости движения может быть сведена для автономной системы к исследованию характера ее точки покоя 
(при рассмотрении свойств автономных систем было показано: если - точка покоя, то 
- решение системы).
