Перейдем к рассмотрению понятий устойчивости и неустойчивости движения. Возьмем для рассмотрения состояние покоя или равновесия системы. Маленький шарик в точку снизу внутри полой сферы мы поместим. Для наблюдения движения слегка толкнем его и проследим за движением. По совершению нескольких малых затухающих колебаний шарик окажется на дне сферы. Мы получим, что положение равновесия становится устойчиво, а во времени малые возмущения отличающие от исходного состояния, быстпро затухают. Если же мы возьмем и поместим на вершину прекрасной сферы круглый шарик, то реакция на возмущение, даже самое малое, будет другой: при очень малом смещении шарика от состояния равновесия, он будет скатываться с вершины. Такое положение равновесия будет неустойчиво: малые возмущения нарастают во времени. Если брать физический смысл понятий устойчивость и неустойчивость, то по отношению к состоянию равновесия будет сохранён и в отношении любого другого режима. Такой режим существования динамической системы называется устойчивым, при условии, что малые возмущения затухают во времени и стремятся к нулю. Если же малые отклонения от режима пребывания системы начинают нарастать во времени, то такой режим становится неустойчивым.
Теперь рассмотрим еще одно свойство, которое очень важно для сложных систем – нелинейность. Пусть мы с неустойчивым режимом столкнулись. Нарушим режим малым воздействием, и будем нарастание возмущения фиксировать. Будет ли оно бесконечным? В реальной жизни это не возможно, так как нарастание отклонения будет проявляться до тех пор, пока механизм нелинейного ограничения процесса нарастания возмущения не вступит в действие. Что это же такое? Ответ на этот вопрос можно дать с физической и математической точек зрения. Нарастание с физической стороны описания амплитуды не может появляться до бесконечности. В силу того, что энергетические ресурсы системы ограниченны, то это нарастание должно прекратиться или в уменьшение амплитуды отклонения перейти. Каждый новый режим должен иметь ограниченную амплитуду, и управление этими процессами выполняют нелинейные законы. Свойства нелинейной системы зависят от ее состояния непрерывно [11, c.213].
Неустойчивую детерминированную систему будем рассматривать с учетом ограничения нелинейности нарастаний возмущений. Чтобы было понятно рассмотрим состояние равновесия, в котором в пространстве фазовых координат системы соответствует точка. Малым отклонением выведем систему из равновесного состояния. Возмущение, в силу неустойчивости, сразу же начнёт возрастать. Далее рост возмущения прекратится. Чего можно ожидать в этой ситуации? Нелинейное ограничение уменьшит отклонение конкретно до нуля в силу своих свойств, система вернется в исходное состояние равновесия. Теоретически такое возможно, однако вероятность мала, так как начальное состояние равновесия было неустойчиво. Вероятность другой ситуации: система вернется в сколь угодно малую окрестность исходного состояния и подойдет к состоянию неустойчивого равновесия и в силу неустойчивости, снова начнет от него удаляться. Этот процесс может бесконечно во времени может происходить. Но воплощение этого процесса некоторых определенных условий требует.
Рассмотрим случай, когда мы работаем с двумерной дифференциальной динамической системой. Пространство состояний этой системы будет фазовая плоскость с имеющимися координатами х и у. Если малое возмущение равновесного состояния в такой системе будет расти, а дальше в результате нелинейного ограничения уменьшаться, в таком случае возможны два варианта: новые устойчивые состояния равновесия вблизи неустойчивого будут появляться или же осуществит переход в новый режим произойдет, который удовлетворяет периодическим колебаниям.
При малых амплитудах возмущения траектория по спирали от точки равновесия О будет удаляться. При больших отклонениях траектория будет совершать обратные действия. Неустойчивое состояние равновесия перейдет в новый режим - периодические автоколебания, предельный цикл G которых и удовлетворяет условиям на фазовой плоскости.
Состояние неустойчивого равновесия в двумерной нелинейной системе образовывает режим периодических устойчивых колебаний. Если мы представим другую ситуацию, когда отклонение от состояния равновесия сначала нарастает, а затем в силу нелинейности снова стремится к нулю, мы получим противоречие: фазовая обязана будет самопересекаться. Но из выше описанного следует, что существуют начальные условия, приводящие в конечном результате к одинаковым состояниям. Но это невыполнимо в силу теоремы единственности решения. При данных начальных условия решение будет единственным, и другого не существует.
