微分方程的一个分支。研究当初始条件甚至微分方程右端函数发生变化时，解随时间增长的变化情况。主要方法有特征数法，微分与积分不等式，李雅普诺夫函数法等。是天体力学，自动控制等各种动力系统中的首要问题。

在经典控制理论中，主要限于研究线性定常系统的稳定性问题。判断系统稳定性的主要方法有奈奎斯特稳定判据和根轨迹法。它们根据控制系统的开环特性来判断闭环系统的稳定性。这些方法不仅适用于单变量系统，而且在经过推广之后也可用于多变量系统。

对于非线性系统稳定性的判别，李雅普诺夫第二方法至今仍是主要的方法（见李雅普诺夫稳定性理论）。李雅普诺夫方法还被应用于研究绝对稳定性和有限时间区间稳定性问题。对于大系统和多级复杂系统，通过引入向量李雅普诺夫函数，可以建立判断稳定性的充分条件。在研究绝对稳定性问题方面，不同于李雅普诺夫方法的另一个重要方法是1960年V.M.波波夫建立的频率域形式的判据。它的主要优点是可利用系统中线性部分的频率响应的实验结果。后来的研究表明，李雅普诺夫方法和波波夫方法在实质上是等价的。波波夫在研究绝对稳定性的基础上，在1964年进一步提出超稳定的概念和理论（见波波夫超稳定性），并在1966年出版了《控制系统的超稳定性》的专著。超稳定性理论已在模型参考适应控制系统的分析和综合中得到应用。