状态变量和输出变量相对于输入变量的运动特性不能用线性关系描述的控制系统。

状态变量和输出变量相对于输入变量的运动特性不能用线性关系描述的控制系统。线性因果关系的基本属性是满足叠加原理（见线性系统）。在非线性控制系统中必定存在非线性元件，但逆命题不一定成立。描述非线性系统的数学模型，按变量是连续的或是离散的，分别为非线性微分方程组或非线性差分方程组。

非线性控制系统的形成基于两类原因，一是被控系统中包含有不能忽略的非线性因素，二是为提高控制性能或简化控制系统结构而人为地采用非线性元件。

非线性控制系统的框图，其中非线性环节的输出x(t)是输入e(t)的非线性函数。工程中的典型非线性特性有： ①死区（不灵敏区）特性，如测量元件的不灵敏区，伺服电压的启动电压和干摩擦等特性。

②饱和特性，如放大器的饱和输出特性，伺服阀的行程限制和功率限制。

③间隙特性，如齿隙特性和油隙特性。

④继电器特性。

⑤变放大系数特性。

非线性系统中会出现一些在线性系统中不可能发生的奇特现象，归纳起来有如下几点：

①线性系统的稳定性和输出特性只决定于系统本身的结构和参数。而非线性系统的稳定性和输出动态过程，不仅与系统的结构和参数有关，而且还与系统的初始条件和输入信号大小有关。

例如，在幅值大的初始条件下系统的运动是收敛的（稳定的），而在幅值小的初始条件下系统的运动却是发散的（不稳定的），或者情况相反。

②非线性系统的平衡运动状态，除平衡点外还可能有周期解。周期解有稳定和不稳定两类，前者观察不到，后者是实际可观察到的。因此在某些非线性系统中，即使没有外部输入作用也会产生有一定振幅和频率的振荡,称为自激振荡,相应的相轨线为极限环。改变系统的参数可以改变自激振荡的振幅和频率。这个特性可应用于实际工程问题，以达到某种技术目的。例如，根据所测温度来影响自激振荡的条件，使之振荡或消振，可以构成双位式温度调节器。

③线性系统的输入为正弦函数时，其输出的稳态过程也是同频率的正弦函数，两者仅在相位和幅值上不同。但非线性系统的输入为正弦函数时，其输出则是包含有高次谐波的非正弦周期函数，即输出会产生倍频、分频、频率侵占等现象。

④复杂的非线性系统在一定条件下还会产生突变、分岔、混沌等现象。

非线性系统的分析远比线性系统为复杂，缺乏能统一处理的有效数学工具。在许多工程应用中，由于难以求解出系统的精确输出过程，通常只限于考虑：

①系统是否稳定。

②系统是否产生自激振荡（见非线性振动）及其振幅和频率的测算方法。

③如何限制自激振荡的幅值以至消除它。例如一个频率是ω的自激振荡可被另一个频率是ω1的振荡抑制下去，这种异步抑制现象已被用来抑制某些重型设备的伺服系统中由于齿隙引起的自振荡。

在工程上还经常遇到一类弱非线性系统，即特性和运动模式与线性系统相差很小的系统。对于这类系统通常以线性系统模型作为一阶近似，得出结果后再根据系统的弱非线性加以修正，以便得到较精确的结果。摄动方法是处理这类系统的常用工具。而对于本质非线性系统，则需要用分段线性化法等非线性理论和方法来处理。

现代广泛应用于工程上的分析方法有基于频率域分析的描述函数法和波波夫超稳定性等，还有基于时间域分析的相平面法和李雅普诺夫稳定性理论等。这些方法分别在一定的假设条件下，能提供关于系统稳定性或过渡过程的信息。而计算机技术的迅速发展为分析和设计复杂的非线性系统提供了有利的条件。

在某些工程问题中，非线性特性还常被用来改善控制系统的品质。例如将死区特性环节和微分环节同时加到某个二阶系统的反馈回路中去，就可以使系统的控制既快速又平稳。又如，可以利用继电特性来实现最速控制系统。

非线性控制系统在许多领域都具有广泛的应用。除了一般工程系统外，在机器人、生态系统和经济系统的控制中也具有重要意义。