A estabilidade de um sistema pode ser definida de diversas maneiras e segundo vários pontos de vista. Nos fixaremos aqui no conceito de BIBO-estabilidade (bounded input-bounded output). Segundo este conceito, um sistema é dito ser estável se, para todo sinal de amplitude limitada aplicado em sua entarda, o sinal de saída é também limitado. Por outro lado, se o sistema é instável, ao aplicarmos um sinal de amplitude limitada em sua entarda, sua saída divergirá com o passar do tempo, ou seja, a amplitude do sinal de saída tenderá a crescer indefinidamente.
As figuras (1.7) e (1.8) mostram a resposta de dois sistemas a uma entrada do tipo salto unitário que constitui-se em um sinal de amplitude limitada. Note que a resposta do sistema (1.7) é limitada em amplitude e, portanto, este sistema é estável. Já o sistema da figura (1.8) apresenta uma resposta apresenta um comportamento divergente sendo, portanto, instável.
Considerando-se sistemas lineares, a BIBO-estabilidade, é determinada pelos pólos da função de transferência, ou seja
De acordo com o posicionamento dos pólos no semi-plano esquerdo (SPE), semi-plano direito (SPD) ou eixo imaginário temos os seguintes comportamentos:
Cabe aqui ressaltar que, no caso de sistemas lineares, a estabilidade é uma característica do sistema, ou seja, independe do sinal de entrada.