本发明公开了一种基于非线性压缩变换的转子碰摩故障检测方法及系统,用于检测旋转机械中转子系统碰摩故障,所述方法通过对转子系统的振动信号进行非线性压缩变换得到所述振动信号的时频表示,结合所述时频表示计算所述振动信号的瞬时频率,进而进一步计算所述瞬时频率的震荡部分的频谱;假设fr为所述转子系统的转频,如果所述频谱的最大谱峰位于[0.99fr,1.01fr]范围内且幅值超出所述转频的2%,则可判定所述转子系统存在碰摩故障;否则,判定所述转子系统不存在碰摩故障。所述系统基于所述方法实现,方便方法的应用。本发明可以准确判断转子碰摩故障是否存在,结果快速可靠,简单易行,适用转子的在线健康监测。