针对Rayleigh衰落信道条件下OFDM信号与单载波信号调制识别问题,提出一种基于高阶累积量和支撑矢量机的信号识别算法。在接收端计算接收信号的高阶累积量作为提取的特征值,构造分类特征向量,支撑矢量机分类器将分类特征向量非线性地映射到高维特征空间中,并建立一个最优超平面来实现信号调制方式的分类。该方法不需要信号的载波频率、波特率等先验信息,直接在中频对信号进行处理。仿真结果表明,该算法对Rayleigh衰落和高斯噪声均不敏感,对信噪比的变化有很强的适应能力。且该算法识别概率高,性能稳定,复杂度低,适合实时处理。