为了提高变换域通信系统(transform domain communication system,TDCS)在复杂多变电磁环境下的抗干扰性能,提出了一种新的TDCS自适应门限设置方法,通过设置权重因子考虑系统的检测概率和虚警概率,建立门限优化函数并求得最优门限值表达式.该门限值由干扰信号功率、噪声功率以及权重因子共同决定,能够随着环境干噪比的变化进行自适应调整.理论分析和仿真实验证明,在多音干扰和窄带干扰共存的信道环境下,该方法能够准确定位干扰并将其剔除,进而生成近乎纯净无干扰的基函数幅度谱,降低了TDCS系统的误码率,提高了系统的抗干扰性能.