本文建立了偏分复用系统中偏振模色散与信号偏振态变化引起信道串扰的数学模型,分析了偏振模色散对偏分复用信道射频功率的影响,并提出了适用于偏分复用系统的光域偏振模色散补偿与偏分解复用同时进行的方案:用信道的射频功率作为反馈控制信号,监测链路中偏振模色散和偏振态变化引起的信道串扰的大小,用改进的粒子群优化算法对偏振控制器进行自适应控制,同时完成偏振模色散补偿与偏分解复用.在112 Gb/s偏分复用-差分正交相移键控(PDM-DQPSK)传输系统中仿真验证了该方案的有效性.结果表明该方案可以使112 Gb/s-PDM-DQPSK传输系统完成自适应偏分解复用的同时,在1 dB的光信噪比代价下,使系统对偏振模色散的容忍度提高20 ps.