采用快速傅里叶变换（FFT）进行介质损耗角测量时，由于频谱泄漏效应会使得测量结果出现误差。在分析　FFT算法频谱泄漏效应原因基础上，提出基于　Nuttall窗-五点变换的高精度FFT算法，并将其应用于容性设备介质损耗角的测量之中。Nuttall窗具有较好的旁瓣衰减特性，对　FFT　输出序列进行加权变换则能够加快旁瓣频谱的衰减速度，因此本文算法先对被测信号加Nuttall窗，然后对FFT输出序列进行加权变换，可有效提高介质损耗角FFT算法测量的精度，从而达到减小频谱泄漏效应的目的。同时，还研究了基波频率、谐波含量、采样点数、随机噪声以及直流分量等参数对测试结果的影响。仿真和试验表明，所提方法具有较好的精度和可靠度。