通过系统后像的光强分布则为：

I'(x)=1+m(ν)·cos[2πνx+φ(ν)]

式中m(ν)为调制度或反差度，代表交流分量的幅度I(ν)与直流分量I0的比。输入余弦光栅的调制度为1，为满幅调制；m(ν)≤1，等号仅当ν=0时才成立。m(ν)表征系统对于空间频率为ν的余弦信号的调制度的衰减，称为调制传递函数；φ(ν)则表示余弦光栅亮条纹的位置向暗条纹位置的相对移动，称为相位传递函数。复函数：

H(ν)=m(ν)exp[iφ(ν)]

称为光学传递函数。调制传递函数是光学传递函数的模，归一化手续规定m(0)=1，说明任何成像系统对于均匀一致的亮场（零频）总会响应。缓慢变化的背景和粗大物体通过系统形成的像比较清晰，系统的低频调制传递函数比较高。空间频率越高，调制传递函数越小，表明越细微的物体光学系统的分辨率越低，那些m(ν)≈0的物体细节会在通过系统的像强度分布中变得非常模糊乃至消失。调制传递函数m(ν)全面反映了从低频到高频的分量的传递特性，是评价系统成像质量的主要指标。许多场合下光学传递函数指的就是调制传递函数。若干成像系统串联时，合成系统的光学传递函数是子系统光学传递函数的乘积。

光学系统只有有限的孔径，空间频率过高时余弦光栅的衍射光离轴角过大，不能进入系统，因此存在截止频率（极限频率）νc。对于非相干成像系统，

νc=1/λF=2N.A./λ

式中F为成像系统的F数（焦距/孔径），λ为光波波长，N.A.为数值孔径。超过截止频率的图像细节将不能通过系统。为此，光学系统是低频滤波器。相同规格（如F数相同）的成像系统具有相同的截止频率。

评价大视场光学系统的成像质量时，不但要考虑低频、中频和高频的调制传递函数（MTF）的大小，还要全面评价对应于不同视场的一系列传递函数曲线。轴外视场对于水平方向（子午方向）放置的余弦光栅和垂直方向（弧矢方向）放置光栅的调制传递函数并不相同，所以要同时考察子午MTF和弧矢MTF。一般说来，调制传递函数曲线整体越高，系统的成像质量越好。在某些应用中还需要考虑相位传递函数。但在普通成像镜头生产线上，为了快速高效判别成像质量，可用几个甚至一个空间频率ν0的调制传递函数m(ν0)与阈值的比较来作为镜头像质是否合格的判据，产业部门这样的近似已经够用。ν0又称特征频率，通常取ν0=νc/2。

为了得到点光的像强度分布，必须考虑衍射效应，才能对物和像之间关系有更全面理解。根据光的衍射理论可以研究点光源至透镜、至像平面光波的整个传播过程，最后得出像平面上强度分布是透镜孔径函数的夫琅和费衍射图样，称为光学系统的强度脉冲响应，或点扩展函数。由它可以确定光学系统的成像性质，因为任意复杂物体由无数点源组成，其像的强度为物强度与点扩展函数的卷积。图1a表示一个无像差理想光学成像系统的点扩展函数。

利用点扩展函数概念可对光学系统的分辨率作出判据，例如对于两个点源组成的物，在像平面上的强度分布是相应两点扩展函数的叠加。当两点源距离小于点扩展函数的半宽度即点扩展函数第一零点的半径时，两点源在像平面上不能分辨。

与研究电学系统相似，引入傅里叶分析方法，考虑输入各种不同空间频率的物函数，观察光学系统像面上输出情况，例如物是余弦形式的光栅。因光学系统是线性的，所以像强度分布也是余弦形式，但它的振幅和位相会受系统的影响。正弦光栅经光学系统成像后，比原物相比反衬度降低，最高强度降低，最低强度升高，设T(v)满足0≤T(v)≤1。另外还会产生相移。原来亮线条的位置会向暗线条方向移动。T(v)是空间频率v的函数，改变v可测得T(v)随v变化曲线，反映系统对各空间频率的传递情况。对T(v)=1即零空间频率的图像信息，在系统中传递不受损失；而对那些T(v)=0的图像频率成分，会在像强度分布中消失。一般地，T(v)是复数，此时传递函数是实函数。

点扩展函数是一点光源经光学系统后所成的衍射斑分布的函数。它在空域表征光学系统的特性，传递函数在频域表征系统的特性。实际上两者有简单关系，即点扩展函数的傅里叶变换就是光学系统的传递函数。点扩展函数与透镜的孔径函数有关，传递函数也与孔径函数有关。事实上传递函数是孔径函数的自相关函数。

一个光学系统质量的评价，早期采用“星点”法，即观察点光源的像的强度分布，实质上是把对点扩展函数形状的观察作为像质评价的判据。这种方法虽然直观，但带有主观性，不能作定量评价。人们广泛用传递函数作为像质评价的判据，使质量评价进入客观计量。