光谱仪的光学分辨率定义为光谱仪所能分辨开的最小波长差。要把两个光谱线分开则至少要把它们成象到探测器的两个相邻象元上。因为光栅决定了不同波长在探测器上可分开的程度(色散),所以它是决定光谱仪分辨率的一个非常重要的参数。
另一个重要参数是进入到光谱仪的光束宽度,它基本上取决于光谱仪上安装的固定宽度的入射狭缝或光纤芯径(当没有安装狭缝时)。
在指定波长处,狭缝在探测器阵列上所成的象通常会覆盖几个象元。如果要分开两条光谱线,就必须把它们色散到这个象尺寸再加上一个象元。当使用大芯径的光纤时,可以通过选择比光纤芯径窄的狭缝来提高光谱仪的分辨率。因为这样会大大降低入射光束的宽度。