自由电子激光凭借其所具有的高功率、辐射相干、波长连续可调等特点而被越来越被多的科研工作者认可,逐渐成为一种被广泛使用得光源,因而提升自由电子激光的输出性能也成为了当前机器研究的热点。振荡器型自由电子激光以其造价低廉、对束流品质要求低等特点而成为红外波段自由电子激光装置的主要工作模式并在世界各地得以如雨后春笋般建设运行,我国也在合肥建设了第一台红外自由电子激光用户装置——FELiCHEM。本文主要围绕振荡器型自由电子激光进行研究,探索提高光源输出特性的方法,从而更好地满足用户需求。我们研究了振荡器FEL中的光场饱和机制并探讨了提高电子能量提取效率的方式。光场饱和后应用锥化波荡器是提升电子能量提取效率的有效方案,但在多程放大的振荡器FEL中,很难在宏脉冲时间内完成波荡器锥化率的调节,因而我们研究了小锥化率波荡器在振荡器FEL中应用的可能性。在线性近似下我们给出了电子与光场的相互作用方程,并通过数值计算得到了增益随锥化率的变化曲线,对此我们讨论了小锥化率的范围,研究表明在合适的波荡器小锥化率条件下可以获得更高的光场饱和输出能量,之后我们还给出了该方案在FELiCHEM装置中的应用。由于小锥化率波荡器对光场能量提升有限,因此我们还研究了光场饱和后改变电子能量的方案,根据相包内粒子追踪模拟和理论计算结果我们给出了饱和光场下理论上的电子能量最优取值,作为电子能量的调节依据。然后我们给出了该方案下振荡器FEL中所能获得的最大电子能量提取效率和最大光场饱和功率估算公式,三维模拟结果与理论分析一致,其后我们探讨了该方式在FELiCHEM装置中的实际应用可能性。最后我们提出在振荡器FEL中同时采用小锥化率波荡器和光场饱和时改变电子能量的方案,研究结果表明新方案可以进一步地提高振荡器FEL的饱和输出能量。在远红外和THz辐射等长波辐射中,波长衍射会带来很大的光场损耗,导致光场起振较慢甚至于难以起振,因此FEL中的波荡器真空室通常被设计为光波导使用以抑制衍射效应,但波导的引入会带来光谱间隙,从而破坏了振荡器FEL光谱扫描的连续性。FEL常用模拟软件Genesis并不能用来模拟带波导的情况,基于此我们科研团队开发了可用于带波导情况的wGenesis软件,本论文结合wGenesis和OPC三维模拟软件对带波导振荡器FEL进行研究,给出了对应的辐射光谱分布,其结果与CLIO上的实验结果吻合良好,证实了我们的模拟方法对带波导FEL是可靠的。我们研究指出波导FEL中x方向的高阶模式影响不可忽略,会造成光谱间隙位置偏移,因此我们改进了光谱间隙的理论计算公式并成功预测了波导效应的影响,且数值计算结果与三维模拟吻合很好。我们针对FELiCHEM装置进行波导FEL三维模拟,所得结果与中红外波段实验所观测到的光谱间隙位置一致,同时我们还给出了不同波导尺寸下的光谱分布,这表明我们的研究可作为装置的调试指导,并为以后的振荡器FEL设计提供重要参考依据。腔长失谐量是影响短电子束团振荡器FEL激光性能的一个重要参数,在大失谐量下增益大,光场快速起振,但饱和功率低,而在小失谐量下则正好相反,通过动态腔长失谐技术我们可以同时实现光场快速起振和高饱和功率输出。我们研究了动态腔长失谐技术下的腔长调节时机,结果表明其最佳选择应在光场增益降至初始增益约一半之时,此时振荡器FEL既能充分利用大失谐量起振,又能保持小失谐量下的饱和能量,从而得到最大的宏脉冲能量。我们研究还发现动态腔长失谐技术下光场饱和时的腔长小失谐量最好设置在辐射波长一半附近,此时对应于光场最高饱和功率。然后我们探讨了将动态腔长失谐技术应用到FELiCHEM装置中的可能,并在三维模拟中给出了动态腔长失谐技术下的最优宏脉冲能量提升结果。最后介绍了在FHIFEL装置上的实验研究工作,首先通过插靶法测量电子束团能散的方式完成了电子束团长度的测量。之后我们通过加速段中chicane装置,采用磁压缩的方式实现了对电子束团长度的压缩,获得了短脉冲、高流强的微脉冲电子束团,并调束让其在振荡器中辐射出光,从而在FHI FEL装置上首次独立的完成了短束团辐射出光实验,获得了较高激光输出能量。我们还通过搭建二次谐波能量测量装置完成了 FHIFEL中的二次谐波实验,并在实验中分析了部分参量对二次谐波的影响。