Meta研究人员提出轻量级微调方法RA

文章概要:1.RA-DIT通过两阶段调优提升语言模型利用检索信息的能力和检索器提供相关结果的能力。2.RA-DIT在知识密集的零样本和少样本学习基准测试中优于现有检索增强模型。3.RA-DIT65B在需要利用知识的任务中表现显著提升，展现调优带来的效果。