本文是LLM系列文章，针对《NEFTUNE: NOISY EMBEDDINGS IMPROVE INSTRUCTION FINETUNING》的翻译。
我们展示了语言模型微调可以通过简单的增强来改进，有时甚至是显著的改进。NEFTune在训练期间向嵌入向量添加噪声。使用Alpaca对LLaMA-2-7B的标准微调在AlpacaEval上实现了29.79%，而使用噪声嵌入时，这一比例上升到64.69%。NEFTune还改进了现代指令数据集上的强基线。使用Evol Instruct训练的模型可以看到10%的改进，使用ShareGPT8%的改进，OpenPlatypus改进了8%。即使是用RLHF进一步改进的强大模型，如LLaMA-2-Chat，也可以从NEFTune的额外训练中受益。