LLM从定向合成多语言数据中变得更聪明

摘要

语言特定能力（LSC）指语言模型因提示语言不同而表现各异，源于跨语言的语义表征错位。现有对策如英语路由或语言平衡数据均有缺陷。本文提出数据生成框架HOTFIXR，通过探测学生模型的多语言弱点并生成针对性数据来提升性能。在三个分布内任务、三个分布外任务及四种分布外语言上评估，平均改善分布内性能6.2%，减少微调导致的灾难性遗忘（分布外任务3.7%，分布外语言7.1%）。