GPT - Prompt 后退提问策略
2025-01-22 08:19:30 668 字
This post is also available in English and alternative languages.
宝玉xp - 今天朋友群里分享了个Prompt技巧,来源于谷歌Deepmind在10月9日提交的一篇论文。
原推:twitter.com/vista8/status/1717131468575559959
谷歌提出一种称为“Step-Back Prompting”的Prompt技术,让LLMs自己抽象问题,得到更高纬度概念和原理,再用这些知识推理并解决问题。
他们用PaLM-2L模型做了实验,发现这种Prompt技巧能显著提升密集推理任务(STEM、知识问答、多跳问题)的性能质量表现。
MMLU 物理和化学方面表现提高了7%,TimeQA 提高27%,MuSiQue 提高了7%。
- MMLU:大规模多任务语言理解测试数据集
- TimeOA:时间敏感问题测试数据集
- MusiQue:多跳问答数据集,包含25,000个2-4跳问题
基于这个论文思路的中文Prompt如下:
1 | <— Prompt开始 —> |