中信建设证券官方网站,企业网站管理的含义及内容,h5案例分享平台,网站运营与建设 教学大纲一、Prompt设计的四个关键要素#xff1a;
任务描述、输入数据、上下文信息、提示风格
#xff08;1#xff09;任务描述#xff1a;描述想要让LLM遵循的指令。描述应详细清晰#xff0c;可进一步使用关键词突出特殊设置#xff0c;从而更好地指导LLM工作。 #xff0…一、Prompt设计的四个关键要素
任务描述、输入数据、上下文信息、提示风格
1任务描述描述想要让LLM遵循的指令。描述应详细清晰可进一步使用关键词突出特殊设置从而更好地指导LLM工作。 2输入数据对于非结构化数据可用文本描述的方式输入对于非结构化数据知识图谱、表格、代码等采用一种合适的方式例如文本化、线性化转换函数。 3上下文信息上下文和背景信息。有助于更好地描述任务范例、任务目标、特殊的输出格式以及输入和输出之间的映射关系。 4提示风格设置合适的提示风格有助于激发LLM解决特定任务的能力。例如角色设定、添加相关前后缀“Let us think step by step”、拆解为子任务。
二、Prompt设计的四个准则
任务描述目标清晰、分解为简单的子任务、提供少量示例、使用友好的格式
1任务描述目标清晰避免莫能两可的描述导致不精确的返回结构。一个清晰而详细的描述应该包含解释任务的各种元素例如任务目标、输入/输出数据、约束要求字数等信息 2分解为简单的子任务将困难任务分解为多个子任务更容易解决问题。可用编号形式列出子任务例如1. … 2. … 3. … 。让LLM可以更专注于解决子任务最终解决整个复杂的任务。 3提供少量示例提供一些输入输出示例对有助于LLM学习输入和输出之间的语义映射关系。 4使用友好的格式合适的prompt格式有助于LLM更好的理解指令。例如OpenAI相关的模型适合使用###或作为分隔符。训练语料主要为应为的LLM用英语提问的效果更好。
三、Prompt的一些使用技巧
1、任务描述
1描述详细 2以一个专家角色作为前缀信息 3多告诉模型应该做什么而不是不做什么否定词 4避免输出长文
2、输入数据
1检索相关文档和prompt拼接在一起 2使用特殊标记突出重要部分
3、上下文信息
1对于复杂的任务详细描述中间步骤 2对于打分的任务提供打分标准 3对于文本生成任务指导LLM对于上下文上乘的结果进行解释 4类似于思维树的方式多专家讨论记录每个专家的思考步骤并共享思考步骤如果有一个专家思考出错则让他离开剩下的专家继续思考。如果没出错继续留下来思考。
4、示例
1提供良好格式的上下文示例 2思维链一步一步思考示例用分隔符标注。例如\n 3检索相似的示例先用示例获取答案然后再将这个答案和我们的问题拼接 4示例多样化问题或解决方案多样化 5使用基于聊天的LLM时可以将上下文示例分解为多回合信息。同理可将示例的推理过程分解为多回合对话。 6复杂和信息丰富的上下文示例 7符号示例分解为多个片段将前面的片段作为上下文示例引导LLM预测后面的片段。 8示例、提示和问题在prompt中的位置很重要。 9没有上下文示例时可以让LLM生成一些
5、其他设计
1让LLM自己检查一下结果是否正确 2调用外部工具进行辅助 3prompt独立上下文中减少代词的使用 4比较多个示例时顺序对性能影响较大 5角色分配 6OpenAI的模型用英文提问更好 7做多选题时限制输出对性能有所帮助。用更详细的解释描述对逻辑进行限定。 8对于基于排序的任务可以不让LLM直接输出排序后的文本而是对每个文本段分配一个编号标识符例如ABCDE然后指导LLM输出排序后的编号。
