如何与大模型交互？从提示词工程到RAG

目录提示词介绍提示词的内容提示词的分类提示词工程1N-Shot2RAG扩展In Context Learning提示词介绍回顾上节内容什么是AI我们提到生成式AI输出的内容可能会出现AI幻觉即输出结果有时会偏离我们的实际需求。那么为了保证AI模型能够充分理解我们的意图就需要构造清晰恰当的提示词Prompt作为指令交给模型完成任务。可以说提示词就是我们和大模型交互的唯一方式。提示词的内容一般提示词的内容包含身份设定背景设定参考资料样例指令限制条件等提示词的分类提示词一般可分为系统提示词System Prompt和用户提示词(Usr Prompt)系统提示词是预先设置好的全局指令在对话一开始就交给AI模型整个会话生效。用来定义用户是谁、遵守什么规则、回答风格、禁止做什么。不会随着每轮对话消失会持续约束AI模型。用户提示词是用户每一轮输入的内容每一条用户消息都属于用户提示词用来下达具体任务。AI模型接收到系统提示词 用户提示词结合两者生成回复。提示词工程大模型本身不用改动、不用重新训练只靠调整输入的指令文字就能提升输出质量这套思路和技巧就是提示词工程。简单讲就是专门研究怎么设计、优化提示词来更好地调动大模型能力的方法。为了让 AI 准确读懂你的意图减少幻觉输出符合要求的内容。除了在提示词中精准的设定和限制外给出样例和设置参考资料也会对AI模型的输出产生较大影响。1N-Shot按照Prompt中样例数量进行分类如Zero-ShotOne-ShotFew-Shot。比如我给大模型一个商品比较任务方式一“请帮我比较一下A商品和B商品”此时没有给出任何样例就是Zero-Shot大模型会给到我一个回答。但是我觉的大模型回答的并不符合我的期待并没有突出商品的核心亮点这时我会用方法二方式二“请帮我比较一下A商品和B商品优秀回答样例1XXX优秀回答样例2XXX...”此时给出几个样例就是N-Shot.如Three-ShotFive-ShotMany-Shot等等大模型给出的回答就会参考样例给出比较符合我们期待的回答。这种方法其实是非常常见的且对于大模型做任务是有非常大的影响的一种做法。但是如果我们的模型稍微复杂些我们需要给到较多的资料和样例这些都是需要人工收集 梳理。然而提示词都有字数限制的如果提示词内容过多就会导致性能下降即有时你明明在提示词里面塞了一些很重要的参考资料大语言模型在回答用户问题的时候就好像没看到这些参考资料一样随便回答。既然我们没有办法把所有的知识都给它塞到提示词里面。所以要额外去做一个知识库这样能方便我们需要的时候能去知识库里面找到有用的信息。2RAGRAG(Retrieval-Augmented Generation)增强检索生成简单来说就是先检索再生成。在回答用户的问题之前先做一轮内部的知识搜索即检索。然后找到一些找到一些比较有价值的内部的信息和知识之后再参考着这些知识去生成问题的答案。在大语言模型中RAG已经是非常基础的一个工作也是大部分AI agent或者大部分AI应用都具备的一项功能。RAG包含两个步骤1.构建知识库2.调用将在下一节介绍。总结这两种方法都是为了解决大模型知识局限和“幻觉”问题让回答有据可依。扩展In Context Learning大语言模型在回答问题时会参考到我们给出的参考资料或者优秀样例就好像是学会了一样这种能力叫做In Context Learning。但其实大模型是无状态的没有任何记忆所以我们提供的资料只在这一次回答时有效大模型没有学到任何知识更不会内化到大语言模型的内部。