大模型的使用方式可以分成三个层次难度递增能力也递增。一、提示工程Prompt Engineering提示工程就是设计有效的输入Prompt让模型输出想要的结果。不需要训练模型、不需要微调只需要学会“问问题”和“给指令”。为什么需要提示工程同一个问题不同的问法得到的答案质量可能天差地别。# 不好的提示 写个代码 # 好的提示 请用 Python 写一个函数实现二分查找要求输入一个有序列表和一个目标值返回目标值的索引如果不存在返回 -1请包含注释3. 提示工程的核心技巧技巧说明示例角色设定给模型一个身份你是一位资深 Python 工程师明确格式指定输出格式请以 JSON 格式输出Few-shot给几个示例先给 2-3 个输入输出示例思维链要求分步思考请一步步分析结构化的提示用分隔符等组织用### 上下文 ###分隔不同部分4. 一个完整的提示模板你是一位专业的数据分析师拥有 10 年经验。 ### 数据 ### [用户提供的数据] ### 任务 ### 请分析以上数据回答以下问题 1. 趋势是什么 2. 异常点有哪些 ### 要求 ### - 用中文回答 - 回答要简洁每条不超过 50 字 - 对异常点给出可能的原因 ### 输出格式 ### {trend: 上升, anomalies: [{date: 2024-01-01, value: 100, reason: ...}]}5. 提示工程的本质提示工程就是用人类的语言引导模型进行“条件生成”。它是在不改变模型内部参数的情况下通过输入来调整输出的方向。二、RAG检索增强生成RAGRetrieval-Augmented Generation检索增强生成的核心思想是在让模型回答问题之前先从外部知识库中检索相关信息然后把检索到的信息作为上下文提供给模型。RAG 解决的问题大模型的知识是“静态”的训练数据截止到某个时间点存在局限性不知道你的私有数据公司文档、个人笔记不知道最新的信息今天的新闻容易产生“幻觉”编造不存在的知识RAG 通过“外挂知识库”来解决这些问题。RAG 的工作流程具体步骤将文档切块把一篇长文档切分成小段落chunk向量化存储用 Embedding 模型把每个段落转成向量存入向量数据库检索把用户的问题也转成向量在向量数据库中搜索最相似的 K 个段落增强生成把检索到的段落作为上下文加上用户的问题一起发给大模型代码示例伪代码# 1. 文档处理 documents [公司成立于2020年..., 主营AI产品..., 客户包括...] chunks split_into_chunks(documents) # 切块 vectors embedding_model.encode(chunks) # 向量化 vector_db.store(vectors, chunks) # 存储 # 2. 检索 query 公司做什么产品 query_vector embedding_model.encode(query) results vector_db.search(query_vector, top_k3) # 搜索 # 3. 生成 prompt f 基于以下信息回答问题 上下文{results} 问题{query} answer llm.generate(prompt)RAG 的优势优势说明知识可更新只需更新知识库无需重新训练模型可解释性强可以展示“引用来源”知道答案从哪里来成本低比微调模型便宜得多幻觉可控模型基于提供的信息回答减少编造三、Agent智能体Agent智能体指的是能够让大模型自主地调用外部工具、执行多步任务的系统。如果说 RAG 是让模型“能查资料”那么 Agent 就是让模型“能动手干活”。Agent 的核心能力能力说明示例规划Planning把复杂任务拆成子任务帮我订票 → 查机票 → 选航班 → 填信息 → 支付工具调用Tool Use调用外部 API查天气、发邮件、搜索、计算记忆Memory记住之前的操作和结果记住用户已经提供了哪些信息反思Reflection根据结果调整计划如果支付失败尝试其他方式Agent 的工作流程Agent 的工具示例# 定义一个工具伪代码 tools [ { name: get_weather, description: 获取城市天气, parameters: {city: string} }, { name: send_email, description: 发送邮件, parameters: {to: string, subject: string, body: string} } ] # Agent 自主决策 user_input 明天北京天气怎么样如果下雨提醒我带伞 # Agent 会① 调用 get_weather(北京) → ② 判断是否下雨 → ③ 决定是否提醒四、三者的关系维度提示工程RAGAgent难度低中高数据依赖无需要知识库需要工具集能力边界模型自身知识模型 外部知识模型 知识 工具典型场景通用问答、文案生成私有文档问答、客服自动化任务、数据分析五、最后层次作用一句话理解提示工程设计输入引导输出“学会问问题”RAG外挂知识库增强回答“学会查资料”Agent自主规划调用工具“学会动手做”建议日常使用先掌握提示工程就够了企业场景RAG 是落地最广的方案客服、内部知识库、文档问答复杂任务Agent 是最强大的形态但也最复杂建议从简单场景开始
