大语言模型应用开发实战

大语言模型（LLM）正在改变软件开发的方式。

Prompt Engineering

提示词工程的核心是把任务、角色、上下文和输出格式讲清楚。好的提示词不是越长越好，而是约束明确、信息足够。

角色设定可以让模型进入合适的回答视角，少样本示例能稳定输出结构，清晰的格式要求则方便后续程序解析。

常见模式

可以把提示词拆成系统目标、输入资料、处理步骤和输出格式四个部分。复杂任务尽量分阶段完成。

RAG 检索增强生成

RAG 的目标是让模型基于你的知识库回答问题。流程通常包括文档切分、向量化、语义检索和增强生成。

文档切分太粗会丢细节，太细会丢上下文。实践中需要根据内容类型不断调参。

检索质量

评估 RAG 不可以只看模型回答，还要看检索片段是否准确。检索错了，生成再流畅也可能偏题。

Agent 与工具调用

Agent 开发让 LLM 可以使用外部工具，自动分解任务并执行多步操作。

工具调用适合查数据库、访问 API、运行计算、生成文件等确定性任务。模型负责决策，工具负责执行。

落地建议

推荐从小工具开始，不要一上来就做完全自主的复杂 Agent。先把边界收紧，稳定后再逐步扩展。