上下文工程
概述
上下文工程是超越简单提示工程的进化。正如 Andrej Karpathy 所定义的,它是**"用正确的信息填充上下文窗口的精妙艺术与科学"**。
与专注于"你说什么"的提示工程不同,上下文工程涵盖了"模型看到的其他一切"——包括示例、记忆、检索、工具、状态和控制流。
核心概念
从理论到实践
- 信息管理:为大语言模型提供正确的信息、工具和格式
- 系统架构:从多个来源动态组装上下文
- 上下文优化:令牌预算管理、KV缓存优化和上下文裁剪
核心原则
上下文工程让我们能够在几小时内而不是几周内交付改进,保持我们的产品与底层模型正交:如果模型进步是涨潮,我们要做船,而不是固在海底的柱子。
— Manus 团队
导航
📚 深入学习
- 什么是上下文工程? - 包含定义、模式和最佳实践的完整指南
- Manus 上下文工程 - 真实世界的实现洞察
🔧 实现模式
完整指南涵盖的关键模式包括:
- KV缓存优化 - 稳定前缀模板,提升性能
- 工具屏蔽 - 智能工具可用性管理
- 文件系统作为上下文 - 使用持久存储扩展上下文
- 注意力操控 - 待办事项背诵和焦点管理
- 错误保留 - 从上下文中的失败中学习
- 多智能体编排 - 智能体系统的上下文工程
🎯 最佳实践
- 围绕 KV缓存设计生产系统
- 清晰构建信息架构
- 实现适当的工具和内存管理
- 保留错误以获得学习机会
- 优化注意力和焦点管理
准备深入了解? 从什么是上下文工程?开始,获取全面的模式和实现细节。