Skip to content

上下文工程

概述

上下文工程是超越简单提示工程的进化。正如 Andrej Karpathy 所定义的,它是**"用正确的信息填充上下文窗口的精妙艺术与科学"**。

与专注于"你说什么"的提示工程不同,上下文工程涵盖了"模型看到的其他一切"——包括示例、记忆、检索、工具、状态和控制流。

核心概念

从理论到实践

  • 信息管理:为大语言模型提供正确的信息、工具和格式
  • 系统架构:从多个来源动态组装上下文
  • 上下文优化:令牌预算管理、KV缓存优化和上下文裁剪

核心原则

上下文工程让我们能够在几小时内而不是几周内交付改进,保持我们的产品与底层模型正交:如果模型进步是涨潮,我们要做船,而不是固在海底的柱子。

— Manus 团队

导航

📚 深入学习

🔧 实现模式

完整指南涵盖的关键模式包括:

  • KV缓存优化 - 稳定前缀模板,提升性能
  • 工具屏蔽 - 智能工具可用性管理
  • 文件系统作为上下文 - 使用持久存储扩展上下文
  • 注意力操控 - 待办事项背诵和焦点管理
  • 错误保留 - 从上下文中的失败中学习
  • 多智能体编排 - 智能体系统的上下文工程

🎯 最佳实践

  • 围绕 KV缓存设计生产系统
  • 清晰构建信息架构
  • 实现适当的工具和内存管理
  • 保留错误以获得学习机会
  • 优化注意力和焦点管理

准备深入了解?什么是上下文工程?开始,获取全面的模式和实现细节。

基于 MIT 许可证发布