写给团队里的后端程序员:怎么从写 API 转成写 Agent,系统怎么设计,学什么,怎么上手。

一、为什么后端程序员适合做 Agent 开发

后端工程师写 Agent 有天然优势——Agent 系统 本质上就是一个后端系统,只是「业务逻辑」由模型来决策。

1.1 先建立心智模型

你熟悉的后端概念 Agent 世界里的对应
HTTP Handler Tool(工具)
Middleware Context Manager(上下文管理)
事件循环 / Worker Agent Loop(执行循环)
服务编排 / 微服务 Multi-Agent 协作
配置中心 / Feature Flag System Prompt
日志 / 监控 Agent Observability
单测 / 集成测试 Agent Evals(评测)

一句话:你写的是 Harness(运行框架),模型是「业务逻辑层」。

1.2 Harness vs Agent:分清职责

你的代码职责:

  • 给模型提供工具:定义 Tool 的接口和实现
  • 管理上下文:拼接 Prompt、维护对话历史、压缩记忆
  • 执行循环:调用模型 → 解析输出 → 执行工具 → 返回结果 → 循环
  • 控制边界:权限、超时、重试、错误恢复
  • 可观测性:日志每一步决策、监控 Token 消耗

二、Agent 系统架构设计

2.1 单 Agent 架构(最常见)

类比理解:

  • 这就是一个 带状态的 HTTP 服务
  • 模型是「业务逻辑层」,你写的是「Controller + Middleware + Infrastructure」
  • 循环是因为模型可能需要「多次请求数据」才能完成任务

2.2 多 Agent 架构(复杂场景)

当任务需要分工时,用多 Agent:

类比理解:

  • Orchestrator = 网关层,负责路由和编排
  • Worker Agents = 微服务,各自负责一个领域
  • 多 Agent = 服务编排,和写微服务架构思路一样

2.3 Workflow + Agent 混合架构

实际工程里,大多是 Workflow 固定流程 + Agent 关键决策

关键原则:能用 Workflow 解决的,不要用 Agent。Agent 只用在「不确定性强」的环节。

三、学习路径:从 0 到 1 上手

3.1 第一阶段:理解概念(1-2 天)

必读资料:

顺序 资料 重点看什么
1 Agent 是什么 Agent 和普通调用的区别、为什么需要循环
2 Learn Claude Code 模型是 Agent、你写的是 Harness
3 Anthropic: Building Effective Agents 什么时候该用 Agent、工具设计原则

输出目标: 能回答「这个场景该用 Agent 还是 Workflow」

3.2 第二阶段:动手写第一个 Agent(3-5 天)

推荐路径(Go 开发者):

  1. 选框架:Eino(字节开源)

  2. 理解核心组件:

    • ChatModel:模型调用接口
    • Tool:工具定义和执行
    • Graph:流程编排(类似 DAG)
    • Lambda:自定义处理节点

输出目标: 能跑通一个带 2-3 个 Tool 的 Agent Demo

3.3 第三阶段:深入 Harness 开发(1-2 周)

要掌握的技能:

技能 后端类比 具体要做的事
Prompt 工程 API 设计 设计 System Prompt、拼接 User Prompt
上下文管理 Session 管理 历史压缩、滑动窗口、检索增强
Tool 设计 Handler 设计 单一职责、幂等、可观测
错误处理 异常处理 重试、降级、超时控制
日志追踪 APM 每一步决策都要有 log_id

输出目标: 能独立开发一个生产级 Agent 的 Harness 部分

3.4 第四阶段:架构和工程化(持续)

要考虑的问题:

  1. 评测体系: 怎么评估 Agent 效果?

    • 成功率、平均步数、Token 成本
    • 自动化测试:给定输入,期望输出是什么
  2. 部署和运维:

    • Agent 是有状态的,怎么做负载均衡?
    • 怎么做灰度发布?
    • 怎么处理长任务?

四、技术栈清单:需要学什么

4.1 必学(核心)

技术栈 学习目标 资源
LLM API 调用 理解 Token、Temperature、Prompt Anthropic SDK / OpenAI SDK
Prompt 工程 写出清晰的 System Prompt Anthropic Prompt Engineering Guide
Function Calling 理解 Tool 调用机制 各模型的 Tool Use 文档
Agent 框架 Eino / LangChain Eino 用户手册

4.2 选学(进阶)

技术栈 适用场景
向量数据库 长期记忆、知识检索
Graph 编排 复杂多 Agent 场景
Agent Evals 效果评估体系
Observability 生产环境监控

4.3 你已经会的(直接迁移)

后端技能 Agent 场景直接用
API 设计 Tool 接口设计
错误处理 Agent 错误恢复
日志监控 Agent Observability
测试 Agent Evals
部署运维 Agent 部署

五、实战建议:避免踩坑

5.1 常见坑

后端类比 怎么避开
把 Agent 当万能 把 AI 当黑盒 明确边界,Agent 只处理「不确定性强」的部分
Tool 设计太复杂 API 设计不规范 单一职责、参数明确、幂等
上下文无限膨胀 Session 无限存储 压缩、滑动窗口、定期清理
没有评测体系 没有测试 先定义「什么叫成功」,再开发

5.2 一句话总结

后端工程师做 Agent 开发,不是「学新东西」,是「换个角度写后端系统」。

你写的 Harness 就是后端框架,模型是「业务层」,Tool 是「Handler」,Agent Loop 是「事件循环」。核心技能都能迁移,重点是理解模型的「调用方式」和「能力边界」。

六、相关文档

七、参考资料

7.1 必读

7.2 框架

7.3 视频(建立直觉)


后端转 Agent,核心是建立正确的心智模型:你写的还是后端系统,只是「业务逻辑」由模型来决策。把 Harness 写好,模型才能把事做掉。