我自己做了一个 AI 后端项目 Mini-Doubao 。这个项目不只是“调用大模型接口聊天”，而是围绕真实工程问题做了完整实现，包括：SSE 流式对话RAG 知识库检索Agent 工具调用闭环多轮会话上下文管理线程池隔离与异步收尾邮箱验证码注册/登录/找回密码项目背景基于火山引擎（豆包模型）API 构建。目标是做一个“可对话 + 可检索 + 可扩展工具能力”的系统，并解决 AI 场景中常见的工程问题：长连接、异步任务、上下文成本控制、服务稳定性等。核心能力1）RAG 异步摄入链路文档上传后通过 RocketMQ 异步处理完成“解析 -> 切片 -> Embedding ->...

恐怖如斯

求锐评

1. 你们线上大模型应用的整体架构是怎样的？常见架构就是这几层：用户请求先进入 API 网关，再到业务服务层。业务服务层负责鉴权、限流、Prompt 拼装、会话管理、工具编排。如果有知识库，就先走检索链路；如果要调外部能力，就走工具调用；最后把上下文交给大模型生成结果。生成结果出来后，再做内容过滤、格式化、日志落库、监控上报。核心链路一般是：用户请求 -> 业务编排 -> 检索/工具 -> 模型推理 -> 后处理 -> 返回结果2. 你们怎么做 Prompt 工程？Prompt 不是简单写一句提示词，而是模板化管理。常见做法是把 Prompt 拆成几部分：syst...