- 给大模型做接口层、服务层、管理后台- 调用 AI 模型接口(HTTP / gRPC / RPC)- 做AI 应用:聊天机器人、知识库、智能客服、AI 写作、Agent 调度- 高并发、流式返回(SSE)、异步、埋点、监控- Redis(分布式锁、限流、缓存)- MQ:RabbitMQ / RocketMQ(AI 公司非常常用)- 多线程、线程池、异步① 调用大模型 API- OpenAI 风格接口plaintextPOST /v1/chat/completions- prompt 怎么拼- stream 流式返回(SSE)- 函数调用 FunctionCall-③RAG 知识库(AI 中厂最常做)你不用懂算法,只要会:- 文本切分- 调用 Embedding 接口- 存向量库(不用你实现,调用就行)- 召回 → 拼 prompt → 调用大模型AI Agent 流程(简单理解)- 意图识别- 工具调用- 多轮对话3. 中间件(AI 公司标配)- Elasticsearch(知识库检索必用)- Redis 大量用- Kafka / Pulsar(日志、埋点、异步)- Docker、Docker Compose(必须会)- Nacos / Apollo(配置中心)4. 加分项- 简单 Python 调用模型(不用精通)- LangChain4j(Java AI 开发框架,超级加分)- 大模型部署基础(知道 vLLM / TensorRT-LLM 是啥)- SSE / WebSocket- 高并发、限流、降级