蚂蚁OceanBase实习

1、实时生成的聊天代理模型，如果线上出问题了，怎么定位这种问题一般先按链路拆。如果是实时生成类聊天代理，通常一条请求会经过网关、会话层、Prompt 拼装、模型推理、工具调用、结果后处理和流式返回几个阶段。线上出问题时，先判断是全量故障还是部分故障，是所有请求都失败，还是只有某一类请求延迟高、返回空、内容异常。定位时先看监控和日志。监控上看 QPS、平均延迟、P95/P99、错误率、超时率、GPU 利用率、显存占用、容器重启次数。日志上重点看 request_id，把一次请求链路串起来，看是卡在 Prompt 构造、模型推理、下游工具调用，还是 SSE/流式返回阶段。如果是模型输出异常，要回看...

27届Java实习

求拷打，单2硕，0实习最近想找一段大厂暑期或者日常实习（有机会吗🥲，hot100目前还在二刷，八股看差不多了，还没开始投，求大佬拷打

1、自我介绍我主要做的是大模型应用和 AI Agent 相关开发，平时接触比较多的是 Prompt 工程、RAG、工具调用、工作流编排、上下文管理、模型评测和服务化落地。技术栈以 Python 为主，也做过接口开发、异步并发、日志监控和效果优化这类工程工作。相比只关注模型本身，我更关注模型放到真实系统里之后，怎么把效果、稳定性、延迟和成本一起做好。2、提示词模板是怎么构建的提示词模板本质上是在给模型定义任务协议，而不是简单写一段说明。一般会包含角色设定、任务目标、输入数据、约束条件、输出格式和示例。比如让模型做工具调用时，提示词里通常会明确：你是什么角色你要解决什么问题什么情况下需要调用工具工...