知名百亿神仙量化私募企业 百亿量化私募招聘（Tech BD、全栈） 一、Tech BD 技术项目

手里的两个意向公司：快手 部门：具体名称未知，专门做AI infra的组 工作内容：LLM 推理优化公司：蚂蚁 部门： 应该是平台事业群（中台？） 工作内容： LLM 推理优化base 均为北京，都是暑期个人感觉基本背书差不多，快手可能技术略好？但是快手强度比较大

 #机器人#  #实习#  #秋招#  #自动驾驶# 

书接上回，pdd最终确定是用户增长业务线下的算法团队，做的是算法部署（有Java微服务的，也有c++推理优化），这算是ai infra？各位佬有了解的吗？做算法部署的前景如何？跳槽就业面广吗？      

项目适用岗位：互联网C++后端， 大模型端侧部署 ，自动驾驶/机器人具身智能C++开发1、底层通信组件方案通信模式封装支持兼容多种通信模式普通消息模式：PUB/SUB(发布订阅)、PUSH/PULL(点对点通信)RPC 模式：通过ZMQ_REP、ZMQ_REQ 封装 RPC 功能RPC功能支持 RPC 方法的动态注册提供默认的 RPC 方法列表查询支持 RPC 调用2、Master模块（实现思路：类似ROS1 Master功能, 更轻量化）背景：分布式大模型系统中，多个节点（如llm/vlm， asr，tts， camera，yolo）需要动态发现彼此并高效通信，外部用户可以动态管理节点内任务调度​​节点注册与发现​实现轻量化内存kv缓存数据库：存储节点元信息；并提高sql查询接口，供节点动态通信节点启动时向Master模块注册，上报自身元信息；节点通信时自动匹配动态任务调度分配设计用户请求-任务匹配机制：外部用户仅封装简易数据包请求，可实现动态控制各个模块(启停/llm推理等)3、Channel模块封装上层发布-订阅(PUB/SUB)和点对点通信(PUSH/PULL)混合通信模式设计闭包，通过闭包将​​网络层​​（ZeroMQ）与​​业务层​​（用户回调）解耦，同时隐式维护了通信上下文状态。4、Infra基础架构模块rpc分布式控制指令下发+异步​事件驱动架构​​注册rpc_setup/rpc_pause等分布式控制接口->注册eventpp事件监听->上层触发rpc调用 -> 添加eventpp事件队列中-> 异步事件驱动->各子类Setup/Pause等功能接口标准化控制协议​​基于抽象接口（Setup/Pause等）实现跨模块统一管控，支持LLM/ASR/TTS等异构节点无缝集成5、TASK模块与Infra模块关系：类似与进程和线程之间关系，Infra模块负责资源分配和流程管控，TASK模块是真正干活的，干的活如下：各模块中模型生命周期管理（加载/卸载）infra推理包装回调输出等等