首页 / c++方向
#

c++方向

#
17985次浏览 187人互动
此刻你想和大家分享什么
热门 最新
C++项目:分布式大模型基础架构
1、底层通信组件方案通信模式封装支持兼容多种通信模式普通消息模式:PUB/SUB(发布订阅)、PUSH/PULL(点对点通信)RPC 模式:通过ZMQ_REP、ZMQ_REQ 封装 RPC 功能RPC功能支持 RPC 方法的动态注册提供默认的 RPC 方法列表查询支持 RPC 调用2、Master模块(实现思路:类似ROS1 Master功能, 更轻量化)背景:分布式大模型系统中,多个节点(如llm/vlm, asr,tts, camera,yolo)需要动态发现彼此并高效通信,外部用户可以动态管理节点内任务调度​​节点注册与发现​实现轻量化内存kv缓存数据库:存储节点元信息;并提高sql查询接口,供节点动态通信节点启动时向Master模块注册,上报自身元信息;节点通信时自动匹配动态任务调度分配设计用户请求-任务匹配机制:外部用户仅封装简易数据包请求,可实现动态控制各个模块(启停/llm推理等)3、Channel模块封装上层发布-订阅(PUB/SUB)和点对点通信(PUSH/PULL)混合通信模式设计闭包,通过闭包将​​网络层​​(ZeroMQ)与​​业务层​​(用户回调)解耦,同时隐式维护了通信上下文状态。4、Infra基础架构模块rpc分布式控制指令下发+异步​事件驱动架构​​注册rpc_setup/rpc_pause等分布式控制接口->注册eventpp事件监听->上层触发rpc调用 -> 添加eventpp事件队列中-> 异步事件驱动->各子类Setup/Pause等功能接口标准化控制协议​​基于抽象接口(Setup/Pause等)实现跨模块统一管控,支持LLM/ASR/TTS等异构节点无缝集成5、TASK模块与Infra模块关系:类似与进程和线程之间关系,Infra模块负责资源分配和流程管控,TASK模块是真正干活的,干的活如下:各模块中模型生命周期管理(加载/卸载)infra推理包装回调输出等等          
点赞 评论 收藏
分享
昨天 14:28
门头沟学院 C++
点赞 评论 收藏
分享
05-12 02:49
C++
你真的懂c++吗
某公司一颗钉子:直接开始项目,可以看看这些项目 进阶版webserver:https://www.bilibili.com/video/BV1iYtrezEkA/ 仿微信聊天:https://www.bilibili.com/video/BV1XukbYmEY5/ 多线程任务队列系统:https://www.bilibili.com/video/BV1XS9dYsE9d/ 仿redis之qedis:https://www.bilibili.com/video/BV1a4zzYKEAt/ 云存储:https://www.bilibili.com/video/BV1XPfTY8EGD/
点赞 评论 收藏
分享
点赞 评论 收藏
分享
全球10大高频交易公司有哪些特点?
Virtu Financial🚀2008年成立,总部位于纽约🚀全球最大的高频交易做市商之一,以速度见长🚀收购多个知名金融服务公司,包括KCG和ITGCitadel✈️2002年成立,总部位于芝加哥✈️CitadelLLC旗下全球顶尖的做市商公司之一✈️交易量占整个美股市场的10%Two Sigma 🚅2001年成立,总部位于纽约🚅集资产管理与做市商于一身🚅对冲基金资管规模超500亿美金Tower Research Capital🚈1998年成立,总部位于纽约🚈建立了世界上最快、最复杂的电子交易平台🚈封闭式交易团队共享公司底层数据构架和资本 Jump Trading🚂1999年成立,总部位于芝加哥🚂两位合伙人并不是科技/学术界出身🚂全球500多雇员的大型电子交易公司 DRW🛳️1992年成立,总部位于芝加哥🛳️自营交易公司,全球范围内交易金融产品🛳️800多名雇员,最早建立的高频交易公司之一 Hudson River Trading🚃2002年成立,总部位于纽约🚃创新金融科技公司🚃交易量约为整个美股市场的5% Quantlab Financial🚕1998年成立,总部位于得克萨斯州休斯顿🚕高科技主导的自营交易公司🚕在美国和欧洲都有办公室XTX Markets🛵2015年成立,总部位于伦敦🛵100多名雇员,第三大做市商公司🛵占货币市场超7%交易量,欧洲股市重要玩家Optiver🚲1986年成立,总部位于阿姆斯特丹🚲自营交易公司,同时也是做市商      
投递Optiver等公司8个岗位
点赞 评论 收藏
分享
_Vesper:转go吧哥,感觉学cpp要有点沉淀(要么是对语言特性,内存管理之类的特别熟悉,要么就是你➕上一个别的方向,比如说cpp+音视频,cpp+引擎架构,cpp+算法工程这样的)
点赞 评论 收藏
分享
玩命加载中
牛客网
牛客网在线编程
牛客网题解
牛客企业服务