海思ai软件开发求助

发一下问题给大家参考，攒攒人品！有面试过同岗的朋友欢迎评论区交流项目拷打Transformer1.Transformer结构介绍2.自注意力机制介绍CUDA:1.Safe Softmax和普通softmax的区别?2.如何实现的online softmax科大讯飞iFLYTEK3.代码实现online softmax4.CUDA开发流程5.如何在CUDA上求一个数组的和?如何在CUDA上划分和合起来6.编译命令?nvcc有哪些常用参数?7.GCC有哪些参数?链接动态库?头文件查找路径?8.动态库和静态库的区别Pytorch:1.一个Tensor[1,2,3,4]想转成[4,3,2,1]有那些函数可以做到?(permute)2.介绍一个熟悉的继承自nn.Module的类推理加速中的FlashAttention了解吗?

1、实时生成的聊天代理模型，如果线上出问题了，怎么定位这种问题一般先按链路拆。如果是实时生成类聊天代理，通常一条请求会经过网关、会话层、Prompt 拼装、模型推理、工具调用、结果后处理和流式返回几个阶段。线上出问题时，先判断是全量故障还是部分故障，是所有请求都失败，还是只有某一类请求延迟高、返回空、内容异常。定位时先看监控和日志。监控上看 QPS、平均延迟、P95/P99、错误率、超时率、GPU 利用率、显存占用、容器重启次数。日志上重点看 request_id，把一次请求链路串起来，看是卡在 Prompt 构造、模型推理、下游工具调用，还是 SSE/流式返回阶段。如果是模型输出异常，要回看...

25分钟 1.自我介绍2.介绍实习经历中opencv的处理过程，用过哪些函数？有没有了解过底层的逻辑？3.PID在进行调试的时候，你是遵循什么原则，能不能具体的解释一下过程？如果说响应速度很慢，震荡很大，你会先调哪个值？4.ROS架构中有了解什么机制吗？ROS通信机制在话题收发的时候是属于同步还是异步？5.TCP/UDP协议中，你为什么要选UDP协议？如何避免丢包？6.了解线程同步机制吗？你了解哪些线程同步机制？有没有写过线程池？7.智能指针用过哪些？unique_ptr传入函数的时候应该怎么做？move()底层了解吗？shared_ptr主要用来做什么？8.了解cuda编程吗？9.共享内存涉及到同步机制还是互斥？为什么用互斥？10.C++的模板了解吗？模板定义在hpp里还是cpp文件里？面试官表示更想要计算机专业的学生，无后续

最近好多学弟学妹找我聊春招，发现一个挺有意思的现象：今年大家手里但凡握着国央企offer的，基本都打算接了。哪怕是手里有大厂意向的，也开始纠结“要不要去拼几年”。有个学弟（就叫小T吧）去年进的翼支付，厦大软工硕士，当时手里也有几个选择：老家省电信、直招军官、还有高校的联培博士。最后选了翼支付，去上海做数据建模。前两天跟他吃饭，聊了大半天，感觉他的经历挺有代表性，整理出来给大家参考。 一、为什么选翼支付？他说：想“既要又要”小T原话是：“既想要央企的稳定和保障，又不想放弃前沿技术的成长空间。”很多人觉得国央企就是“养老院”，他入职一年半后发现完全不是这回事。首先是稳定，但不是死工资。福利是真的顶...