摩尔线程AI infra二面实习面经

发一下问题给大家参考，攒攒人品！1.llama.cpp了解吗?详细说说它的特点2.对DeepSekk 671B模型进行推理时，是如何做算力分配和负载均衡的?3.大模型推理中的量化技术了解吗?常见的量化方法有哪些?4.对称量化和非对称量化的区别?5.KV cache的原理是什么?在推理中起什么作用?6.用过vLLM吗?它相比传统推理框架有什么优势?7.vLLM中的PagedAttention机制是怎么工作的?解决了什么问题?语言基础C++协程(Coroutine)的特点?C++协程有栈和无栈的区别?cpp20协程是有栈还是无栈?Vector emplace_back和push_back的区别?常量指针和指针常量的区别?算法题（easy）LeetCode经典题:走迷宫问题(DFS/BFS)

双非本科 25届软件工程专业，秋招最终上岸某大厂移动端 AI 算法岗。分享下三个能帮你在 AI 赛道脱颖而出的硬核项目：1. ncnn 手机端高性能神经网络前向计算框架项目实践：基于 ncnn 实现手机端 YOLOv8 目标检测模型部署，针对 ARMv8 架构做指令级优化，将单帧推理速度从 200ms 压缩至 80ms，无第三方依赖，适配 Android/iOS 双平台。项目地址:https://gitee.com/Tencent/ncnn求职价值：直接体现移动端 AI 部署、跨平台兼容和高性能优化能力，是软开专业在 AI 嵌入式 / 移动端方向的硬核加分项；该框架已在腾讯 QQ、微信等亿级用...

简历有什么建议嘛，笔试和面试有无建议，以及公司岗位有推荐吗？求求了感激不尽

一、市场上到底要什么人？去招聘网站搜“大模型”，JD看一圈就会发现，岗位其实就三类：① 基模方向：预训练、模型架构、scaling law门槛：顶会paper or 名校博士结论：有就有，没有就别强求，不是几个月能补的② Infra方向：分布式训练、GPU集群、推理加速门槛：扎实的系统底层能力结论：你们组是做这个的就可以冲③ 应用层方向  这是大多数人的机会！不动模型：RAG、Agent动模型：SFT、RL（RLHF/RLAIF） 0基础同学能在4个月内真正拿到offer的地方，就是应用层二、技能要会在点子上，别被概念带偏现在各种概念满天飞，A2A、MCP、GraphRAG...每周都有新名词...