记录我的寻找暑期实习

1.工具调用率核心提高了15%，依赖的是什么手段？2.意图不太明确的时候，显著调用的是什么？3.命中率是用什么指标来衡量的?有线上数据吗？4.有去判断模型整体的一个准确率，以及token消耗量？5.有考虑过通过大语言模型进行二轮评估吗?6.agno框架和其他框架有什么区别？7.有了解过harness工程吗？8.整体的话有没有做什么编排调度？目前大多数ai coding的编排还是比较固定的，规划 生产 评估，有尝试完成这种编排吗？9.你觉得你们公司的场景适合这么做吗？10.context engineering长期记忆 短期记忆是怎么进行组织的？11.怎么保证记忆不会随着时间长期进行腐化？算法：...

不知道过两年会变成啥样…   

这一轮更偏大模型、量化和推理基础理解这场蚂蚁 AI Infra 三面，整体感觉和前两轮又不太一样。前两轮更多是在深挖我已经做过的项目，这一轮虽然也会问项目，但明显更关注我对大模型推理、量化、KV Cache、attention 这些基础问题到底理解到什么程度。开头还是先做自我介绍，我主要讲了自己现在在做的几个方向：一段偏工程化的软件开发经历，一段偏算子和图优化的实习经历，以及自己在做的一个基于 Python extension 的量化推理 runtime 小项目。这一轮项目部分问得相对直接。面试官先让我展开讲了自己做的那个量化推理 runtime。我这边讲的是，基于一个开源 runtime 做...