我们是如何走到这一步的人工智能这一词出现，依然有几十年的历史，差不多每过十年就会经历一次 AI 浪潮。抛开那些繁杂的概念，只说大模型，起源可以追溯到 2017 年发布的《Attention is All Need》论文，论文提出了Transformer，给现在的 LLM（大语言模型） 奠定了理论基础。理论到落地通常需要很久的时间。所以直到2022年，才有第一个应用诞生，至今AI应用访问量上都占据着榜首。模型 & 应用如何理解LLM一个发光二极管，亮与暗代表1和0，这样电信号与数字信号便有了转换方式，硬件与软件有了初步合作。不过0101代码的还是不够让人类方便的理解，于是人们将一组01抽...

二面手撕lru缓存，一出这个当时就觉得结束了

一段实习经历+技术栈都符合，连实习岗位的offer都拿不到😭

面试题简述现在模型都在追求上下文，你知道业界一般怎么做的吗？比如Qwen是怎么实现超长上下文能力的？面试官想听的1、解释超长上下文的常见技术路线。2、能具体说出 Qwen 的 Attention Sinks。3、能提到 RoPE 插值、多尺度位置编码。面试示例回答业界主流的上下文方案包括：1、位置编码扩展，比如 RoPE 插值。2、注意力稀疏化，比如 Longformer。3、扩展 KV Cache，如 MQA/GQA。4、Attention Sinks 解决模型以往问题。详细内容可跳转该链接查看详情：http://xhslink.com/o/9If4fL2eS0F由浅入深分析1、RoPE插值...