一般情况下，我们聊到“大模型的量化”，想到的大概率是“把FP16转成INT8或INT4，从而降低显存、加速推理”。其实我觉得工程上没毛病，因为很少有人会去探索啥玩意是量化，但你要是放在算法岗的面试上，这样通常是不够的。面试官往往会继续追问：精度明明降低了，模型为什么还能正常工作？什么时候量化会失效？如果这时答不上来，基本就已经失分了。（我的答案放在文末）要把这个问题讲透，可以换一种更有层次的表达方式，从“是什么”到“为什么”，再到“什么时候不行”和“怎么选方案”，逐步展开。首先，从本质上看，量化并不复杂，它做的事情就是用更少的比特去近似表达原本的高精度参数。原本一个FP16权重用16bit表示...

求各位路过的大佬锐评！      

从一月中到现在，最大的感悟是累、其次是不要怀疑自己

今天阿里产品二面，一个小时，记录一下。 面试官上来直接问：你平时用什么工具做需求分析？ （这个问题让我愣了一下，准备了一堆业务框架，没想到先从工具切入。我说了Axure、飞书，顺手提了最近在用的网申助手——求职阶段管理投递记录和填表用的，面试官笑了说"挺实用的，效率意识不错"。） 之后进入正式题。 【题目1：设计一个功能，帮助用户在淘宝找到"值得买"的商品】 思路：先澄清"值得买"的场景——目的性购物、对比比价、随意浏览，三条路需求不同。重点放在比价场景：用价格历史曲线+差评关键词聚类，做成置信度评分，直观告诉用户当前价格在历史区间的...