淘天-搜推智能事业部-大模型应用

1. 什么是 LoRA？LoRA 全称是 Low-Rank Adaptation，核心思想是在微调大模型时不直接更新原始大权重矩阵，而是冻结预训练权重，只额外学习两个低秩矩阵，用这两个小矩阵的乘积去近似原权重的增量。原来如果某层权重是： W ∈ R^(d×k) LoRA 不直接学习 ΔW 的完整矩阵，而是写成： ΔW = B A A ∈ R^(r×k), B ∈ R^(d×r), 且 r << min(d, k) 最终前向变成： h = W x + ΔW x = W x + B A x 这样训练参数量会大幅下降。2. LoRA 的思路是什么？LoRA 的基本假设是：大模型在迁移到下...

自从我室友在计算机导论课上听说了“刷 LeetCode 是进入大厂的敲门砖”，整个人就跟走火入魔了一样。他在宿舍门口贴了一张A4纸，上面写着：“正在 DP，请勿打扰，否则 Time Limit Exceeded。”日记本的扉页被他用黑色水笔加粗描了三遍：“Talk is cheap. Show me the code。”连宿舍聚餐，他都要给我们讲解：“今天的座位安排可以用回溯算法解决，但为了避免栈溢出，我建议用动态规划。来，这是状态转移方程：dp[i][j] 代表第 i 个人坐在第 j 个位置的最优解。”我让他去楼下取个快递，他不直接去，非要在门口踱步，嘴里念念有词：“这是一个图的遍历问题。从宿舍楼（root）到驿站（target node），我应该用 BFS 还是 DFS？嗯，求最短路径，还是广度优先好。”和同学约好出去开黑，他会提前发消息：“集合点 (x, y)，我们俩的路径有 k 个交点，为了最小化时间复杂度，应该在 (x/2, y/2) 处汇合。”有一次另一个室友低血糖犯了，让他帮忙找颗糖，他居然冷静地分析道：“别急，这是一个查找问题。零食箱是无序数组，暴力查找是 O(n)。如果按甜度排序，我就可以用二分查找，时间复杂度降到 O(log n)。”他做卫生也要讲究算法效率：“拖地是典型的岛屿问题，要先把连通的污渍区块都清理掉。倒垃圾可以用双指针法，一个指针从左往右，一个从右往左，能最快匹配垃圾分类。”现在我们宿舍的画风已经完全变了，大家不聊游戏和妹子，对话都是这样的：“你 Two Sum 刷了几遍了？”“别提了，昨天遇到一道 Hard 题，我连暴力解都想不出来，最后只能看题解。你呢？”“我动态规划还不行，总是找不到最优子结构。今天那道接雨水给我整麻了。”……LeetCode 真的害了我室友！！！

海投了五六百份了，都没有回信，全都已读不回，没有约面，小厂实习也没有几个回的，211本这个简历很差吗，是不是再快速补一个agent项目，再补点agent知识，往agent开发那里靠靠，面试才会多一点？求大佬指点引流：腾讯，阿里，字节，pdd，米哈游

长风破浪会有时，直挂云帆济沧海。刚开始准备找暑期实习时，我踌躇满志，自以为已经有了一段实习经历，加上9本，好好准备准备面试找个大厂暑期不是手拿把掐手到擒来?然而现实却给了我一个响亮的耳光，别说面试了，连简历都过不去，迎接我的，只有简历挂，测评完泡池子，笔试完泡池子...而我呢，每天都沉浸在八股-项目-算法-八股...的循环中，然而，却连一个面试机会，都等不来...，我，也有些懈怠了。就在这时，美团的面邀，就像，哦不，简直就是照进我灰暗的生活的一道曙光，我立刻找回自信，继续疯狂的复习八股，项目，算法，以迎接这场面试。然而，现实又是一记响亮的耳光，面试完后，很快就回归了人才库。我又陷入了迷茫，究竟...