求腾讯oc

背景概述：为什么要写这个呢？虽然现在大模型很火，但对于我们工程同学来说，把大模型当一个黑盒用就好了。一开始我也是这么认为的。直到我在小红书做到了一个需求在小红书的时候有一个需求是优化组内一个 agent 项目的响应和结果优化，这个 agent 是一个复杂的商业助手，并不是说技术很难，但要分析的广告业务很复杂，有上千个指标，好几种场景，prompt非常长，如果输出的效果不好，是没有人愿意用的。用了很多优化手段，比如并发查数据等等。有一天这个项目的正职同学和我说，他和算法那边的同学交流，说可以把我们动态拼到 System prompt 的指标数据拼到用户的 query 里面，这样就可以利用模型的 ...

俺平时都是在会议室面试的，奈何会议室被另一个同门约了面试了，楼下的实验室又有同门在做笔试，只能跑回宿舍面试。大家都懂互联网的面试指不定就一小时以上了，没有电源的地方真的不敢赌。但是俺们宿舍又属于随性派，摄像头一开就感觉乱乱的，没时间找帘子，尝试两件浅色的衣服挂在了床架上，本人坐在衣服前面，试图制造纯色背景。奈何本人比较较小，衣服也有点小，怎么挡都挡不全，总能从各个小缝隙里瞥见真相。面试官进会议的时候我就想，这局完了。

对于需要探索或预判战略的复杂任务来说，传统或简单的提示技巧是不够的。最近，Yao et el. (2023) 提出了思维树（Tree of Thoughts，ToT）框架，该框架基于思维链提示进行了总结，引导语言模型探索把思维作为中间步骤来解决通用问题。ToT 维护着一棵思维树，思维由连贯的语言序列表示，这个序列就是解决问题的中间步骤。使用这种方法，LM 能够自己对严谨推理过程的中间思维进行评估。LM 将生成及评估思维的能力与搜索算法（如广度优先搜索和深度优先搜索）相结合，在系统性探索思维的时候可以向前验证和回溯。ToT 框架原理如下：图片援引自：Yao et el. (2023)ToT 需要...