为什么大模型推理越来越快？聊聊 KV Cache

技术面自我介绍一下。你做过的哪个项目最能体现你的能力。简单介绍一下这个项目。哪个模块最能体现你的能力？点赞系统中说“通过 Lua 脚本保证原子性”，保证的什么原子性？点赞并发处理能力提升了 5 倍，是基于原本什么方案提升了 5 倍？5 倍是怎么测出来的？说一下你的排行榜功能是怎么设计的，这个数据量有必要分表么？XXL-JOB 分片任务干了什么？在这个过程中有异常情况吗？你觉得你哪个方向比较突出？你在上一份工作中的收获是什么？如果不用 Redis 缓存，让你自己实现一个有 TTL 的 K-V 缓存，只能用 Java API，你会怎么设计？你会如设计测试用例来测试这个组件？你平常生活的时间安排是这...