【Ace顶尖实习生】面向长序列推理的KVCache优化技术研
招聘时间
即日起 至 2026-10-10
招聘单位
小红书
所在地区
北京
工作地点
亚运村街道安定路五号院7号楼中海国际大厦A座+B座
学历要求
本科
实习时长
每周5天，每天3小时
职责描述
工作职责：
本课题旨在通过优化Transformer模型中的KV缓存机制，解决处理长序列数据时遇到的计算和内存挑战，目标是减少资源消耗、降低延迟并提高效率。
研究方向包括设计高效的KV缓存管理策略、适应不同应用场景的缓存优化以及并行与分布式处理优化。预期将成果应用于自然语言处理、视频分析等领域，为处理超长序列数据提供更加高效和可扩展的解决方案。
任职资格：
1、不限年级，本科及以上在读，人工智能/计算机/软件工程等相关专业优先；
2、优秀的代码能力，熟练掌握至少一门编程语言，包括但不限于Python/C/C++/Java/Go等其中一门开发语言；
3、有分布式系统/数据库系统/云原生等相关技术的研究和开发经验优先；
4、在顶级学术会议或期刊发表论文或有深入研究经历者优先；
5、良好的沟通协作能力，责任心强，积极主动，能和团队一起探索新技术，推进技术进步。
本课题旨在通过优化Transformer模型中的KV缓存机制，解决处理长序列数据时遇到的计算和内存挑战，目标是减少资源消耗、降低延迟并提高效率。
研究方向包括设计高效的KV缓存管理策略、适应不同应用场景的缓存优化以及并行与分布式处理优化。预期将成果应用于自然语言处理、视频分析等领域，为处理超长序列数据提供更加高效和可扩展的解决方案。
任职资格：
1、不限年级，本科及以上在读，人工智能/计算机/软件工程等相关专业优先；
2、优秀的代码能力，熟练掌握至少一门编程语言，包括但不限于Python/C/C++/Java/Go等其中一门开发语言；
3、有分布式系统/数据库系统/云原生等相关技术的研究和开发经验优先；
4、在顶级学术会议或期刊发表论文或有深入研究经历者优先；
5、良好的沟通协作能力，责任心强，积极主动，能和团队一起探索新技术，推进技术进步。
