商汤|大模型推理系统研发实习生

商汤 · 北京/上海/深圳 · 更新时间:2026-09-03

岗位职责

工作职责1. 参与大模型推理系统设计和研究,进行服务层、推理层和算法层的优化探索,实现整体效率提升 2. 进行推理性能分析和优化,实现对gpu,npu等异构硬件,云端等各种场景的高效推理技术 3. 探索融合模态大模型的推理技术方案 4. 强化学习训练中的推理框架优化探索

任职要求

1. 在计算机科学、工程或相关领域的本科或研究生学位,计算机基础扎实 2. 掌握Python和C++编程语言,具备Trition/Cute/Tilelang/CUDA编程经验,理解GPU并行计算原理 3. 对大语言模型的优化和高性能计算有浓厚兴趣 4. 具备良好的问题解决能力和团队合作精神 5.熟悉常见 AI 编程工具(如 Claude Code、Cursor、GitHub Copilot等),能将其有效融入日常开发工作流,具备借助 AI 工具进行代码编写、调试及提效的主动意识。 加分项: 1. 参与过vllm/sglang/lightllm/tensorrtllm 等开源项目核心feature的开发 2. 在asplos/eurosys/atc/sc等会议上发标过大模型推理优化相关论文

商汤招聘实习生:大模型推理系统研发实习生岗位来自商汤招聘官网,具体内容以商汤招聘官网为准。