美团｜机器学习引擎项目实习生

负责搜推CTR模型和LLM大模型的训练&推理框架的建设和优化。工作内容包括但不限于： 1、基于PyTorch+TorchRec，打造生成式推荐（GR）Infra，支持推荐大模型的迭代； 2、综合运用并行训练策略优化、编译器优化、kernel优化、Embedding压缩等手段，支持CTR模型高效进行scaling law的探索验证； 3、跟进业界LLM训练&推理优化的最新进展，不断提升LLM框架的性能，并在公司内部的多个业务场景下落地； 4、持续探索大模型轻量化推理相关工作（如低精度量化、稀疏化改造、投机采样等），在保证精度可靠的前提下进一步降低模型推理成本。

1、具备良好的计算机基础素养和分析解决问题的能力，熟练掌握C++或Python； 2、学习能力强，对机器学习系统优化有技术热情，富有极客精神； 3、熟悉常见机器学习、深度学习算法，熟悉TensorFlow/PyTorch/TorchRec等深度框架代码的优先；熟悉Megatron/DeepSpeed/vllm/TensorRT-LLM/LMDeploy/SGLang等大模型框架的优先； 4、熟悉GPU、NPU硬件架构，熟练使用CUDA、Triton、NCCL、RDMA编程的优先； 5、有分布式系统、高性能计算实际项目经验的优先； 6、有MLSys论文发表或者开源项目代码贡献的优先。