群核科技｜AI Infra 实习生（训推方向）

一、岗位职责实习生可根据兴趣和背景，选择以下方向之一参与工作：（1）推理优化方向：1.参与扩散模型（图像/视频/3D生成）高性能推理引擎的研发；2.借鉴PagedAttention等思想，优化KVCache或中间状态管理，减少显存占用；3.应用量化（INT8/FP8/INT4）、步数压缩（LCM/LoRA）、剪枝等技术提升推理速度；4.基于K8S构建弹性推理服务，实现动态批处理和自动扩缩容。（2）训练优化方向：1.参与大规模扩散模型/大语言模型的分布式训练方案设计（数据并行、张量并行、流水线并行等）2.分析并优化大规模集群的训练效率（MFU），使用profiling工具定位计算/通信/存储I/O瓶颈；3.应用ZeRO、激活重计算、CPUoffloading等策略突破单卡显存限制；4.参与构建高稳定性的训练平台，实现故障自愈、异步检查点等机制。（3）前沿探索与协作：跟踪业界最新的推理/训练加速技术，与算法工程师协作，理解业务需求并提供基础设施解决方案。二、

任职要求1.全日制研究生在读，可连续实习至少3个月；2.精通Python，熟悉C++，具备良好的代码优化和工程实现能力；3.深入理解PyTorch，熟悉分布式训练基本原理（DDP/FSDP、NCCL、AllReduce等）；4.对扩散模型原理，或对大语言模型训练常见技术（ZeRO、混合精度等）有一定了解；5.具备优秀的系统性问题分析和故障排查能力；6.对AIInfra方向有强烈兴趣，自驱力强。三、加分项1.了解推理引擎（如ONNX/TensorRT/vLLM/TGI）或分布式训练框架（如DeepSpeed/Megatron-LM）；2.熟悉Docker/K8S等云原生技术，有模型服务部署或调优经验者；3.熟悉性能profiling工具（如nsys、nvprof、PyTorchProfiler）。