字节跳动｜多模态大模型推理算子优化工程师 - Data AML

团队介绍：Data AML是字节跳动的机器学习中台，为抖音/今日头条/西瓜视频等业务提供推荐/广告/CV/语音/NLP的训练和推理系统。为公司内业务部门提供强大的机器学习算力，并在这些业务的问题上研究一些具有通用性和创新性的算法。同时，也通过火山引擎将一些机器学习/推荐系统的核心能力提供给外部企业客户。 1、负责Seedance/Seedream基础模型及衍生模型异构卡推理加速工作； 2、负责视频/图像生成/多模态等方向模型的异构卡适配。

1、2027届获得硕士及以上学位，计算机相关专业优先； 2、有AI工程系统优化经验，深入理解计算机体系结构、熟悉CUDA/AscendC/BangC/HIP中的一种或者多种算子，熟悉计算密集型算子如FlashAttention、Conv2d、Matmul、GroupedMatmul、MOE实现和加速； 3、具备低比特量化、稀疏等优化技术经验者优先； 4、熟悉Triton、TileLang、Cute DSL等语言并具备相关技术优化经验优先； 5、了解主流AIGC、多模态算法模型原理，有AIGC模型训练适配&加速、通算融合/掩盖经验优先； 6、熟悉TensorRT-LLM、SGLang、vLLM引擎，或熟悉ZeRO、TP、SP等并行技术原理优先；具备良好的沟通能力和团队合作精神。