大模型异构训练推理研发工程师

工作内容
1. 统筹阿里云 AI Studio与华为云 ModelArts的算力资源接入、模型纳管及混合云部署架构设计，实现异构算力统一调度。设计适配异构模型推理加速、资源监控等能力调用。
2. 结合SOTA模型训练推理优化原理，深入研究模型结构与设计思路，将训练推理优化手段进行工程实践化，为客户提供系统性加速方案，有效提升模型训推效率。
3. 在自研芯片上适配各类常见大模型，结合深度学习训推框架特性，开发并调优相关算子，提升模型在自研芯片上的运行性能与精度表现，同时辅助客户完成芯片选型与落地应用工作。
4. 针对大规模异构集群业务场景，探索训推任务管理、异构资源调度、分布式训练与推理等核心技术的创新落地与场景化应用。
5. 持续跟踪AI行业前沿技术发展，深度参与LLM、强化学习、Agent等开源社区建设，助力提升百度混合云AI体系核心竞争力。
岗位需求
1. 本科及以上学历，具备扎实的计算机相关专业知识背景。
2. 拥有优秀的编码能力，熟练掌握Golang、Python、Java、C、C++至少一门编程语言，具备扎实的算法与数据结构基础，拥有规范、良好的编程习惯。
3. 熟悉PyTorch深度学习框架，了解Megatron、DeepSpeed、vLLM、SGLang等主流大模型训推框架，具备相关框架二次开发实战经验。
4. 具备以下至少一个领域深度实践经验者优先：
（1）推理优化：熟练掌握FlashAttention、PD分离、专家并行、负载均衡、模型压缩（蒸馏/量化）、缓存策略、异构计算加速等技术；
（2）训练优化：精通分布式训练、显存优化（ZeRO/Offload）、计算通信Overlap、混合精度训练、MoE架构调优等技术；
（3）深入理解GPU/NPU芯片架构，熟悉CUDA、OpenCL等高性能计算编程，拥有千亿参数级别大规模模型训练或推理实战经验；
（4）拥有开源项目贡献经验，在相关技术社区具备一定行业影响力。
5. 熟悉电力行业业务，具备电力行业相关项目落地背景者优先。
6. 具备独立的问题分析与攻坚解决能力，拥有极强的责任心、自主学习能力与跨团队沟通协作能力。
7. 具备强烈的责任心与自驱力，可在复杂项目环境中高效推进项目落地，能够快速迭代掌握前沿新技术，适配团队协同工作节奏。
8. 能够接受长期异地出差。