该岗位Base安徽合肥,请注意后投递~
岗位职责
紧跟业界大模型推理技术趋势,负责实现具体工程技术点攻关,支撑主要开源大模型推理性价比业界,开源社区协作,特性跟踪、修复。
任职要求
-计算机/数学/电子等相关专业本科及以上
-扎实的C++/Python 基础:有CUDA,Trton 或其它 GPU编程经验者优先;
-熟悉SGLang、vLLM等至少一种主流高性能开源推理框架,具备二次开发以及性能调优能力;
-有SGLang/vLLM等开源社区贡献,开源Git协作经验,或熟悉大模型推理技术前沿方向者优先。
外地学生可提供住宿。