大模型评测工程师

职位描述
1、负责高效、可扩展的工程化评测工具链开发，覆盖计算调度、并行加速、算子库等推理全流程，通过自动化工具链实现评测流程标准化。
2、实现统一的评测流程抽象，支持GPU/NPU/XPU等多种异构硬件，支持新型硬件的快速接入。
3、开发高效评测工具（批量任务发起模块、实时性能监控组件、数据解析模块、自动化对比分析平台等），解决评测过程中流程差异大、配置繁琐、结果难复现等问题，提升评测效率与准确性。
职位要求
1、本科及以上学历，计算机、人工智能、软件工程等相关专业，具备大模型开发或评测相关项目经历者优先。
2、优秀的代码实现与工程落地能力，熟练掌握Python、C++等编程语言，能独立完成评测工具的设计、开发与调试；掌握Linux系统开发环境，具备Shell脚本编写和自动化工具开发能力。
3、理解并掌握vllm、sglang等大模型推理框架的技术原理与实践应用，具备大规模推理引擎部署或基于推理框架优化评测性能的经验优先。
4、熟悉机器学习核心原理，理解主流大模型（纯文本模型、多模态模型等）的计算通路，熟悉大模型评测方法，具备海量评测数据处理与评测任务实施经验优先。
5、具备良好的硬件知识，熟悉算子库的运行原理，至少在一种硬件（GPU/NPU/XPU等)上有丰富的构建经验。