职位描述
VLLM推理服务部署
Python/Go 后端开发工程师(推理平台)-国央企外包岗
中级:
学历要求
1、须具备专科及以上学历。(提供学信网双证或者留服认证)
2、(加分项)具有中级及以上工程师职称证书,或具备计算机软件资格考试中级及以上级别证书,或具有主流云厂商、主流视频厂商、主流算力基础设施厂商、主流开源软件厂商颁发的中级工程师及以上证书;或具有 PMP 证书(提供证书)。
3、具有 3 年及以上视频系统或综合安防系统的应用研发或实施或运维工作经验,且具有至少 2 个上述相关项目经历。
高级:
学历要求
1、具备本科及以上学历。(提供学信网双证或者留服认证)
2、(加分项)具有中级及以上工程师职称证书,或具备计算机软件资格考试中级及以上级别证书,或具有主流云厂商、主流视频厂商、主流算力基础设施厂商、主流开源软件厂商颁发的中级工程师及以上证书;或具有 PMP 证书(提供证书)。
3、具有 5 年及以上视频系统或综合安防系统的应用研发或实施或运维工作经验,且具有至少 3 个上述相关项目经历。
1.参与机器视觉推理平台运维监测系统的设计、开发与维护,建设覆盖推理任务状态、运行指标、日志查询、链路追踪、性能分析和告警管理等能力;
2.负责现有 Python、Go 推理服务的可观测性改造,基于 OpenTelemetry 完成 Metrics、Traces 和 Logs 的接入与规范化;
3.设计和开发通用的 Python/Go 公共组件、服务接口或接入模板,实现推理任务追溯、运行状态查询、性能指标采集、异常分析和监测数据聚合;
4.参与机器视觉多模态模型推理服务的开发、接口封装和性能优化,协助排查任务排队、模型加载、输入预处理、推理执行、结果解析和消息传输等环节的稳定性及性能问题;
5.编写接口文档、插桩规范、指标说明、推理流程说明和部署运维文档,持续提升系统的稳定性、可维护性和故障定位效率。
任职要求
基础要求
1.专科及以上学历,计算机、软件工程、通信工程等相关专业优先;具有主流云厂商、主流视频厂商、主流算力基础设施厂商、主流开源软件厂商颁发的中级工程师及以上证书,或具有中级及以上工程师职称证书,或具备计算机软件资格考试中级及以上级别证书。
2.具备 Python 或 Go 实际项目开发经验,至少熟练掌握其中一种语言,能够阅读和维护另一种语言的后端代码;
3.熟悉 HTTP、REST API、JSON、RPC 等常见系统交互方式,具备接口设计、服务开发和系统集成能力;熟悉 Kafka 等消息队列的基本原理和使用方式,理解生产、消费、Consumer Group、Offset、重试和消息积压等机制;
4.理解分布式系统中的异步处理、任务调度、上下文传播、超时、重试、幂等和异常恢复等基本概念;
5.了解机器学习或大语言模型的基本推理流程,能够理解模型加载、输入预处理、推理执行、输出解析和计算资源占用等环节;
6.熟悉 Linux 环境,能够通过日志、系统指标、进程状态及 CPU、内存、GPU/NPU 等资源使用情况定位常见运行问题;
7.具备良好的沟通协作能力,能够与 Java/Go 开发、算法、运维和业务团队共同推进系统开发、性能优化和问题闭环。
优先条件
1.有 OpenTelemetry、Prometheus 等链路追踪或可观测性系统使用经验;
2.有 AI 推理平台、模型服务、机器视觉、多模态模型或分布式任务平台开发经验;
3.熟悉 PyTorch、vLLM 等模型推理框架或工具;
4.有昇腾或其他异构算力设备开发、部署和运行问题排查经验;
5.熟悉 Docker、容器化部署、服务配置管理和持续集成发布流程;
6.熟悉 PostgreSQL、Redis、MinIO 等常见数据库、中间件和对象存储组件;
7.熟悉常见音视频传输协议(GB28181)者优先。
中级:
学历要求
1、须具备专科及以上学历。(提供学信网双证或者留服认证)
2、(加分项)具有中级及以上工程师职称证书,或具备计算机软件资格考试中级及以上级别证书,或具有主流云厂商、主流视频厂商、主流算力基础设施厂商、主流开源软件厂商颁发的中级工程师及以上证书;或具有 PMP 证书(提供证书)。
3、具有 3 年及以上视频系统或综合安防系统的应用研发或实施或运维工作经验,且具有至少 2 个上述相关项目经历。
高级:
学历要求
1、具备本科及以上学历。(提供学信网双证或者留服认证)
2、(加分项)具有中级及以上工程师职称证书,或具备计算机软件资格考试中级及以上级别证书,或具有主流云厂商、主流视频厂商、主流算力基础设施厂商、主流开源软件厂商颁发的中级工程师及以上证书;或具有 PMP 证书(提供证书)。
3、具有 5 年及以上视频系统或综合安防系统的应用研发或实施或运维工作经验,且具有至少 3 个上述相关项目经历。
1.参与机器视觉推理平台运维监测系统的设计、开发与维护,建设覆盖推理任务状态、运行指标、日志查询、链路追踪、性能分析和告警管理等能力;
2.负责现有 Python、Go 推理服务的可观测性改造,基于 OpenTelemetry 完成 Metrics、Traces 和 Logs 的接入与规范化;
3.设计和开发通用的 Python/Go 公共组件、服务接口或接入模板,实现推理任务追溯、运行状态查询、性能指标采集、异常分析和监测数据聚合;
4.参与机器视觉多模态模型推理服务的开发、接口封装和性能优化,协助排查任务排队、模型加载、输入预处理、推理执行、结果解析和消息传输等环节的稳定性及性能问题;
5.编写接口文档、插桩规范、指标说明、推理流程说明和部署运维文档,持续提升系统的稳定性、可维护性和故障定位效率。
任职要求
基础要求
1.专科及以上学历,计算机、软件工程、通信工程等相关专业优先;具有主流云厂商、主流视频厂商、主流算力基础设施厂商、主流开源软件厂商颁发的中级工程师及以上证书,或具有中级及以上工程师职称证书,或具备计算机软件资格考试中级及以上级别证书。
2.具备 Python 或 Go 实际项目开发经验,至少熟练掌握其中一种语言,能够阅读和维护另一种语言的后端代码;
3.熟悉 HTTP、REST API、JSON、RPC 等常见系统交互方式,具备接口设计、服务开发和系统集成能力;熟悉 Kafka 等消息队列的基本原理和使用方式,理解生产、消费、Consumer Group、Offset、重试和消息积压等机制;
4.理解分布式系统中的异步处理、任务调度、上下文传播、超时、重试、幂等和异常恢复等基本概念;
5.了解机器学习或大语言模型的基本推理流程,能够理解模型加载、输入预处理、推理执行、输出解析和计算资源占用等环节;
6.熟悉 Linux 环境,能够通过日志、系统指标、进程状态及 CPU、内存、GPU/NPU 等资源使用情况定位常见运行问题;
7.具备良好的沟通协作能力,能够与 Java/Go 开发、算法、运维和业务团队共同推进系统开发、性能优化和问题闭环。
优先条件
1.有 OpenTelemetry、Prometheus 等链路追踪或可观测性系统使用经验;
2.有 AI 推理平台、模型服务、机器视觉、多模态模型或分布式任务平台开发经验;
3.熟悉 PyTorch、vLLM 等模型推理框架或工具;
4.有昇腾或其他异构算力设备开发、部署和运行问题排查经验;
5.熟悉 Docker、容器化部署、服务配置管理和持续集成发布流程;
6.熟悉 PostgreSQL、Redis、MinIO 等常见数据库、中间件和对象存储组件;
7.熟悉常见音视频传输协议(GB28181)者优先。
登录查看完整内容








