高级Go工程师 - 推理系统开发

我们正在寻找一位经验丰富的高级Go工程师，负责开发和维护推理模组系统。这是一个高性能的模型推理平台，支持多种推理引擎，实现云边统一部署和动态扩缩容。
岗位职责
一、核心开发
1、设计和实现高性能的Go网关层，处理RESTful API请求和gRPC内部通信
2、开发服务发现、负载均衡、请求路由等核心功能
3、实现配置缓存机制，优化配置查询性能
4、支持流式响应处理，兼容OpenAI API格式
二、架构设计
1、参与系统架构设计，优化Go+Python混合架构=
2、设计网关与后端适配器之间的通信协议
3、实现模型生命周期管理（懒加载、自动卸载、预加载）
4、设计和实现云边统一部署架构
三、K8s集成
1、开发K8s Operator或Controller，实现模型服务的自动化部署
2、实现HPA（水平自动扩缩容）和VPA（垂直自动扩缩容）策略
3、设计服务健康检查和监控机制
4、实现配置变更时的自动更新和重新部署
四、性能优化
1、优化网关层的请求处理性能，降低延迟
2实现连接池、请求复用等优化策略
3、设计和实现性能监控和指标收集
4、进行性能测试和调优
任职要求
一、基础要求
5年以上Go语言开发经验，精通Go语言特性和最佳实践
3年以上云原生开发经验，深入理解Kubernetes架构和原理
计算机相关专业本科及以上学历
二、技术技能
Go语言 ：精通Go语言并发编程、内存管理、性能优化
gRPC ：熟练使用gRPC进行服务间通信，了解Protobuf
Kubernetes ：深入理解K8s架构，有Operator/Controller开发经验
微服务 ：熟悉微服务架构设计，有服务发现、负载均衡经验
API设计 ：熟悉RESTful API设计原则，了解OpenAI API格式
流式处理 ：有SSE（Server-Sent Events）或gRPC Streaming开发经验
缓存 ：熟悉Redis等缓存系统，有缓存设计经验
监控 ：熟悉Prometheus、Grafana等监控工具
容器化 ：熟练使用Docker，有容器编排经验
三、技术栈
1、核心技术
语言 ：Go（主要）、Python（协作）
框架 ：gRPC、Gin/Echo
容器 ：Docker、Kubernetes
存储 ：Redis、etcd
监控 ：Prometheus、Grafana
CI/CD ：GitHub Actions、ArgoCD
2、开发工具
IDE ：VS Code、GoLand
版本控制 ：Git
API测试 ：Postman、cURL
性能测试 ：Apache Bench、wrk
四、加分项
有AI/ML推理系统开发经验
熟悉vLLM、Dynamo、SGLang等推理引擎
有云边协同开发经验
熟悉Python，能够与Python团队协作
有高并发、低延迟系统开发经验
熟悉Service Mesh（如Istio）
有开源项目贡献经验
五、软技能
良好的沟通能力，能够与跨团队协作
强烈的技术热情和学习能力
良好的问题分析和解决能力
能够独立负责模块的设计和开发
有技术文档编写能力