职位描述
大模型部署AI推理
岗位职责：
1.带领团队负责成品大模型、多模态模型云端及私有化项目部署实施、现场落地、上线验收。
2.负责推理架构设计、模型工程优化，解决部署过程时延、吞吐、兼容性各类落地问题。
3.制定标准化部署交付方案，规划算力配置，统筹多个并行交付项目。
4.搭建部署实施团队，完善交付流程、故障处理机制，保障项目按期交付。
5.支撑售前方案交流，对接客户完成现场技术调试与项目验收。
6.上级安排的其它工作。
岗位要求：
1.本科或以上学历。2年以上AI模型部署实施经验，3年以上团队管理经验。
2.实战主导过大模型落地部署交付项目，精通 vLLM/TensorRT-LLM/Triton等推理框架。
3.熟悉K8s、容器、Linux服务器环境，掌握量化、分布式推理等工程优化手段。
4.具备客户现场实施、问题应急攻坚能力，结果导向，重视项目落地交付。
5.能够独立规划部署方案、算力方案，沉淀标准化交付资产。
工作地点：深圳市南山区微软科通大厦9层
登录查看完整内容
工作地点
深圳***********
公司信息
公司介绍
公司是一家知名的芯片应用设计和分销服务商。公司与全球80余家领先的芯片原厂紧密合作，覆盖全球主要高端芯片厂商以及众多国内芯片厂商，已获得Xilinx（赛灵思）、Intel（英特尔）、Sandisk（闪迪）、Micron（镁光）、Osram（欧司朗）、Microchip（微芯）、Skyworks（思佳讯）、AMD（超威半导体）、ST（意法半导体）等国际知名原厂以及瑞芯微、全志科技、兆易创新等国内知名原厂的产品线授权，为上述原厂提供向下游拓展市场的芯片应用设计及分销服务。公司主要代理产品类型包括FPGA（可编程逻辑芯片）、ASIC（应用型专用芯片）、处理器芯片、微控制器芯片、存储芯片、电源芯片、射频/无线、分立/无源及零配件、软件及其他。经过多年的发展，公司沉淀了深厚的应用技术、丰富的产业资源，公司向下游主要覆盖智能汽车、数字基建、工业互联、能源控制、大消费等五大领域，服务着百度、歌尔股份、欧珀精密、杭州海康、豪恩声学、华勤通讯等数千家知名客户，为客户提供芯片应用方案设计以及相匹配的分销服务。公司是连接上游原厂和下游客户的重要纽带。一方面，公司协助上游原厂提供芯片应用设计及分销服务，助力其产品在下游市场快速推广，克服上游原厂对下游不同国家、不同细分行业生态认知不足及管理半径限制等诸多痛点；另一方面，公司提供一站式芯片应用解决方案及技术指导支持，可助力下游客户降低采购成本，缩短终端产品开发周期，降低附加研发成本，保障客户供应链安全，促进客户产品快速推向市场建立竞争力。
工商信息
企业名称 深圳市科通技术股份有限公司
企业类型 股份有限公司（外商投资、未上市）
法人代表 李宏辉
经营状态 存续（在营、开业、在册）
成立时间 2005-05-24
注册资本 10517.2413万元人民币
认证资质
营业执照信息
