登录/注册
我要招人
400-885-9898
首页
职位推荐
城市频道
政企招聘
校园招聘
高端职位
海外招聘
测评及培训
职Q社区
该职位已失效,看看其他机会吧
APP
举报
大模型推理加速框架研发工程师
2.3-4.5万
成都
武侯区
3-5年
本科
全职
招1人
查看更多相似职位
职位描述
VLLM
PyTorch
汇报对象:AI基础设施部技术总监
一、核心职责
推理框架开发——
1.参与基于FlashMLA的多头注意力解码器开发,优化变长序列处理效率
2.集成DeepGEMM FP8计算库,实现混合精度推理流水线搭建
性能调优实施——
1.分析Triton Inference Server日志,定位显存溢出及计算瓶颈问题
2.开发动态批处理系统
本地化部署支持——
1.适配昇腾等国产芯片
2.构建本地化模型仓库,通过3FS等方案实现模型加载速度提升
二、任职要求
1.基础条件
1)学历:计算机/电子工程本科及以上(优秀专科可放宽)
2)经验:3年开发经验,至少参与过1个完整项目落地
2.技术栈
1)熟练使用Python/C++开发工具链
2)掌握PyTorch模型导出与ONNX/TensorRT转换流程
3)熟悉CUDA基础编程,能调试简单GPU内核代码
3.优先条件
1)有vLLM/FasterTransformer框架二次开发经验
2)接触过MoE模型分布式推理架构
查看全部
工作地点
成都武侯区天府软件园D区创业场A42
查看地图
完善一份简历
1736万+企业在线搜索,780万+海量职位精准推荐
完善简历 涨薪36%
相似职位
能源/工业人工智能研究员(J10017)
2.5-4万
成都
- 新都
清华四川能源互联网研究院
并行计算工程师
1.5-2万
成都
- 武侯
中智四川经济技术合作有限公司
大数据与人工智能专家(J27749)
面议
成都
- 双流
中国聚变能源有限公司
AI算法工程师 - 毫米波雷达 & 机器学习&大模型方向-外企自研
1.5-2.5万·13薪
成都
- 武侯
蓬托森思(成都)科技有限公司
三维图形算法工程师
1.5-2万·13薪
成都
- 双流
成都贝施美医疗科技股份有限公司
高级ai算法工程师
1.5-2.5万
成都
- 郫都
成都宇俊盛科技有限公司
查看更多相似职位
热门城市推荐
北京
上海
深圳
广州
天津
成都
杭州
武汉
大连
长春
南京
济南
青岛
苏州
沈阳
西安
郑州
长沙
重庆
哈尔滨
无锡
宁波
福州
厦门
石家庄
合肥
惠州
太原
南昌
昆明
热门职位推荐
吊车司机招聘
阿里招聘
车工招聘
滴滴招聘
博世招聘
保安招聘
家政招聘
服务员招聘
木工招聘
包装工招聘
技工招聘
地铁安检招聘
厨师招聘
保洁招聘
货运司机招聘
喷塑工招聘
必胜客招聘
安全员招聘
奥迪招聘
普工招聘
公寓管家
带货主播
保险契约管理
水族馆表演演员
喷塑工
风控
IT技术/研发总监
模具工
服装/纺织品/皮革质量管理
5G
热门公司推荐
霸王茶姬招聘
肯德基招聘
顺丰招聘
美团招聘
京东招聘
饿了么招聘
比亚迪招聘
中国一汽招聘
北京汽车招聘
蔚来招聘
东风汽车招聘
长城汽车招聘
奇瑞汽车招聘
理想汽车招聘
长鑫存储招聘
天江药业招聘
蓝月亮招聘
安踏招聘
TCL招聘
海信招聘
联想招聘
海康威视招聘
宁德时代招聘
中兴招聘
新松招聘
京东方招聘
申通招聘
圆通招聘
中通招聘
百世物流招聘
德邦物流招聘
麦当劳招聘
星巴克招聘
海底捞招聘
蜜雪冰城招聘
瑞幸招聘
雀巢招聘
腾讯招聘
百度招聘
快手招聘
字节跳动招聘
新华网招聘
小米招聘
招商银行招聘
中信银行招聘
北京银行招聘
兴业银行招聘
交通银行招聘
建发集团招聘
中国移动招聘
中国联通招聘
中国电信招聘
中粮集团招聘
国药控股招聘
中广核招聘
中国船舶招聘
强生中国招聘
汇丰中国招聘
宜家招聘
立邦中国招聘
伊利招聘
青岛啤酒招聘
京港地铁招聘
宝马招聘
小鹏汽车招聘
华为招聘
特斯拉招聘
吉利招聘
奔驰招聘
海尔招聘
美的招聘
京东方招聘
施耐德电气招聘
德邦物流招聘
职位发布者
徐菁菁/招聘经理
今日活跃
立即沟通
徐菁菁 / 招聘经理
Hi~ 对职位感兴趣吗?快来下载智联APP和我聊聊吧,还能在线视频面试,方便又安心~
飞享数据
运营商/增值服务,计算机软件,计算机硬件,IT服务
20-99人
A轮
【关于飞享】杭州飞享数据技术有限公司(以下简称“飞享”)成立于2014年,是一家聚焦于“互联网边缘计算”和“超本地内容交付”领域的创新型科技企业,是杭州市高新区“5050计划”重点企业、“雏鹰计划”重点企业、高新技术企业。核心团队来自于锐捷、华为、阿郎等国内外知名IT企业的高管。飞享在一年内完成了两轮融资,最近一次融资由迅雷网络(XNET)领投数千万元,成为该领域国内增速最快的企业之一。飞享的互联网边缘计算和超本地内容交付解决方案,能够大幅提升长尾运营商的用户互联网体验、并帮助运营商降低网络运营成本多至50%;与此同时,飞享也与芒果TV、爱奇艺等互联网内容方紧密合作,帮助互联网内容方提升用户体验、降低内容分发成本。成立两年多来,飞享已经成功服务于教育、运营商等200多家大型政企客户;在中国最顶尖的985/211高校,飞享的覆盖率超过60%,稳居第一。【关于即将加入的你】我们希望你能够真正理解并且做到——1、不计较的付出。来创业公司,都是奔着高速成长和财务回报去的。成长这件事,想提速就得加油,不计较付出。付出永远是和回报成正比的。2、对结果负责。我们都在同一条船上,大家背靠背作战靠的就只能是默契。对结果负责的人,会得到团队的信任。3、承担大粒度的工作。在这里你不是一颗螺丝钉,没有大公司的成熟规范和职责说明,你能做的是承担一块业务,把它搞定,并努力成为这个业务的负责人。我们为你提供——薪酬待遇:行业内有竞争力的薪资,每年2次加薪机会,每年1次期权分配机会,目前飞享半数员工持有期权,只有你敢想、敢干,能干,你就能和公司分享成长的红利。社会保险:五险一金,必备项目,没什么好说的;员工福利:节日福利、免费下午茶、年度体检、生日会、技术沙龙等;个人假期:带薪年休假、婚假、产假、陪产假等国家法定假期,每月带薪事病假8小时,春节放假10-15天;职业成长:员工入职每人配一名资深辅导员,各种丰富务实的培训;办公环境:DELL的24寸XPS大屏,机械键盘敲代码都是可以的;员工活动:团队outing、公司年会、每月小活动,每季大活动等等。飞享坐标:浙江省杭州市滨江区火炬大道581号,三维通信B座1007室简历通道:hr@fxdata.cn飞享期待你的加入!
公司主页