1、迁移方案支持:梳理ISV大模型兼容性、赋能ISV使用模型迁移工具套件、分析扫描资源包/依赖库/原代码、提供软件移植报告、提供大模型移植工作量评估、提供代码迁移指导报告、协助ISV开发人员解决迁移中遇到的问题、ISV昇腾软件兼容性认证
2、性能调优支持:应用性能测试、NPU调优、网络调优、IO调优、操作系统调优、中间件调优、代码调优、模型部署和发布调优、集群性能调优、赋能ISV使用大模型调试工具套件
3、梳理ISV兼容性、赋能ISV,协助ISV开发人员解决大模型调试,AI应用使能等过程中的问题,负责大模型相关解决方案开发与ISV支持,负责AI应用解决方案开发与ISV支持技术能力要求:
知识点(满足至少4项):
1)了解大语言模型LLM或CV类模型,了解Tranfomers模型结构原理;
2)具有基于NV硬件对模型进行微调训练,推理调试,性能优化等经验优先,具备实际工程项目经验优先;
3) 熟悉Pytorch、Tensorflow、PaddlePaddle 等深度学习框架,熟悉CNN、ResNet、RNN、LSTM、BERT、GAN 等网络
4)了解linux操作系统基本知识,熟练掌握linux基础命令;
5)计算机软硬件相关专业,熟悉掌握Python/C等编程语言中至少一种语言,且有2K以上的代码编程经验优先;
6)了解K8S运行原理和调度机制,熟悉docker工作原理和常用命令;
7)了解计算机组成原理相关知识,对服务器、PC的硬件有基本了解(例如:CPU、内存、网卡、Raid卡等);
专业知识要求:
1、具备较强的需求理解和分析能力,能将功能需求转化为设计方案并落地
2、良好的沟通、积极有良好表达能力,协作能力;
3、具有模型训练、精度/性能调优、推理部署完整实践经验,具备大模型开发调优部署经验者优先;
4、有算子开发经验优先 ;学历要求本科,不要专升本
5、有昇腾HCIA/HCIP证书/昇腾大模型训练开发认证微认证/Ascend C算子开发能力认证(中高级)微认证优先。