多模态大模型工程师

职位描述:
1、负责通用多模态大模型(包括十亿、百亿参数量)的设计、开发和优化，包括但不限于预训练、跨模态信息对齐方法探索、SFT、指令微调、RLHF、Prompt工程、模型评估、模型推理等;
2、负责大规模、多模态数据的获取，清洗和质量控制，保障数据质量和有效性;
3、紧跟业界大模型、多模态/语言等方向进展，探密前沿技术，形成系列算法/大模型解决方案，完成算法团队研发落地工作，推动多模态大模型效果达到行业领先。
任职要求:
1、硕士及以上优先，代码能力极强者放宽要求;计算机科学，软件专业；
2、精通Transformer、Bert、ViT等深度学习理论算法和优化；
3、对多模态大模型训练范式等有深入理解和实践，有多机多卡大模型训练/大模型微调/从0到1构建多模态大模型(百亿参数以上)等经验者优先；
4、对大模型和生成式AI有浓厚的兴趣，对至少一项生成式模型的原埋与应用具有深入了解，如GPT4V、LLaVa、MiniGPT4、Stable Difusion、CogVLM、DALL-E等；
5、精通一种或多种编程语言，如python、C语言等，熟练握主流深度学习框架Pytorch、Tensorflow等;熟悉Linux系统，了解分布式训练框架，如Deepspeed和Meatron-LM等，并有一定的多机多卡分布式训练经验；
6、具有部署经验，有模型压缩经验以及端侧部署经验优先；
7、具备较强的团队协作能力和沟通能力，有较强的学习能力和业务分析及问题解决能力；