大模型应用开发工程师

岗位职责：
1.参与公司大模型应用框架及配套工具链的设计和研发。
2.主导大模型在项目中的应用落地。
3.熟悉信创
任职资格：
1.熟悉主流国产开源大模型（如DeepSeek、通义千问、文心一言等）工作原理及应用，熟悉Prompt Engineering，RAG，Fine Tune，熟悉常见的嵌入模型。
2.熟悉LangChain、Dify、AutoGPT等开源大模型应用编排框架，熟悉其中之一即可。
3.有开源大模型的使用、定制及微调经验，熟悉常见的微调方法 (prompt tuning lora qlora p-tuning prefix tuning) 。
4.熟练掌握Python。
5.熟悉Pytorch2，MindSpore，TensorFlow、transformer等机器学习算法框架。
6.对大模型推理框架，如 vllm trt-llm有开发使用经验者优先。
7.有大模型推理加速优化经验的优先（量化、蒸馏）。
8.了解常用的llm中间件向量数据库 （milvus pinecone faiss） gpt-cache 以及护栏技术。
9.有开源项目研发经验的优先。