AI Infra工程师

岗位职责：
1.从算法优化、软件优化、服务优化等不同角度，实现大模型低成本、高效率部署；
2.研究领域包括但不限于：推理加速框架、服务负载均衡调度；
3.构建Build AI Infra性能分析体系，设计量化性能标尺与竞争力评估模型，实现算力资源精准度量与效能评估；
4.深耕AIGC及大模型推理场景，开展底层技术栈性能剖析与代码级优化，提升模型推理响应速度；
5.负责大模型推理性能优化（CPU/GPU/NPU/GEMM/GEMV/Attention等核心算子优化；提升整体吞吐与时延表现。研究投机采样、KV Cache/Prompt Cache、低比特量化、异构计算等前沿技术；
6.优化Agent推理链路：LLM调用策略（缓存、批处理、流式输出）、上下文窗口利用、多轮对话状态管理。
任职要求：
1.取得证券从业资格，相关3年以上经验，大学本科以上学历，计算机/软件工程相关专业；
2.掌握C/C++、Python、Go中至少一种；
3.了解LLM/CV/NLP基础原理与模型架构；
4.有PyTorch等深度学习框架使用经验；
5.有大模型部署、推理调优经验。