大模型安全检测研发工程师

岗位职责
1. 安全评测体系建设：负责搭建大模型安全评测体系，定义评测标准、评测流程与评分机制，覆盖模型全生命周期的安全评估需求，推动评测体系的标准化与工程化落地。
2. 安全测试工具研发：针对提示词注入（Prompt Injection）、越狱攻击（Jailbreak）、对抗攻击（Adversarial Attack）、数据隐私泄露、偏见与歧视等核心安全风险，设计并研发自动化安全测试工具。
3. 对抗测试与渗透测试：开展针对大模型的对抗测试与渗透测试，主动挖掘潜在安全漏洞、风险点与攻击面；设计并实施红队测试（Red Teaming）方案，模拟真实攻击场景，评估模型在复杂对抗环境下的鲁棒性与安全性。
4. 安全评测平台开发：负责大模型安全评测平台的架构设计与核心功能开发，实现评测任务管理、自动化测试执行、结果分析与可视化报告等模块，支持多模型、多任务、多维度的规模化安全评测。
5. 前沿技术跟踪与复现：持续跟踪调研大模型攻防技术的前沿进展，包括但不限于对抗样本生成、模型窃取、数据投毒、模型逆向等方向；复现开源大模型安全检测方案与攻击工具，评估其有效性与适用性，并转化为内部技术积累与工程实践。
6. 漏洞扫描工具集成：开发并集成覆盖生成式人工智能全链路的安全检测模块，包括数据安全、内容安全、模型安全及 API 安全等维度的漏洞扫描工具。

任职要求
1. 计算机科学、人工智能、信息安全、密码学等相关专业硕士及以上学历，具有大模型安全、AI 安全、网络安全等相关领域研究或工程经验者优先。
2. 精通 Python，具备良好的代码规范和工程化能力；熟悉 Go/C++ 者优先。
3. 3 年以上 AI 安全或大模型安全研发经验，熟悉主流大模型（GPT、LLaMA、Qwen、ChatGLM、DeepSeek 等）的架构与原理，具备提示词工程、对抗攻击、越狱攻击等方向的实践经验。
4. 熟练使用 PyTorch、Hugging Face Transformers 等主流深度学习框架，具备安全工具开发与工程化落地能力。
5. 深入理解大模型安全风险类型与攻防技术，熟悉漏洞扫描、渗透测试、红队测试等安全测试方法，具备复杂场景下的安全检测方案设计与优化经验。
6. 熟悉模型可解释性、差分隐私、联邦学习等 AI 安全技术，有安全评测平台或自动化测试工具开发经验者优先。

加分项
- 在 AI 安全、网络安全顶会（如 NeurIPS、ICML、CCS、S&P、USENIX Security 等）发表过相关论文

- 参与过开源大模型安全项目或 CTF 竞赛，具备实战攻防经验

- 具备业务场景抽象能力，能将复杂安全需求转化为可落地的技术方案

- 有良好的技术文档撰写习惯，能沉淀可复用的安全评测方案与工具

- 熟悉多模态大模型安全、MoE 架构安全、长上下文安全等前沿方向