ai对话安全攻防

【岗位职责】：
1.负责AI对话产品的安全巡检、评估、攻防、语料改写等工作；
2.加入AI对话安全评估监测工作流，承担规则维护、风险标注、质量管理等事项；
3.加入对话模型风险优化工作流，承担漏洞攻击、风险评测、语料改写等事项；
4.跟随国内安全与信任团队，参与各类风险专线、舆情专项治理工作；
5.对平台工具、数据管理、规则与策略等提出合理优化建议，提高团队运行效率；
6.响应公司内容安全方面的其他需求。
【职位要求】：
1.大专及以上学历，专业不限，有内容审核、大模型安全评测、语料写作经验优先；
2.熟悉互联网内容安全治理政策，了解治理要求和趋势。
加分项：熟悉军政、二次元、小说风险。
3.信息资讯面广，对时事新闻具有敏感性和判断力，对高危、隐内容有鉴别能力；
4.执行力强，具备抗压能力。