AI安全与对齐进入实战阶段:红队测试与宪法AI成行业标准

随着人工智能代理和多模态模型的使用范围不断扩大,模型被滥用的风险也在同步增加。越狱攻击、提示词注...