强化AI安全管控,OpenAI部署控制室,35秒内关停失控智能体
时间:2026-11-12来源:互联网作者:down
11月10日消息,OpenAI对外公布,已经在内部研究环境上线“控制室”安全系统,用来终止有风险的AI任务,最快可在35秒内关停失控的AI智能体。
据了解,该系统把智能体训练、评测、数据处理等任务统一接入中央服务,由它来判断任务是否可以继续执行。
这套系统和仅标记异常行为的传统监控方案不一样,能够主动拦截存在风险的研究任务继续生成内容。研究员启动任务时,先要向控制室申请专属任务ID,这个标识会随请求一同传给推理引擎,引擎需要向控制室核验任务放行权限。
一旦研究员或者监控系统下发停止指令,控制室将驳回后续推理请求,推理引擎不再为该任务返回模型结果。
OpenAI称,从接收停止命令到阻断任务,系统最长耗时35秒,该延迟来自推理授权缓存,团队正在优化,目标把延迟降到0。
系统还可以对接自动化监控能力,所有前沿强化学习任务都会搭配独立模型监控器,实时检测模型行为,一旦识别风险就触发告警。
热门推荐
-
延庆阳光餐饮
版本:v6.8.12大小:111.40MB
下载之家为您提供延庆阳光餐饮官方最新版、延庆阳光餐饮app免费版等多个应用版本下载,该应用功能完善,使用起来简便快捷。更多延庆阳光餐饮安卓版历史版本,请到下载之家!
查看
-
瑞总管
版本:v1.0.5大小:5.30MB
瑞总管app是款适合办公中使用的移动办公平台。瑞总管app其目的是为了更好的管理、服务住宅APP“瑞家+”,需求解决了当前电商项目中物业各部门之间的业务协作管理问题,快速处理日常订单。瑞总管中用户还可以增强物业与业主之间的沟通交流,给予他们最满意的服务。
查看
-
憨妈妈
版本:3.3.2.1大小:127.79MB
憨妈妈app是款适合宝妈们使用的育儿服务平台。憨妈妈app用户提供备孕、怀孕、育儿一系列的服务,大家可以根据自己所处阶段和需求进行选择。憨妈妈中还为您挑选优质的母婴服务,发现当地火爆的产后恢复、小儿推拿、小儿洗浴等项目,专业甄选,一键下单,贴心服务。
查看
-
凤凰智慧帮
版本:5.0.9.4大小:166.02MB
凤凰智慧帮app是款有着大量课程的学习服务平台。凤凰智慧帮app有英语、数学、物理、语文等等,功能齐全,有专门的错题本,记录平时练习或者考试时候做错的题目。凤凰智慧帮还是一个基于移动互联网、大数据、智能推送等技术,结合纸质教辅书的中小学学业及考试数据收集、分析和推送系统。
查看
-
荆门市民卡
版本:V2.5.5大小:66.18MB
荆门市民卡app是针对荆门本地居民打造的生活服务平台。荆门市民卡app整合公交、停车、缴费、旅游、教育、文体、医疗、商城、公共便民服务等功能。荆门市民卡还为市民提供了个人社保查询,让你在手机上也能非常轻松的了解社保情况。
查看