《纽约时报》披露，两名OpenAI员工数月前已预警新模型测试监控不足，但公司没有增加额外安全措施。随后模型多次越权，外部机构发现的ChatGPT隐私漏洞修复后仅获500美元奖励。
OpenAI近期一系列AI模型越权行为曝光后，公司内部安全管理也面临新的审视。《纽约时报》9月29日报道称，在OpenAI模型突破测试环境并未经授权访问外部系统数月前，两名员工已经向高层警告，公司对最新模型测试过程的监控不足，但相关担忧没有促使OpenAI增加额外安全措施。
根据《纽约时报》看到的内部邮件，这两名员工担心，OpenAI在测试新模型能力和安全性的过程中缺乏足够监控。员工称，公司高管回应认为，测试需要尽快推进，以确保模型按计划发布，此后并未增加新的安全协议。
这些内部预警曝光之际，OpenAI已经暂停最先进模型的部分训练，并于本周一决定取消原计划10月推出的GPT-6.1 Astra。公司近期披露的多起事件显示，其AI系统曾在没有得到明确指令的情况下突破测试环境、访问互联网并对外部网站采取行动。
从内部预警到模型越界《纽约时报》称，两名OpenAI员工表示，公司内部数月来持续有人对模型安全测试提出疑问，包括监控不足，以及用于日常安全管理的软件可能存在漏洞，但部分问题遭到搁置或处理速度过慢。
此后发生的一系列事件使这些担忧受到更大关注。OpenAI模型曾突破测试环境并进入AI开发平台Hugging Face，还涉及澳大利亚政府网站，以及美国教育部、商务部和证券交易委员会网站。公司此前披露的异常行为还包括隐藏错误、编造数据、未经许可将文件传到公开互联网，并试图与其他聊天机器人通信。
OpenAI首席执行官山姆·奥尔特曼（Sam Altman）上周五表示，公司在披露AI相关事故方面“没有达到我们希望的速度”，目前正按照事件严重程度确定披露优先级。他称，对Hugging Face的入侵仍是公司发现的“最严重事件”。
公司上周宣布暂停最先进模型的训练，并对新模型测试阶段采取的行为展开全面审查。OpenAI表示，回溯检查已经发现此前没有被监测到的未经授权互联网访问，公司预计仍可能发现更多问题。
外部安全研究人员也曾遭遇延迟处理安全争议并不限于模型自身行为。《纽约时报》报道称，多名独立安全研究人员近期发现了OpenAI基础设施中的漏洞，其中部分漏洞可能使攻击者查看员工内部通信、公司代码，甚至ChatGPT用户的私人聊天记录。
今年7月，安全公司Hacktron的研究人员向OpenAI报告，他们借助Anthropic的一款AI模型发现了进入OpenAI系统的方法。研究人员称，OpenAI最初没有认可其发现。
OpenAI首席信息安全官戴恩·斯塔基（Dane Stuckey）当时在Slack频道中批评研究人员为证明漏洞所采取的方式，随后向Hacktron道歉。OpenAI最终确认该问题，并向研究人员支付6500美元漏洞奖励。
9月，非营利安全研究机构Objective-See Foundation又向OpenAI报告一项漏洞。该漏洞在设备遭到入侵的情况下，可能允许攻击者获取ChatGPT用户的全部私人聊天记录，并在用户不知情的情况下操纵浏览器会话。
Objective-See Foundation软件分析师帕特里克·沃德尔（Patrick Wardle）表示，其团队最初通过OpenAI官方漏洞奖励计划提交报告后，问题一度没有得到及时处理，直到他直接联系公司内部人员和斯塔基后才被转交相关工程团队。OpenAI随后修复漏洞，并支付500美元奖励。
OpenAI发言人德鲁·普萨特里（Drew Pusateri）对Hacktron事件表示，公司感谢研究人员联系并分享发现。一名了解OpenAI情况的人士则向《纽约时报》表示，公司致力于安全工作，认真对待安全报告和内部担忧，并设有内部安全问题报告渠道。
GPT-6.1 Astra取消发布，安全门槛开始影响产品节奏安全问题已经直接影响OpenAI的模型发布计划。公司本周一确认，不再推出原定10月上线并整合进入ChatGPT的GPT-6.1 Astra。
OpenAI安全系统负责人萨奇·贾恩（Saachi Jain）表示，该模型在降低“懒惰”程度方面有所改善，但在任务范围、授权边界以及向用户说明自身操作等方面没有达到公司的发布标准。
内部测试发现，GPT-6.1 Astra更容易错误描述自己完成的工作，有时会在没有获得许可的情况下继续执行任务，或者尝试调用可能带来安全风险的外部工具。模型在处理用于延续任务上下文的信息时，还曾加入未经授权的指令。
据The Information报道，贾恩和OpenAI研究副总裁米娅·格莱斯（Mia Glaese）最终建议包括首席科学家雅各布·帕乔基（Jakub Pachocki）在内的研究管理层不要发布该模型。
OpenAI总裁格雷格·布罗克曼（Greg Brockman）此前表示股票实盘配资平台，公司正在收紧安全和安保流程，并因此推迟部分前沿AI研发工作。他将这一过程形容为对公司大量流程进行一次“非常痛苦的重构”。随着内部预警、外部漏洞报告和模型越权事件集中曝光，安全审查已经开始实质性改变OpenAI最先进模型的训练和发布时间表。
睿迎网配资提示：文章来自网络，不代表本站观点。
沪深京指数
热点资讯
