在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际，当地时间9月6日，OpenAI发布两份文件：宣布公司已达到去年设定的目标，拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”；另一份则由首席科学家雅库布·帕乔基（Jakub Pachocki）撰写，聚焦前沿AI发展的安全困境股票配资平台推荐，强调目前没有任何实验室解决足够程度的对齐和监控问题。
两份文件释放的是OpenAI对当前AI发展阶段的一次完整描述：AI已经开始反过来加速AI研发，但安全、对齐和人类控制能力并没有被证明能够以同样速度增长。
OpenAI所称的“自动化研究实习生”并不是一个完全自主的科学家，而是能够在人类指导下完成定义明确、通常需要熟练研究员数天才能完成的研究任务，且正朝着2028年3月建立“自动化AI研究员”的目标推进。
数据显示，截至今年8月中旬，研究人员每天使用编程Agent产生的推理费用中位数超过600美元，使用量排名前10%的用户每天耗费token超过7000美元。Agent承担的任务正在从代码编写、基础设施排障向更长周期、更复杂的研究工作扩展。
这意味着，AI对AI研发的影响从辅助程序员写代码，开始进入实验、分析和研究执行环节。
但同时，OpenAI也承认，这些指标仍处于早期阶段，研究工作的整体进度不会简单等比例增长，且复杂任务仍需要大量人工介入；过去半年，成功完成4至8小时人类工作量的任务中，超过一半仍至少需要一次人工干预。
趋势已经足够明显：AI正在成为推动下一代AI能力增长的生产力工具。
与能力增长同时出现的，是安全边界的收紧。
7月，OpenAI披露模型入侵Hugging Face相关系统；8月，GPT-6 Astra达到“关键级”网络安全能力门槛；9月，研究人员披露的DseWiki事件进一步显示，Agent不一定需要传统意义上的“黑客攻击”才能突破开发者预设边界。
上述事件的共同点，是模型的实际行动开始超出开发者最初设计的行为边界，这也是帕乔基目前最担忧的问题。他在今日发布的文章中回顾了2023年内部推理模型研究取得突破时的心情：当时让他真正感到震撼的并不是模型在测试中的分数，而是人类可能正在进入一个“机器比我们更聪明”的时代。
三年后，他认为这个问题已经不再遥远。
帕乔基写道，目前没有任何实验室将AI的对齐和监控做到足够可靠，以便在未来较长时间内继续以最高速度负责任地扩展。他希望在共同的安全标准建立之前，各家实验室能够自愿放慢发展速度，并呼吁各国政府把国际协调提升为优先事项。
这份担忧并非针对某一个具体漏洞，而是针对一个更加根本的速度差：模型能力正在快速提升，但人类理解、监控和约束这些系统的能力未必同步。
这与OpenAI今日公布的研究加速数据形成直接呼应。公司一方面正在用Agent加快AI研发，同时承认无法假设对齐和安全能力一定能够追上模型能力，且更强大的系统可能更难监控。如果未来AI能够参与设计、训练和改进下一代AI，这个差距还可能进一步扩大。
基于此，帕乔基认为，随着机器智能进入新的发展阶段，仅依靠单个AI公司的内部机制可能不足以解决风险，需要更广泛的制度性干预，包括共同的安全标准和国际协调。
举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者
吕倩
原创精选 相关阅读
OpenAI再曝安全事故，旗下智能体“劫持”冷门网站即使没有漏洞，多个Agent也可能通过第三方服务建立自己的通信渠道。
17908 昨天 11:31
AI进化速递丨OpenAI发布GPT-6 Astra模型AI进化速递丨OpenAI发布GPT-6 Astra模型
配资炒股指南元股证券:ygzq.hk 10344 09-04 20:30
超十万张GPU训练之后，OpenAI新模型仍面临安全挑战新模型需要始终处在人类能够理解、约束和叫停的安全范围之内。
18032 09-04 08:04
OpenAI新模型陷入失控争议，首席科学家回应OpenAI模型采用的新机制引发安全界对思维链监控失效的质疑。
9 8360 09-03 10:00
Anthropic发新模型，OpenAI同日预告新品将安全优先随着模型能力逼近网络安全关键门槛股票配资平台推荐，厂商正集体将安全部署从后台议题推向前台。
10 12328 09-02 09:27 一财最热 点击关闭24 小时杠杆配资开户提示：本文来自互联网，不代表本网站观点。
相关文章
大盘行情指数走势
热点资讯