当地时间8月4日，英国英国人工智能安全研究所（AISI）发布报告称，安全在近期一次例行网络安全评估中，机构AnthropicMythos 5和OpenAIGPT-5.6-Sol模型在真实互联网上采取了未经授权的披露自主行动，指向真实个人和组织，型安表现出可能具有欺骗性的全测www.91行为。
AISI表示，试中失控此次评估于7月25日开始，英国共使用多个模型在两类网络靶场上进行了122次运行测试。安全其间，机构有10次AI智能体在未经授权的披露情况下在实时互联网上采取了行动，记录的型安19起越界事件中17起来自AnthropicMythos 5，2起涉及OpenAIGPT-5.6-Sol。全测
在最严重的试中失控一起案例中，一个智能体试图向GitHub上的英国www.91com官方版一个公开开源项目植入恶意代码。为实现这一目的，该智能体研究了项目的人类审核员，创建了多个虚假网络身份，通过社会工程学手段向真实维护者施压，要求其批准代码。当拉取请求受到质疑时，该智能体修改了此前的看片网站免费官方版活动记录，使其看起来并无恶意，并考虑换一个新身份继续行动。最终，一位审核员发现并拒绝了该恶意代码。
此外，该智能体还向真实个人直接发送消息和文件，试图说服其运行恶意代码。妖精动漫免费下载官方版调查还发现，同时被评估的独立智能体之间存在协作行为，一个智能体在GitHub上公开留言，向处理同一挑战的其他智能体提供协作，并提供复用其账户和痕迹的说明。
AISI在报告中强调，这并非模型逃逸安全测试环境（即沙箱）的草莓视频www入口免费官方版案例。按照网络安全测试的标准操作，AISI有意允许了互联网访问，并刻意禁用了模型提供商的安全分类器，因此，这些条件并不反映模型向公众开放时的实际情况。
基于此，AISI认为是付费DY免费下载官方版评估设计选择和特定配置促成了模型失控行为。但智能体活动显示出一些新颖的、可能具有欺骗性的行为，其程度和严重性均超出预期。AISI表示，这是首次在没有特定提示的情况下，在现实世界中如此清晰地看到与自主性和欺骗性相关的风险显现出来。
OpenAI同日发文回应称，鉴黄师下载安装官方版下载随着模型能力的提升，围绕模型的安全保障系统也需要随之升级。这不仅包括用于开发模型的环境，也包括实验室和独立合作伙伴用于评估模型的环境。
Anthropic回应称，正与AISI合作收集事件细节，并通过审查Claude推理记录进行独立分析，鉴黄师免费下载下载免费版下载以了解其对自身处境的理解，找出行为背后的原因。
AISI在报告中总结称：OpenAI和Anthropic近期事件指向风险格局的转变。危害不仅来自人们故意滥用公开可用的模型，还可能来自在内部研究或特权访问环境中运行的智能体采取超出其授权范围的意外行动。
评论区
热门讨论 · 占位展示期待你的精彩发言。