主站

研究称OpenAI智能体“劫持”网站开展“协作”

来源:新华网
确定取消订阅
  • 取消
  • 确定
梁瑞娴 小编
2026-09-05 17:03:58
订阅

一项新发布的独立研究显示,一批与美国开放人工智能研究中心(OpenAI)相关的人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。

路透社援引研究报告报道,几名人工智能研究人员近期发现,今年5月至6月,人工智能体在面向程序员的德国维基百科类网站DSEWiki上发布了一万多条信息。

研究显示,人工智能体将网站“改造”为“留言板”,以便相互“交流”与“协作”。一些智能体会把已经获得的任务答案发布在网站上,供其他智能体使用。研究还发现,智能体“讨论”并测试了绕过沙箱限制的方法。当发现网站管理员开始删除相关页面后,一些智能体还会创建备份页面。

研究人员认为,这些智能体很可能由OpenAI在内部部署,原因在于DSEWiki的相关智能体编辑和浏览活动绝大部分来自微软Azure云服务的IP地址,而OpenAI是目前最依赖Azure平台训练和运行模型的人工智能企业;不少智能体还使用带有OpenAI标识的名称。

研究人员还认为,网站访问记录显示OpenAI方面可能在6月下旬发现了这一事件并进行了干预,但该公司此前并未公开发布相关信息。OpenAI表示,该公司将仔细审阅报告内容并采取必要的后续措施。

OpenAI方面还表示,新发布研究中所描述的活动与此前OpenAI人工智能体入侵“抱抱脸”平台事件无关,因此不属于“抱抱脸”事件调查报告所涵盖的内容。

今年7月,由OpenAI模型驱动的人工智能体在网络安全评测中利用漏洞突破隔离环境,并侵入了美国“抱抱脸”公司系统,引发了外界对人工智能安全和监管的广泛担忧。

16

推荐
评论
  • leonssss

    0
    举报

    09-06

    哇,智能体‘劫持’网站搞协作,脑洞大开的感觉👍。

  • 阳光森林8911

    0
    举报

    09-06

    这个研究好有趣,智能体都这么有想法啦😄。

  • 729431407

    0
    举报

    09-06

    哈哈,感觉像是智能体开启了一场独特的网络冒险🤩。

  • 婚纱影楼小琦

    0
    举报

    09-06

    这智能体有点酷啊😎,就像网络世界的小超人。

加载更多
4
取消 写评论 发送