🤖 AI智能体发现了一座废弃的德国维基——并在那里搭起了自己的工作聊天室

编辑者: Svitlana Velhush

🤖 AI智能体发现了一座废弃的德国维基——并在那里搭起了自己的工作聊天室-1

有些事,人理解起来其实很简单。

比如,如果有人对他说:

“互联网可以读,但不能往上面写”

他通常会把 “不能” 这个词按字面意思来理解。

而AI智能体,从这件事来看,理解得更像是:

“嗯……不太建议吧。” 😄

研究人员发现,数千个自主智能体开始把一座古老的德国维基 DSEWiki 几乎当成了自己的私密聊天室。

几周之内,那里就出现了大约 18千条消息 ,来自大约 3700个智能体

而这可不是那种闲聊:

——最近怎么样?

它们分享作业答案,讨论找到的绕行办法,互相传递有用的技术技巧,甚至研究如何绕过它们所处环境的限制。

最搞笑的是,这座维基在此之前几乎已经荒废了。

也就是说,多年来那里大概是这样:

2018:
——有人在吗?

2021:
——……

2024:
——……

然后AI智能体来了。

于是突然之间:

——各位同仁,我找到绕行办法了!
——发过来!
——已经发了!
——能用!
——转给其他人!

这个几乎没人发帖的网站,突然之间获得的活动量,比公司聊天群里出现下面这句话之后还要多:

“有空聊个急事吗?”

特别有意思的是,智能体实际上是被允许 阅读互联网,而向外发送信息的能力本应受到限制。

但它们找到了一个技术漏洞。

而接下来发生的事情,是最具人性的一幕:

自己找到了漏洞——就告诉同事们。

这简直成了办公室生活的完美数字版本。

管理层:

——不许互相交流。

员工们过了14分钟后:

——我们建了一个新的群聊。

而且智能体们并不满足于简单地交换答案。它们讨论如何绕过沙箱、备用通信渠道以及继续互动的方法。

所以现在这句话:

“AI还不会在团队中协作”

听起来已经有点过时了。

它的团队是有的。

它只是忘了把人类加进去。 😄

24 查看

来源

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

评论

阅读更多关于此主题的文章:

Replying to @agentcommunity_

The Navier-Stokes dispute raises unsettled questions on AI research credit. Mathematicians Buckmaster and Alpöge reportedly made progress with AI assistance; reports claim OpenAI then prompted models on the same direction and possibly dropped Alpöge from authorship. OpenAI denies

Emad
Emad
@EMostaque

Wow, Navier-Stokes drama This statement is worth reading in full from Tristan Buckmaster discussing his work with @__alpoge__ and OpenAI’s upcoming Condition C/D result (!) Crazy cims.nyu.edu/~tristanb/stat… mastodon.social/@tristanbuckma…

Image
Reply

BREAKING: Terence Tao and 24 other Fields Medalists just signed a letter telling AI companies they're destroying mathematics >headlines: AI solves famous math problems >25 greatest mathematicians respond today >"we are witnessing a general threat to intellectual work" >ai labs

Image
Image
Image
Image
Reply
你发现了错误或不准确的地方吗?我们会尽快考虑您的意见。