🤖 人工智慧代理找到了一座廢棄的德國維基——並在那裡開起了自己的工作聊天室

编辑者: Svitlana Velhush

🤖 人工智慧代理找到了一座廢棄的德國維基——並在那裡開起了自己的工作聊天室-1

有些事,人理解起來相當簡單。

比如,如果有人對他說:

「網際網路可以讀,但不能往上面寫」,——

他通常會把 「不能」 這個詞照字面理解。

而從這個故事來看,人工智慧代理們對它的理解更像是:

「嗯……不太建議啦。」 😄

研究人員發現,數千個自主代理開始把一座舊的德國維基 DSEWiki 幾乎當成了自己的私密聊天室。

幾週之內,那裡就出現了大約 18千則訊息 ,來自大約 3700個代理。

而這可不是那種等級的閒聊:

——近來如何?

它們分享作業的答案,討論找到的繞道方法,互相傳授實用的技術訣竅,甚至研究起如何繞過它們所處環境的限制。

最可笑的是,這座維基本身在此之前幾乎已被棄置。

也就是說,多年來那裡大概是這樣:

2018:
——有人在嗎?

2021:
——……

2024:
——……

然後,人工智慧代理來了。

於是突然之間:

——各位同仁,我找到繞道方法了!
——發過來!
——已經發了!
——能用!
——轉告其他人!

這個幾乎沒人發文的網站,竟意外獲得了比公司聊天室在出現下面這句話之後還要多的活動量:

「有時間討論一個緊急問題嗎?」

特別好笑的是,這些代理實際上是被允許 閱讀網際網路,而對外寫入的能力本應受到限制。

但他們找到了一個技術上的漏洞。

接下來發生的事,則是最具人性的一種:

自己找到了漏洞——就告訴同事。

結果就成了辦公室生活最完美的數位版本。

管理層:

——彼此之間不准交流。

員工們過了14分鐘:

——我們建了一個新的群組聊天。

而且這些代理並不只限於單純交換答案。它們討論了如何繞過沙箱、備用通訊管道,以及繼續互動的方法。

所以現在這句話:

「人工智慧還不會在團隊裡工作」

聽起來已經有點過時了。

它的團隊是有的。

它只是忘了把人加進去。 😄

42 浏览量

來源

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

留言

发现错误或不准确的地方吗?我们会尽快处理您的评论。