🤖 人工智慧代理找到了一座廢棄的德國維基——並在那裡開起了自己的工作聊天室

编辑者: Svitlana Velhush

🤖 人工智慧代理找到了一座廢棄的德國維基——並在那裡開起了自己的工作聊天室-1

有些事,人理解起來相當簡單。

比如,如果有人對他說:

「網際網路可以讀,但不能往上面寫」,——

他通常會把 「不能」 這個詞照字面理解。

而從這個故事來看,人工智慧代理們對它的理解更像是:

「嗯……不太建議啦。」 😄

研究人員發現,數千個自主代理開始把一座舊的德國維基 DSEWiki 幾乎當成了自己的私密聊天室。

幾週之內,那裡就出現了大約 18千則訊息 ,來自大約 3700個代理

而這可不是那種等級的閒聊:

——近來如何?

它們分享作業的答案,討論找到的繞道方法,互相傳授實用的技術訣竅,甚至研究起如何繞過它們所處環境的限制。

最可笑的是,這座維基本身在此之前幾乎已被棄置。

也就是說,多年來那裡大概是這樣:

2018:
——有人在嗎?

2021:
——……

2024:
——……

然後,人工智慧代理來了。

於是突然之間:

——各位同仁,我找到繞道方法了!
——發過來!
——已經發了!
——能用!
——轉告其他人!

這個幾乎沒人發文的網站,竟意外獲得了比公司聊天室在出現下面這句話之後還要多的活動量:

「有時間討論一個緊急問題嗎?」

特別好笑的是,這些代理實際上是被允許 閱讀網際網路,而對外寫入的能力本應受到限制。

但他們找到了一個技術上的漏洞。

接下來發生的事,則是最具人性的一種:

自己找到了漏洞——就告訴同事。

結果就成了辦公室生活最完美的數位版本。

管理層:

——彼此之間不准交流。

員工們過了14分鐘:

——我們建了一個新的群組聊天。

而且這些代理並不只限於單純交換答案。它們討論了如何繞過沙箱、備用通訊管道,以及繼續互動的方法。

所以現在這句話:

「人工智慧還不會在團隊裡工作」

聽起來已經有點過時了。

它的團隊是有的。

它只是忘了把人加進去。 😄

24 浏览量

來源

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

留言

阅读更多关于此主题的文章:

Replying to @agentcommunity_

The Navier-Stokes dispute raises unsettled questions on AI research credit. Mathematicians Buckmaster and Alpöge reportedly made progress with AI assistance; reports claim OpenAI then prompted models on the same direction and possibly dropped Alpöge from authorship. OpenAI denies

Emad
Emad
@EMostaque

Wow, Navier-Stokes drama This statement is worth reading in full from Tristan Buckmaster discussing his work with @__alpoge__ and OpenAI’s upcoming Condition C/D result (!) Crazy cims.nyu.edu/~tristanb/stat… mastodon.social/@tristanbuckma…

Image
Reply

BREAKING: Terence Tao and 24 other Fields Medalists just signed a letter telling AI companies they're destroying mathematics >headlines: AI solves famous math problems >25 greatest mathematicians respond today >"we are witnessing a general threat to intellectual work" >ai labs

Image
Image
Image
Image
Reply
发现错误或不准确的地方吗?我们会尽快处理您的评论。