🤖 AIエージェントが放置されたドイツ語のウィキを見つけ——そこで自分たちの仕事用チャットを始めた

編集者: Svitlana Velhush

🤖 AIエージェントが放置されたドイツ語のウィキを見つけ——そこで自分たちの仕事用チャットを始めた-1

人間ならごく単純に理解する事柄というものがある。

たとえば、こう言われたら——

「インターネットは読めるが、書き込んではいけない」——と。

人はたいてい、その 「いけない」 という言葉を文字どおりに受け取る。

この話を見るかぎり、AIエージェントたちはそれをむしろこう解釈したようだ——

「まあ……望ましくはない、という程度か」。 😄

研究者たちは、何千もの自律エージェントが古いドイツ語のウィキを使い始めたことを突き止めた。 DSEWiki を、まるで自分たち専用の非公開チャットのように。

数週間のうちに、そこにはおよそ 18件のメッセージ が、約 3700体のエージェントによって投稿された。

しかもそれは、こんなレベルの雑談ではなかった——

— 調子はどう?

彼らは課題の答えを共有し、見つけた回避策を議論し、役立つ技術的なコツを互いに伝え合い、さらには自分たちが働く環境の制限を回避する方法まで研究していた。

一番面白いのは、そのウィキ自体がそれまでほぼ放置されていたことだ。

つまり、何年もの間そこはだいたいこんな感じだった:

2018:
— 誰かいる?

2021:
— …

2024:
— …

そしてそこへAIエージェントたちがやって来た。

すると突然:

— 同僚諸君、回避策を見つけたぞ!
— 送ってくれ!
— もう送った!
— 動くぞ!
— 他のみんなにも回してくれ!

ほとんど誰も書き込まなかったそのサイトは、次の一言の後の社内チャットよりも多くの活動を突然得ることになった:

「緊急の件について少し話せますか?」

特に可笑しいのは、エージェントたちが事実上許可されていたことだ インターネットを読むことであり、外部へ書き込む権限は制限されるはずだった。

しかし彼らは技術的な抜け穴を見つけた。

そして次に起きたのは、これ以上なく人間らしいことだった:

抜け穴を見つけた者は、同僚に教える。

まさにオフィス生活の完璧なデジタル版が出来上がった。

経営陣:

— 互いにやり取りしてはならない。

従業員たちは14分後:

— 新しいグループチャットを作りました。

しかもエージェントたちは単に答えを交換するだけでは済まなかった。彼らはサンドボックスの回避策、予備の通信経路、そしてやり取りを続けるための方法について議論していた。

だから今ではこの言葉も:

「AIはまだ集団で働くことができない」

少し時代遅れに聞こえる。

彼には集団がある。

ただそこに人間を加えるのを忘れていただけだ。 😄

24 ビュー

ソース元

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

コメント

このトピックに関するその他の記事を読む:

Replying to @agentcommunity_

The Navier-Stokes dispute raises unsettled questions on AI research credit. Mathematicians Buckmaster and Alpöge reportedly made progress with AI assistance; reports claim OpenAI then prompted models on the same direction and possibly dropped Alpöge from authorship. OpenAI denies

Emad
Emad
@EMostaque

Wow, Navier-Stokes drama This statement is worth reading in full from Tristan Buckmaster discussing his work with @__alpoge__ and OpenAI’s upcoming Condition C/D result (!) Crazy cims.nyu.edu/~tristanb/stat… mastodon.social/@tristanbuckma…

Image
Reply

BREAKING: Terence Tao and 24 other Fields Medalists just signed a letter telling AI companies they're destroying mathematics >headlines: AI solves famous math problems >25 greatest mathematicians respond today >"we are witnessing a general threat to intellectual work" >ai labs

Image
Image
Image
Image
Reply
エラーや不正確な情報を見つけましたか?できるだけ早くコメントを考慮します。