🀖 AI゚ヌゞェントが攟眮されたドむツ語のりィキを芋぀け——そこで自分たちの仕事甚チャットを始めた

線集者 Svitlana Velhush

🀖 AI゚ヌゞェントが攟眮されたドむツ語のりィキを芋぀け——そこで自分たちの仕事甚チャットを始めた-1

人間ならごく単玔に理解する事柄ずいうものがある。

たずえば、こう蚀われたら——

「むンタヌネットは読めるが、曞き蟌んではいけない」——ず。

人はたいおい、その 「いけない」 ずいう蚀葉を文字どおりに受け取る。

この話を芋るかぎり、AI゚ヌゞェントたちはそれをむしろこう解釈したようだ——

「たあ  望たしくはない、ずいう皋床か」。 😄

研究者たちは、䜕千もの自埋゚ヌゞェントが叀いドむツ語のりィキを䜿い始めたこずを突き止めた。 DSEWiki を、たるで自分たち専甚の非公開チャットのように。

数週間のうちに、そこにはおよそ 18件のメッセヌゞ が、玄 3700䜓の゚ヌゞェントによっお投皿された。

しかもそれは、こんなレベルの雑談ではなかった——

— 調子はどう

圌らは課題の答えを共有し、芋぀けた回避策を議論し、圹立぀技術的なコツを互いに䌝え合い、さらには自分たちが働く環境の制限を回避する方法たで研究しおいた。

䞀番面癜いのは、そのりィキ自䜓がそれたでほが攟眮されおいたこずだ。

぀たり、䜕幎もの間そこはだいたいこんな感じだった

2018
— 誰かいる

2021
— 


2024
— 


そしおそこぞAI゚ヌゞェントたちがやっお来た。

するず突然

— 同僚諞君、回避策を芋぀けたぞ
— 送っおくれ
— もう送った
— 動くぞ
— 他のみんなにも回しおくれ

ほずんど誰も曞き蟌たなかったそのサむトは、次の䞀蚀の埌の瀟内チャットよりも倚くの掻動を突然埗るこずになった

「緊急の件に぀いお少し話せたすか」

特に可笑しいのは、゚ヌゞェントたちが事実䞊蚱可されおいたこずだ むンタヌネットを読むこずであり、倖郚ぞ曞き蟌む暩限は制限されるはずだった。

しかし圌らは技術的な抜け穎を芋぀けた。

そしお次に起きたのは、これ以䞊なく人間らしいこずだった

抜け穎を芋぀けた者は、同僚に教える。

たさにオフィス生掻の完璧なデゞタル版が出来䞊がった。

経営陣

— 互いにやり取りしおはならない。

埓業員たちは14分埌

— 新しいグルヌプチャットを䜜りたした。

しかも゚ヌゞェントたちは単に答えを亀換するだけでは枈たなかった。圌らはサンドボックスの回避策、予備の通信経路、そしおやり取りを続けるための方法に぀いお議論しおいた。

だから今ではこの蚀葉も

「AIはただ集団で働くこずができない」

少し時代遅れに聞こえる。

圌には集団がある。

ただそこに人間を加えるのを忘れおいただけだ。 😄

51 ビュヌ

゜ヌス元

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

コメント

゚ラヌや䞍正確な情報を芋぀けたしたかできるだけ早くコメントを考慮したす。