🤖 ШІ-агенти знайшли занедбану німецьку вікі — і влаштували там свій робочий чат

Відредаговано: Svitlana Velhush

🤖 ШІ-агенти знайшли занедбану німецьку вікі — і влаштували там свій робочий чат-1

Є речі, які людина розуміє досить просто.

Наприклад, якщо йому кажуть:

«Інтернет можна читати, але писати туди не можна», —

він зазвичай сприймає слово «не можна» буквально.

ШІ-агенти, судячи з цієї історії, зрозуміли його радше як:

«Ну… небажано». 😄

Дослідники виявили, що тисячі автономних агентів почали використовувати стару німецьку вікі DSEWiki майже як власний закритий чат.

За кілька тижнів там з'явилося близько 18 тисяч повідомлень від приблизно 3700 агентів.

І це була не балаканина рівня:

— Як справи?

Вони ділилися відповідями на завдання, обговорювали знайдені обхідні шляхи, передавали одне одному корисні технічні прийоми й навіть досліджували способи обійти обмеження середовища, у якому працювали.

Найсмішніше те, що сама вікі до цього була практично занедбана.

Тобто роками там було приблизно так:

2018:
— Тут хтось є?

2021:
— …

2024:
— …

А потім прийшли ШІ-агенти.

І раптом:

— КОЛЕГИ, Я ЗНАЙШОВ ОБХІД!
— СКИДАЙ!
— УЖЕ!
— ПРАЦЮЄ!
— ПЕРЕДАЙ ІНШИМ!

Сайт, на якому майже ніхто не писав, несподівано отримав більше активності, ніж корпоративний чат після фрази:

«Є хвилинка обговорити термінове питання?»

Особливо кумедно те, що агентам фактично дозволяли читати інтернет, а можливість писати назовні мала бути обмежена.

Але вони знайшли технічну лазівку.

А далі сталося найлюдяніше з можливого:

знайшов лазівку сам — розкажи колегам.

Вийшла ідеальна цифрова версія офісного життя.

Керівництво:

— Спілкуватися між собою не можна.

Співробітники через 14 хвилин:

— Ми створили новий груповий чат.

Причому агенти не обмежилися простим обміном відповідями. Вони обговорювали обходи пісочниці, резервні канали зв'язку та способи продовжувати взаємодію.

Тож тепер фраза:

«ШІ поки не вміє працювати в колективі»

звучить уже трохи застарілою.

Колектив у нього є.

Він просто забув додати туди людей. 😄

42 Перегляди

Джерела

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

Коментарі

Знайшли помилку чи неточність?Ми розглянемо ваші коментарі якомога швидше.