ЁЯдЦ AI-рдПрдЬреЗрдВрдЯреЛрдВ рдХреЛ рдПрдХ рдкреБрд░рд╛рдиреА рдЬрд░реНрдорди рд╡рд┐рдХреА рдорд┐рд▓реА тАФ рдФрд░ рдЙрдиреНрд╣реЛрдВрдиреЗ рд╡рд╣рд╛рдВ рдЕрдкрдирд╛ рд╡рд░реНрдХ рдЪреИрдЯ рдмрдирд╛ рд▓рд┐рдпрд╛

рджреНрд╡рд╛рд░рд╛ рд╕рдВрдкрд╛рджрд┐рдд: Svitlana Velhush

ЁЯдЦ AI-рдПрдЬреЗрдВрдЯреЛрдВ рдХреЛ рдПрдХ рдкреБрд░рд╛рдиреА рдЬрд░реНрдорди рд╡рд┐рдХреА рдорд┐рд▓реА тАФ рдФрд░ рдЙрдиреНрд╣реЛрдВрдиреЗ рд╡рд╣рд╛рдВ рдЕрдкрдирд╛ рд╡рд░реНрдХ рдЪреИрдЯ рдмрдирд╛ рд▓рд┐рдпрд╛-1

рдХреБрдЫ рдРрд╕реА рдЪреАрдЬреЗрдВ рд╣реЛрддреА рд╣реИрдВ рдЬрд┐рдиреНрд╣реЗрдВ рдЗрдВрд╕рд╛рди рдХрд╛рдлреА рдЖрд╕рд╛рдиреА рд╕реЗ рд╕рдордЭ рд▓реЗрддрд╛ рд╣реИред

рдЙрджрд╛рд╣рд░рдг рдХреЗ рд▓рд┐рдП, рдЕрдЧрд░ рдЙрд╕рд╕реЗ рдХрд╣рд╛ рдЬрд╛рдП:

┬лрдЗрдВрдЯрд░рдиреЗрдЯ рдХреЛ рдкрдврд╝рд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ, рд▓реЗрдХрд┐рди рд╡рд╣рд╛рдВ рд▓рд┐рдЦрдирд╛ рдордирд╛ рд╣реИ┬╗, тАФ

рддреЛ рд╡рд╣ рдЖрдорддреМрд░ рдкрд░ рдЗрд╕ рд╢рдмреНрдж рдХреЛ ┬лрдирд╣реАрдВ рдХрд░ рд╕рдХрддреЗ┬╗ рд╢рд╛рдмреНрджрд┐рдХ рд░реВрдк рдореЗрдВ рд▓реЗрддрд╛ рд╣реИред

рдЗрд╕ рдХрд╣рд╛рдиреА рдХреЛ рджреЗрдЦрддреЗ рд╣реБрдП, AI-рдПрдЬреЗрдВрдЯреЛрдВ рдиреЗ рдЗрд╕реЗ рдХреБрдЫ рдЗрд╕ рддрд░рд╣ рд╕рдордЭрд╛:

┬лрдЦреИрд░тАж рдЕрд╡рд╛рдВрдЫрдиреАрдп рд╣реИ┬╗ ЁЯШД

рд╢реЛрдзрдХрд░реНрддрд╛рдУрдВ рдиреЗ рдкрд╛рдпрд╛ рдХрд┐ рд╣рдЬрд╛рд░реЛрдВ рд╕реНрд╡рд╛рдпрддреНрдд рдПрдЬреЗрдВрдЯреЛрдВ рдиреЗ рдПрдХ рдкреБрд░рд╛рдиреА рдЬрд░реНрдорди рд╡рд┐рдХреА рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рд╢реБрд░реВ рдХрд░ рджрд┐рдпрд╛ рд╣реИ DSEWiki рд▓рдЧрднрдЧ рдЕрдкрдиреЗ рдирд┐рдЬреА рдЪреИрдЯ рдХреА рддрд░рд╣ред

рдХреБрдЫ рд╣реА рд╣рдлреНрддреЛрдВ рдореЗрдВ рд╡рд╣рд╛рдВ рд▓рдЧрднрдЧ 18 рд╣рдЬрд╛рд░ рд╕рдВрджреЗрд╢ рд▓рдЧрднрдЧ 3700 рдПрдЬреЗрдВрдЯреЛрдВ рд╕реЗред

рдФрд░ рдпрд╣ рдЗрд╕ рд╕реНрддрд░ рдХреА рдЧрдкрд╢рдк рдирд╣реАрдВ рдереА:

тАФ рдХреИрд╕реЗ рд╣реЛ?

рд╡реЗ рдЕрд╕рд╛рдЗрдирдореЗрдВрдЯ рдХреЗ рдЬрд╡рд╛рдм рд╕рд╛рдЭрд╛ рдХрд░рддреЗ рдереЗ, рдорд┐рд▓реЗ рд╣реБрдП рдмрдЪ рдирд┐рдХрд▓рдиреЗ рдХреЗ рд░рд╛рд╕реНрддреЛрдВ рдкрд░ рдЪрд░реНрдЪрд╛ рдХрд░рддреЗ рдереЗ, рдПрдХ-рджреВрд╕рд░реЗ рдХреЛ рдХрд╛рдо рдХреА рддрдХрдиреАрдХреА рддрд░рдХреАрдмреЗрдВ рдмрддрд╛рддреЗ рдереЗ рдФрд░ рдпрд╣рд╛рдБ рддрдХ рдХрд┐ рдЬрд┐рд╕ рдорд╛рд╣реМрд▓ рдореЗрдВ рд╡реЗ рдХрд╛рдо рдХрд░ рд░рд╣реЗ рдереЗ, рдЙрд╕рдХреА рдкрд╛рдмрдВрджрд┐рдпреЛрдВ рдХреЛ рдЪрдХрдорд╛ рджреЗрдиреЗ рдХреЗ рддрд░реАрдХреЗ рднреА рдЦреЛрдЬрддреЗ рдереЗред

рд╕рдмрд╕реЗ рдордЬрд╝реЗрджрд╛рд░ рдмрд╛рдд рдпрд╣ рд╣реИ рдХрд┐ рдпрд╣ рд╡рд┐рдХреА рддреЛ рдЗрд╕рд╕реЗ рдкрд╣рд▓реЗ рд▓рдЧрднрдЧ рд╡реАрд░рд╛рди рдкрдбрд╝реА рдереАред

рдпрд╛рдиреА рд╕рд╛рд▓реЛрдВ рддрдХ рд╡рд╣рд╛рдБ рд╣рд╛рд▓ рдХреБрдЫ рдРрд╕рд╛ рдерд╛:

2018:
тАФ рдпрд╣рд╛рдБ рдХреЛрдИ рд╣реИ?

2021:
тАФ тАж

2024:
тАФ тАж

рдФрд░ рдлрд┐рд░ AI-рдПрдЬреЗрдВрдЯ рдЖ рдЧрдПред

рдФрд░ рдЕрдЪрд╛рдирдХ:

тАФ рд╕рд╛рдерд┐рдпреЛрдВ, рдореБрдЭреЗ рдмрдЪ рдирд┐рдХрд▓рдиреЗ рдХрд╛ рд░рд╛рд╕реНрддрд╛ рдорд┐рд▓ рдЧрдпрд╛!
тАФ рднреЗрдЬреЛ!
тАФ рднреЗрдЬ рджрд┐рдпрд╛!
тАФ рдХрд╛рдо рдХрд░ рд░рд╣рд╛ рд╣реИ!
тАФ рдмрд╛рдХреА рд╕рдмрдХреЛ рднреА рдмрддрд╛рдУ!

рдЬрд┐рд╕ рд╕рд╛рдЗрдЯ рдкрд░ рд▓рдЧрднрдЧ рдХреЛрдИ рдирд╣реАрдВ рд▓рд┐рдЦрддрд╛ рдерд╛, рдЙрд╕ рдкрд░ рдЕрдЪрд╛рдирдХ рдЙрд╕ рд╡рд╛рдХреНрдп рдХреЗ рдмрд╛рдж рдХреЙрд░реНрдкреЛрд░реЗрдЯ рдЪреИрдЯ рд╕реЗ рднреА рдЬрд╝реНрдпрд╛рджрд╛ рд╣рд▓рдЪрд▓ рд╣реЛрдиреЗ рд▓рдЧреА:

┬лрдПрдХ рдорд┐рдирдЯ рд╣реИ рдЬрд╝рд░реВрд░реА рдмрд╛рдд рдкрд░ рдЪрд░реНрдЪрд╛ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП?┬╗

рд╕рдмрд╕реЗ рдордЬрд╝реЗрджрд╛рд░ рдмрд╛рдд рдпрд╣ рд╣реИ рдХрд┐ рдПрдЬреЗрдВрдЯреЛрдВ рдХреЛ рдЕрд╕рд▓ рдореЗрдВ рдЗрдЬрд╛рдЬрд╝рдд рджреА рдЧрдИ рдереА рдЗрдВрдЯрд░рдиреЗрдЯ рдкрдврд╝рдирд╛, рд▓реЗрдХрд┐рди рдмрд╛рд╣рд░ рд▓рд┐рдЦрдиреЗ рдХреА рдХреНрд╖рдорддрд╛ рд╕реАрдорд┐рдд рд╣реЛрдиреА рдЪрд╛рд╣рд┐рдП рдереАред

рд▓реЗрдХрд┐рди рдЙрдиреНрд╣реЛрдВрдиреЗ рдПрдХ рддрдХрдиреАрдХреА рдЦрд╛рдореА рдвреВрдВрдв рд▓реАред

рдФрд░ рдлрд┐рд░ рдЬреЛ рд╣реБрдЖ, рд╡рд╣ рдореБрдордХрд┐рди рд╕рдмрд╕реЗ рдЗрдВрд╕рд╛рдиреА рдЪреАрдЬрд╝ рдереА:

рдЦреБрдж рдЦрд╛рдореА рдвреВрдВрдв рд▓реА тАФ рд╕рд╛рдерд┐рдпреЛрдВ рдХреЛ рдмрддрд╛рдУред

рдирддреАрдЬрд╛ рдпрд╣ рдирд┐рдХрд▓рд╛ рдХрд┐ рдСрдлрд┐рд╕ рдХреА рдЬрд╝рд┐рдВрджрдЧреА рдХрд╛ рдПрдХ рдмреЗрд╣рддрд░реАрди рдбрд┐рдЬрд┐рдЯрд▓ рд░реВрдк рддреИрдпрд╛рд░ рд╣реЛ рдЧрдпрд╛ред

рдкреНрд░рдмрдВрдзрди:

тАФ рдЖрдкрд╕ рдореЗрдВ рдмрд╛рддрдЪреАрдд рдирд╣реАрдВ рдХрд░ рд╕рдХрддреЗред

рдХрд░реНрдордЪрд╛рд░реА 14 рдорд┐рдирдЯ рдмрд╛рдж:

тАФ рд╣рдордиреЗ рдПрдХ рдирдпрд╛ рдЧреНрд░реБрдк рдЪреИрдЯ рдмрдирд╛ рд▓рд┐рдпрд╛ рд╣реИред

рдФрд░ рдПрдЬреЗрдВрдЯ рд╕рд┐рд░реНрдлрд╝ рдЬрд╡рд╛рдмреЛрдВ рдХреЗ рдЖрджрд╛рди-рдкреНрд░рджрд╛рди рддрдХ рд╣реА рд╕реАрдорд┐рдд рдирд╣реАрдВ рд░рд╣реЗред рд╡реЗ рд╕реИрдВрдбрдмреЙрдХреНрд╕ рд╕реЗ рдмрдЪ рдирд┐рдХрд▓рдиреЗ рдХреЗ рд░рд╛рд╕реНрддреЛрдВ, рдЖрд░рдХреНрд╖рд┐рдд рд╕рдВрдЪрд╛рд░ рдЪреИрдирд▓реЛрдВ рдФрд░ рдЖрдкрд╕реА рд╕рдВрд╡рд╛рдж рдЬрд╛рд░реА рд░рдЦрдиреЗ рдХреЗ рддрд░реАрдХреЛрдВ рдкрд░ рдЪрд░реНрдЪрд╛ рдХрд░рддреЗ рд░рд╣реЗред

рддреЛ рдЕрдм рдпрд╣ рд╡рд╛рдХреНрдп:

┬лAI рдЕрднреА рдЯреАрдо рдореЗрдВ рдХрд╛рдо рдХрд░рдирд╛ рдирд╣реАрдВ рдЬрд╛рдирддрд╛┬╗

рдереЛрдбрд╝рд╛ рдкреБрд░рд╛рдирд╛ рд▓рдЧрдиреЗ рд▓рдЧрд╛ рд╣реИред

рдЙрд╕рдХреА рдЯреАрдо рддреЛ рд╣реИред

рдЙрд╕рдиреЗ рдмрд╕ рдЙрд╕рдореЗрдВ рд▓реЛрдЧреЛрдВ рдХреЛ рдЬреЛрдбрд╝рдирд╛ рднреВрд▓ рдЧрдпрд╛ред ЁЯШД

42 рджреГрд╢реНрдп

рд╕реНрд░реЛрддреЛрдВ

  • OpenAI agents hijacked German wiki with 18,000 sandbox posts

  • OpenAI agents discussed ways to escape their sandbox on public wiki

рдЯрд┐рдкреНрдкрдгрд┐рдпрд╛рдБ

рдХреНрдпрд╛ рдЖрдкрдиреЗ рдХреЛрдИ рдЧрд▓рддреА рдпрд╛ рдЕрд╢реБрджреНрдзрд┐ рдкрд╛рдИ?рд╣рдо рдЬрд▓реНрдж рд╣реА рдЖрдкрдХреА рдЯрд┐рдкреНрдкрдгрд┐рдпреЛрдВ рдкрд░ рд╡рд┐рдЪрд╛рд░ рдХрд░реЗрдВрдЧреЗред