分享
编辑者： Aleksandr Lytviak
在美中两国领导人峰会结束后，双方一致同意开启人工智能安全领域的双边磋商，这一举动在科技竞争愈演愈烈之际出人意料。
华盛顿此举的意图在于限制北京在军事领域应用人工智能，而中国则寄希望于接触西方的监管标准，以强化其在全球市场中的竞争力。
分析人士指出，尽管谈判可能涉及自主武器系统的风险和伦理规范，但地缘政治的紧张态势可能导致最终成果仅停留在缺乏实质性承诺的象征性声明上。
外交领域的消息人士透露，双方可能组建联合工作组，专门研究影响两国国家安全的先进芯片及算法的出口管制机制。
专家强调，该倡议的成功取决于双方能否将人工智能议题与贸易争端区分开来，从而制定出防止技术竞赛失控的基本准则。
从长远来看，此类对话有望为国际准则的建立奠定基石，进而在影响第三国人工智能发展的同时，降低爆发意外冲突的可能性。
U.S. and China Will Start Discussing A.I. Safety ...
Korea Aerospace Industries says its AI module on the 12U BEE-1012 CubeSat, launched on Nuri Oct 7, passed an orbital pilot Oct 20. Given a simulated fault, it diagnosed cause and scope and sent back a fix plan. A main demo starts in December. Image Credit: Yonsei University
Great paper from Anthropic on AI agents doing ML-for-science research. (bookmark it) If you build AI-scientist systems, this one is worth your time. They propose Agent4Sci, which gives frontier coding agents 20 scientific ML benchmarks across 11 domains and asks them to beat
