分享
编辑者： Aleksandr Lytviak
在美中領導人峰會落幕後，雙方達成協議將啟動人工智慧（AI）安全問題的雙邊磋商，這是在科技競爭日益白熱化之際，一項出人意料的進展。
華府的動機在於設法限制北京將人工智慧應用於軍事領域，而中國則希望藉此接觸西方的監管標準，進而鞏固其在全球市場的地位。
分析家指出，談判內容可能涵蓋自主武器系統的風險與倫理規範，但地緣政治的緊張局勢，恐使最終成果僅止於表面宣示，難以達成實質的約束性承諾。
外交圈消息人士指出，雙方可能成立聯合工作小組，共同研議先進晶片與演算法的出口管制機制，因為這些技術直接關係到美中兩國的國家安全。
專家強調，這項倡議能否成功，取決於雙方是否能將人工智慧議題與貿易爭端分開處理，唯有如此才能制定出基本準則，避免陷入失控的技術競賽。
從長遠來看，這類討論可望為國際規範奠定基礎，影響第三國的人工智慧發展方向，並降低發生意外衝突的可能性。
U.S. and China Will Start Discussing A.I. Safety ...
Korea Aerospace Industries says its AI module on the 12U BEE-1012 CubeSat, launched on Nuri Oct 7, passed an orbital pilot Oct 20. Given a simulated fault, it diagnosed cause and scope and sent back a fix plan. A main demo starts in December. Image Credit: Yonsei University
Great paper from Anthropic on AI agents doing ML-for-science research. (bookmark it) If you build AI-scientist systems, this one is worth your time. They propose Agent4Sci, which gives frontier coding agents 20 scientific ML benchmarks across 11 domains and asks them to beat
