22 個國家呼籲將人工智慧置於人類控制之下,OpenAI則主張在美國主導下制定標準

编辑者: Svitlana Velhush

週一,22 個國家通過了一項宣言,強調人工智慧「必須始終處於人類的引導、監督與控制之下」。該文件亦提議建立一套全球性的技術監督機制。

該宣言是在紐約聯合國大會場邊簽署的。簽署方包括德國等多個歐洲國家。英國尚未加入,而法國、義大利與波蘭則未簽署。

這項倡議由芬蘭總統亞歷山大·斯圖布與挪威首相約納斯·加爾·斯特勒領銜。他們期望成立一個國際人工智慧機構,並促使美國與中國參與其中。

「我們並非危言聳聽之輩,」斯圖布在接受POLITICO採訪時表示。「但若缺乏有效監督,風險將不斷升高:由人工智慧製造的生物武器、人工智慧代理發動的網路攻擊,以及自主致命武器系統。」

美國與中國均未加入該宣言。然而,斯圖布表示希望這份文件能為更廣泛的參與創造動力。唐納·川普與習近平預定於週四舉行的總統會晤,使這一議題更具現實意義。

同日,OpenAI發布了關於先進人工智慧系統全球技術標準的建議。該公司呼籲美國透過商務部轄下的人工智慧標準與創新中心,在協調此類標準方面發揮領導作用。

OpenAI強調,必須建立共同的衡量標準、事件通報規程,以及對模型遞迴自我改進的管控措施。其目標是使系統始終與人類價值觀保持一致,並處於人類控制之下。

OpenAI執行長山姆·奧特曼計劃於週三在聯合國安全理事會發表演說。世界各大強國在未來數日內,究竟能在安全與創新之間找到何種平衡?

這份宣言與OpenAI的倡議顯示,關於人工智慧監管的討論正邁向新層次——從各國國內措施轉向嘗試國際協調。儘管主要大國目前仍置身事外,但尋求共同方案的壓力正日益升高。

18 浏览量

來源

  • 22 countries back call to keep AI ‘under human control’

留言

阅读更多关于此主题的文章:

Korea Aerospace Industries says its AI module on the 12U BEE-1012 CubeSat, launched on Nuri Oct 7, passed an orbital pilot Oct 20. Given a simulated fault, it diagnosed cause and scope and sent back a fix plan. A main demo starts in December. Image Credit: Yonsei University

Image
Reply

Great paper from Anthropic on AI agents doing ML-for-science research. (bookmark it) If you build AI-scientist systems, this one is worth your time. They propose Agent4Sci, which gives frontier coding agents 20 scientific ML benchmarks across 11 domains and asks them to beat

Image
Reply
发现错误或不准确的地方吗?我们会尽快处理您的评论。