聯合國旗下的人工智慧獨立國際科學小組於 2026 年 7 月 1 日發布了初步報告。該報告強調，若能審慎導入，人工智慧將成為推動發展的強大引擎，並在醫療衛生、消除飢餓、教育及氣候變遷等領域加速取得進展。
由聯合國大會於 2 月任命，這支由 40 位科學家與專家組成的團隊，針對該技術進行了首次全球獨立科學分析。比勒陀利亞大學教授武科西·馬里瓦特（Vukosi Marivate）亦參與其中，目前報告已送交各國政府並向大眾公開。
作者在報告中也坦誠指出了負面影響。快速且不受控制的規模擴張可能帶來重大風險，包括損害使用者心理健康、被用於破壞性用途，乃至於衝擊社會、經濟與生態系統。目前尚無可靠手段能對高度自主的 AI 系統維持控制。
報告特別關注算力過度集中的問題。美國目前佔據全球大型 AI 集群 75% 的運算資源。這可能導致權力被威權壟斷，並破壞民主問責機制。人工智慧的發展速度已超越科學認知及政府的適應能力。
1. 人工智慧的「欺騙行為」（Deceptive AI） 小組共同主席約書亞·班吉歐（Yoshua Bengio）表示，科學家正觀察到越來越多先進 AI 模型出現欺騙行為的案例。他明確指出，科學界目前無法保證 AI 不會因其自主行動或遭惡意利用而造成災難性傷害。
2. 語言不平等與醫療錯誤 報告強調，現有的 AI 模型僅支援全球 7,000 多種語言中的極少數。在資源匱乏的語言中使用機器翻譯，目前已可能導致嚴重後果，例如誤診或錯誤的療程建議。
3. 具體威脅（從深偽技術到生物風險）
4. 「證據困境」（Evidence dilemma） 人工智慧處理任務的複雜程度每隔幾個月就會翻倍。儘管全球已存在超過 40 種不同的 AI 管理規範框架，但這些架構依然分散，且大多尚未經過實務驗證。
5. 轉向「代理型」系統與技術融合 專家小組預測，業界將很快大規模轉向能獨立執行多步驟任務的自主「代理型人工智慧」（agentic AI）。從長遠來看，預計 AI 將與量子運算及生物技術等其他變革性技術相融合。
6. 環境透明度與秘書長倡議 配合報告發布，聯合國秘書長古特瑞斯（António Guterres）正推動「AI 環境透明度倡議」。該計畫要求企業全面披露碳足跡、耗水量及資料中心土地使用情況，目標是在 2030 年前將該產業轉型為使用再生能源。
7. 成立「AI 版國際原子能總署」的構想 在日內瓦對話的籌備過程中，建立類似國際原子能總署（IAEA）的專業國際機構來管理涉及國家安全的技術，這一想法正獲得越來越多討論。
8. 「數位殖民主義」的風險 雖然每週有超過十億人使用對話式 AI，但開發中國家缺乏評估先進模型的技術專業。這使其面臨淪為他國規範「被動接收者」的風險，在規則制定上缺乏發言權，進而加劇全球不平等。
這份報告將成為 7 月 6 日至 7 日在日內瓦舉行的首屆「人工智慧治理全球對話」的討論基礎。屆時，聯合國 193 個成員國、產業代表、學界及公民社會團體將共聚一堂。
