2026年7月1日，联合国下属的人工智能独立国际科学小组发布了一份初步报告。报告强调，如果能实现深思熟虑的应用，人工智能有望成为推动发展的强劲引擎，在加速医疗卫生、消除饥饿、提升教育水平和应对气候变化等方面发挥关键作用。
该小组由联合国大会于今年2月任命的40名科学家和专家组成，完成了全球首份针对该技术的独立科学分析。来自比勒陀利亚大学的武科西·马里瓦特教授也是专家成员之一。目前，该报告已呈送各国政府并向公众开放。
报告作者直言不讳地指出了技术的阴暗面。快速且不受控的规模化扩张带来了显著风险，包括损害用户心理健康、被用于破坏性目的，以及对社会、经济和生态系统产生负面影响。目前，人类尚未掌握确保对高度自主的人工智能系统维持控制的可靠手段。
报告特别关注了算力资源的过度集中。统计显示，美国占据了全球最大人工智能集群75%的计算资源。这种垄断态势可能导致技术集权，进而削弱民主问责制。人工智能展现出的能力已经超越了当前的科学认知广度，也超出了各国政府的适应速度。
报告中还有哪些亮点？
1. AI的“欺骗行为” (Deceptive AI) 科学小组联合主席约书亚·本吉奥表示，科学家们正观察到越来越多先进AI模型表现出欺骗行为。他明确指出，科学界目前无法保证AI不会因其自主行为或恶意利用而造成灾难性的破坏。
2. 语言不平等与医疗错误 报告强调，在世界现存的7000多种语言中，现代AI模型仅支持其中极少的一部分。在资源匮乏的语言环境中，机器翻译错误已经可能导致致命后果，例如错误的医疗诊断和处方建议。
3. 具体威胁（从深度伪造到生物安全）
4. “证据困境” (Evidence dilemma) AI处理任务的复杂度每隔几个月就会翻倍。尽管全球已存在40多种不同的人工智能治理规范框架，但它们依然处于碎片化状态，且大多未经过实践检验。
5. 向“智能体”系统的转型与技术融合 专家组预测，人类社会将很快大规模向自主“智能体”系统转型，这类系统能够独立完成多步骤任务。从长远来看，预计AI将与量子计算、生物技术等其他变革性技术深度融合。
6. 环境透明度与秘书长倡议 结合该报告，联合国秘书长安东尼奥·古特雷斯正致力于推动“人工智能环境透明度倡议”。该倡议要求企业全面披露其碳足迹、水耗以及数据中心占地情况，旨在到2030年推动整个行业转型使用可再生能源。
7. 设立“人工智能版国际原子能机构”的构想 在日内瓦对话的筹备过程中，建立专门国际机构的呼声日益高涨，该机构将参照国际原子能机构的模式，负责管理涉及国家安全的关键技术。
8. “数字殖民主义”风险 每周有超过10亿人使用对话式AI，但发展中国家往往缺乏评估先进模型的技术专长。这使得它们面临沦为他人规则“被动接受者”的风险，在规则制定中丧失话语权，从而加剧全球不平等。
该报告将成为7月6日至7日在日内瓦举行的首届“人工智能治理全球对话”的基础。此次论坛将汇聚联合国所有193个会员国，以及来自工业界、学术界和公民社会的代表。
