人工智能发展得如此之快，以至于敲响警钟的已经不仅是它的批评者，还有那些亲身站在现代AI产业源头的人们。
而且需要说明的是：他们中的大多数人并非笼统地反对人工智能。他们谈的是另一回事——追逐越来越强大的模型的竞赛，跑得比清晰的安全、监管和责任规则的出现更快。
最著名的声音之一—— 杰弗里·辛顿，现代人工智能的“教父”之一。离开谷歌之后，他谈论风险时变得坦率得多：从人们被大规模挤出劳动力市场，到出现有朝一日可能比我们预想的更难控制的系统。
另一位关键人物—— 约书亚·本吉奥，同样是深度学习的先驱之一。近年来他越来越积极地投身于人工智能安全问题，并呼吁各国不要等到重大事故发生后，而应提前为最强大的系统建立独立监督和限制。
在2023年，本吉奥支持了一封公开信，呼吁至少暂停训练比GPT-4更强大的系统半年。
签名者中还有 伊隆·马斯克。他支持在最大型AI模型的竞赛中暂停的想法，以便在这段时间里出现更可靠的规则、安全标准和监管方式。
苹果联合创始人 史蒂夫·沃兹尼亚克也加入了这一呼吁。后来他专门谈到，开发者应当更加透明，并为技术可能造成的损害承担责任。
在最知名的知识分子中，有历史学家兼作家 尤瓦尔·诺亚·赫拉利。他早已警告说，人工智能的特殊危险不仅在于“聪明的机器”，还在于算法能够大规模生成文本、图像和有说服力的内容。在他看来，这可能严重改变信息环境以及人们做出决策的方式。
最一贯批评不受控制的竞赛的人之一，是加州大学伯克利分校教授 斯图尔特·罗素，他是最著名的人工智能教材之一的合著者。
他的立场相当简单：如果我们创造出的系统能够比人类更高效地达成目标，却又无法保证它们的目标确实与我们的一致，问题就会出现。
尤其能说明问题的是，就连最大型AI公司的负责人也开始更加谨慎地发言。
Anthropic的负责人 达里奥·阿莫代 曾公开呼吁让前沿模型以更缓慢、更可控的方式发展，让安全方法能够跟上它们能力的步伐。他主张独立审查、共同标准和国际合作。
就连 萨姆·奥尔特曼，OpenAI的负责人，也多次谈到有必要对最强大的系统进行监管，并谈到人工智能的发展不应变成一场速度比安全更重要的竞赛。
Google DeepMind的负责人也表达过类似的想法， 戴密斯·哈萨比斯。最大型的AI公司越来越频繁地讨论对最严重风险进行控制的共同方法。
最终形成了一幅相当矛盾的图景。
辛顿、本吉奥、罗素、马斯克、沃兹尼亚克、赫拉利、阿莫代、奥尔特曼等人，在评估威胁的规模以及究竟需要多大程度地放慢发展方面，可能分歧很大。但他们在一点上是一致的：让超强人工智能完全不受规则约束，是个坏主意。
与此同时，也有严肃的怀疑者。
一些专家认为关于“人类终结”的谈论被严重夸大了，并提醒说，当前的系统仍然有许多局限。
另一些人则怀疑，大型AI公司乐于维持关于严格监管的讨论，因为这可能给规模较小的竞争对手制造麻烦。
因此，围绕这个话题正在进行非常严肃的争论，科学界并没有统一的意见。
但这一事实本身就值得注意：就在几年前，问题还是这样的：
“人工智能能做什么？”
如今人们越来越频繁地问另一个问题：
“而我们能否在它变得过于强大之前，来得及学会驾驭它？”
