官方网站-首页

【导语】10月22日，由未来生命研究所发起，中美等多国人工智能领域顶尖专家、科技领袖及知名人士共3193人联名签署声明，呼吁在达成“安全可控开发超级智能的广泛共识”前暂停相关研发，中国学者姚期智、张亚勤等在列。声明指出，超级智能前景引发业界对人类安全等多方面担忧，目前尚无(wú)确(què)保(bǎo)其(qí)安全的确切方法。

10月22日，中美两国人工智能领域的顶尖专家和技术领袖联名发起一项呼吁，在科学界达成“安全可控开发超级智能的广泛共识”前，应暂停“超(chāo)级(jí)智(zhì)能(néng)”的(de)研(yán)发(fā)。

中(zhōng)外(wài)顶(dǐng)尖(jiān)科(kē)技(jì)专(zhuān)家(jiā)联(lián)名签(qiān)署(shǔ)情(qíng)况(kuàng)

该(gāi)声(shēng)明由非营利组织未来生命研究所发起，包括人工智能先驱杰弗里·辛顿（Geoffrey Hinton）、苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、维珍集团董事长理查·布兰森（Richard Branson）、经济学家达龙·阿西莫格鲁（Daron Acemoglu）以及前美国国家安全顾问苏珊·赖斯（Susan Rice），都参与了签名。

值得一提的是，哈里王子及其妻(qī)子(zi)梅(méi)根(gēn)、萨(sà)塞(sāi)克(kè)斯(sī)公(gōng)爵(jué)和(hé)公(gōng)爵(jué)夫(fu)人(rén)、史(shǐ)蒂(dì)夫(fu)·班(bān)农(nóng)（Steve Bannon）和(hé)等(děng)知(zhī)名人(rén)士(shì)也(yě)参(cān)与(yǔ)了(le)联(lián)合(hé)签(qiān)署(shǔ)声(shēng)明(míng)。

截(jié)至(zhì)10月(yuè)23日(rì)中(zhōng)午(wǔ)，这份声明的签署人数已经达3193人。中国科学院院士、图灵奖得主姚期智、清华大学智能科学讲席教授、智能产业研究院院长张亚勤，以及清华大学战略与安全研究中心学术委员、苏世民书院院长薛澜等中国学者也位列其中。

声明 来源：官网截图

“超级智能”是一种在所有(yǒu)认(rèn)知(zhī)任(rèn)务(wu)上(shàng)都(dōu)超(chāo)过(guò)人(rén)类(lèi)的人工智能形式。有别于当下绝大多数公司研发通用人工智能，“超级智能”的前景引发业界担忧。该声明称，许多顶尖AI企业将要打造超级智能，“引起了人们的担忧，从人类经济过时和被剥夺权力、自由、公民自由、尊严和控制的丧失，到国家安全风险，甚至潜在的人类灭绝。”

参与这一呼吁的北京前瞻人工智能安全与治理研究院院长，中国科学院自动化研究所研究员曾毅告诉澎湃科技（www.thepaper.cn），目前我们还没(méi)有(yǒu)坚(jiān)实(shí)的(de)科(kē)学证据和切实可行的方法来确保超级智能的安全，使其不会给人类带来灾难性的风险。世界尚未准备好迎接不是可控工具的超级智能。

当前，超级智能已成为人工智能领域的热门词汇。从埃隆·马斯克（Elon Musk）的xAI到萨姆·奥特曼（Sam Altman）的OpenAI等公司都在竞相推出更先进的大语言模型。Meta甚至将其LLM部门命名为“Meta超级智能实验室”。

科技界的人们对人工智能的看法越来越两极分化：一方认为它是推动社会进步的强大力量，理应不受限制地发展；另一方则担忧其潜在风险，主张加强监管。

然而，即使是马斯克和奥特曼等世界领先人工智能公司的领导人，过去也曾警告过超级智能的危险。在担任OpenAI首席执行官之前，奥特曼在2015年的一篇博客文章中写道：“发展超人类机器智能（SMI）可能是对人类持续存在的最大威胁。”

曾毅认为，绝大多数公司研发的只是通用人工智能工具，这并不是超级智能。但是超级智能的风险是并没有科学依据可以控制的。美国企业，例如Meta建立超级智能实验室，以及阿里声称的开发超级智能，这并不只是通用人工智能工具。

澎湃科技注意到，据《纽约时报》报道，10月22日联合声明发布当天，Meta在超级智能实验室裁员 600人。该部门拥有约 3000 名员工，他们被授权开发“超级智能”，即超越人脑的人工智能。

Ｍeta新任首席人工智能官亚历山大·王 （Alexandr Wang）表示，裁员旨在清理因三年来过快建立Meta人工智能工作而导致的组织臃肿，从而帮助Meta更快地开发人工智能产品。Meta高管强调，裁员并不意味着他们正在缩减人工智能方面的工作，超级智能仍然是扎克伯格公司的首要任务之一。