超三千名顶级大佬齐呼吁:暂停超级智能研发 没有坚实证据确保安全
超三千名顶级大佬齐呼吁:暂停超级智能研发 没有坚实证据确保安全體育·APP,??兩儀生四象??現在下載安裝,周周送518。提供最全面專業的體育賽事直播點播、內容涵蓋世界杯、國足、NBA、CBA、籃球、歐冠、亞冠、英超、意甲、法甲、歐洲國家聯賽、歐洲杯、足球、綜合體育、等國內外重大賽事。
相關推薦: 1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.
10月26日消息,超千超级中美两国人工智能领域的名顶没顶尖专家和技术领袖联名发起一项呼吁,在科学界达成“安全可控开发超级智能的大坚实广泛共识”前,应暂停“超级智能”的佬齐研发。
这项倡议由非营利组织“未来生命研究所”发起,呼吁目前已获多位重量级人士签名支持,暂停智能证据包括人工智能先驱杰弗里·辛顿、确保苹果联合创始人史蒂夫·沃兹尼亚克、安全维珍集团董事长理查·布兰森、超千超级经济学家达龙·阿西莫格鲁,名顶没以及前美国国家安全顾问苏珊·赖斯。大坚实此外,佬齐哈里王子与夫人梅根、呼吁前政治顾问史蒂夫·班农等公众人物也参与联署。暂停智能证据
截至10月23日中午,确保联署人数已达3193人。中国学界亦有重要代表加入,包括中国科学院院士、图灵奖得主姚期智,清华大学讲席教授张亚勤,以及清华大学苏世民书院院长薛澜等。
所谓“超级智能”,指的是在所有认知任务上超越人类水平的人工智能形态。尽管目前大多数公司所研发的仍属于通用人工智能(AGI),但“超级智能”所预示的能力已引发业界普遍忧虑。
声明中指出,多家领先的AI企业正竞相投入超级智能的研发,这一趋势“引发了广泛担忧,包括人类在经济上被取代与边缘化、自由与公民权利受损、尊严与控制权丧失,乃至国家安全风险,甚至可能带来人类灭绝的极端威胁”。
当前,“超级智能”已成为AI领域的热词。从埃隆·马斯克的xAI到萨姆·奥特曼领导的OpenAI,多家机构正积极推进更先进的大语言模型研发。Meta甚至将其大语言模型部门直接命名为“Meta超级智能实验室”。
在这一背景下,科技界对人工智能发展的态度日益分化:一方视AI为推动社会进步的关键力量,主张自由发展;另一方则强调其潜在风险,呼吁加强监管。
值得注意的是,即便是马斯克、奥特曼等身处AI研发前沿的领军人物,过去也曾对超级智能的风险发出警告。例如,奥特曼在2015年的一篇博客中写道:“发展超人类机器智能可能是对人类持续存在的最大威胁。”
中国科学院计算技术研究所研究员曾毅指出,目前绝大多数企业所研发的仍属通用人工智能工具,并非真正意义上的超级智能。然而,超级智能所带来的风险目前在科学上仍无法有效控制。他特别提到,美国企业如Meta设立超级智能实验室,以及阿里巴巴等中国公司公开宣称研发超级智能,这些动向已超出通用人工智能工具的范畴,值得高度关注。

