OpenAI创始人领衔，超过350位AI大佬联名呼吁：AI堪比“疫情和核战争”，可能灭绝人类

【资料图】

文章来源：华尔街见闻

谷歌DeepMind和Anthropic CEO，以及图灵奖获得者都签署了这封联名信。

AI风头正盛，科技圈再次流出了一封重磅公开信。

当地时间5月30日，非营利组织“人工智能安全中心”（Center for AI Safety）在其官网发布一封联名公开信，称这一堪比“疫情和核战争”的技术或对人类构成生存威胁。

整个声明只有一句话，22个单词：

减轻AI（给人类）带来的灭绝风险应成为全球性的优先事项，与大流行病及核战争等其他影响社会的大规模风险处于同等级别。

目前已有350位AI大佬签署了这封联名公开信，包括OpenAI首席执行官Sam Altman、谷歌DeepMind首席执行官Demis Hassabis和Anthropic首席执行官DarioAmode三大AI公司掌门人。

值得一提的是，图灵奖获得者、被誉为人工智能“教父”的Geoffrey Hinton和Yoshua Bengio也赫然在列。名单里也不乏中国学者的身影，包括中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤，中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅，清华大学副教授詹仙园。

其他签署人还包括微软首席技术官KevinScott，前联合国裁军事务高级代表Angela Kane，Skype联合创始人JaanTallinn，Quora首席执行官Adam D‘Angelo。

他们表示，虽然公众一直在承认人工智能的风险，但还有更多挑战需要讨论。他们还想“为越来越多的专家和公众人物创造共同知识，他们也认真对待先进人工智能领域存在的一些最严重的风险”。

自去年ChatGPT发布以来，科技行业掀起了一场竞争激烈的AI竞赛，同时也引发公众对于这项未知技术的恐惧。

今年3月份，Bengio、马斯克、苹果联合创始人Steve Wozniak、Stability AI创始人Emad Mostaque等科技大佬发表联名公开信，呼吁暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。

信中提到：

我们不应该冒着失去对文明控制的风险，将决定委托给未经选举的技术领袖。只有当确保强大的人工智能系统的效果是积极的，其风险是可控的才能继续开发。

拜登政府近几个月表示，人工智能对公共安全、隐私和民主构成威胁，但政府对其监管的权力有限。微软创始人比尔·盖茨曾表示，他认为人工智能应该受到适当监管，但对这项技术表示兴奋，他没有签署周二的联名信。

风险提示及免责条款

市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。

关键词：