威胁人类文明?  马斯克等科技领袖呼吁停止人工智能“危险竞赛”


波士顿讯

特斯拉和SpaceX首席执行官马斯克(Elon Musk)、苹果公司共同创始人沃兹尼亚克(Steve Wozniak)、2020年总统参选人杨安泽(Andrew Yang)等数十位科技领袖29日发表公开信,呼吁所有人工智能(A.I.)实验室停止研发能与人类智慧竞争的人工智能系统。

在来自未来生命研究所(the Future of Life Institute)的上述公开信中,科技领袖们敦促人工智能实验室停止训练比GPT-4更为强大的语言模型。该模型被认为是最新的大型语言模型软件,由开放人工智能实验室(OpenAI)研发。

公开信称,“当代人工智能系统在一般任务方面,正变得像人类一样有竞争力,我们必须问我们自己:我们真要允许机器让我们的信息渠道充斥鼓吹性宣传和谎言吗?我们真得要让所有工作,包括有成就感的工作,自动化吗?我们应当开发最终可能在数量上超过我们、比我们聪明、让我们过时并代替我们的非人类大脑吗?我们真要冒失去对我们文明控制的风险吗?

Rose Hills 玫瑰岗纪念公园 福地 中文专线

科技领袖们表示,“这样的决定不应当由非民选的科技领袖来做出。“”应当立即停止比GPT-4更强大的人工智能研发,至少为期六个月。如果不能迅速停止,政府应该介入,并颁发暂停令。能与人类智慧竞争的人工智能系统“对社会和人性构成深远风险”,“所有研发都应集中于让今天的强大、先进系统变得更为准确、安全、可解释、透明、有活力、一致、可依赖、忠诚。”

GPT-4今年三月初发布,被认为远远比其前身GPT-3高级得多。ChatGPT(聊天生成预训练转换器)对用户提示作出像人类一样反应的能力令研究人员震惊。截至今年一月,ChatGPT在推出两个月的时间内即积累了一亿月活跃用户,成为历史上增长最快的客户应用程序。

该技术在互联网大量数据的基础上开发,已经被用于很多领域。然而,人工智能伦理学家们已对该技术被滥用表达关注,包括剽窃和虚假信息。

未来生命研究所位于麻萨诸塞州剑桥(Cambridge),系非盈利机构,致力于呼吁负责任及道义地开发人工智能,其创始人包括麻省理工大学宇宙学家泰格马克(Max Tegmark)和Skype共同创始人塔林(Jaan Tallinn)。

开放人工智能实验室(OpenAI)2015年由马斯克、阿尔特曼(Sam Altman)与其他几个人共同创办。该实验室从微软公司获得100亿美元的投资。微软已将OpenAI的自然语言处理技术用于其搜索引擎Bing,使其更具对话性。

马斯克2018年离开OpenAI董事会,且不再持有该公司股份。他此前已经说过,他认为人工智能对文明构成“最大风险”。他最近更数次抨击该公司,认为它正在背离其初衷。

谷歌公司也已宣布推出自己的对话人工智能产品Bard。

本網站內容嚴禁未經授權轉載、複製。本網站僅為一般訊息平台,所發內容不代表本站立場,不構成任何投資、購買、要約等建議,不對資料之完整性、精確性等作任何保證。

发表评论

Please enter your comment!
Please enter your name here