波士顿讯
特斯拉和SpaceX首席执行官马斯克(Elon Musk)、苹果公司共同创始人沃兹尼亚克(Steve Wozniak)、2020年总统参选人杨安泽(Andrew Yang)等数十位科技领袖29日发表公开信,呼吁所有人工智能(A.I.)实验室停止研发能与人类智慧竞争的人工智能系统。
在来自未来生命研究所(the Future of Life Institute)的上述公开信中,科技领袖们敦促人工智能实验室停止训练比GPT-4更为强大的语言模型。该模型被认为是最新的大型语言模型软件,由开放人工智能实验室(OpenAI)研发。
公开信称,“当代人工智能系统在一般任务方面,正变得像人类一样有竞争力,我们必须问我们自己:我们真要允许机器让我们的信息渠道充斥鼓吹性宣传和谎言吗?我们真得要让所有工作,包括有成就感的工作,自动化吗?我们应当开发最终可能在数量上超过我们、比我们聪明、让我们过时并代替我们的非人类大脑吗?我们真要冒失去对我们文明控制的风险吗?
科技领袖们表示,“这样的决定不应当由非民选的科技领袖来做出。“”应当立即停止比GPT-4更强大的人工智能研发,至少为期六个月。如果不能迅速停止,政府应该介入,并颁发暂停令。能与人类智慧竞争的人工智能系统“对社会和人性构成深远风险”,“所有研发都应集中于让今天的强大、先进系统变得更为准确、安全、可解释、透明、有活力、一致、可依赖、忠诚。”
GPT-4今年三月初发布,被认为远远比其前身GPT-3高级得多。ChatGPT(聊天生成预训练转换器)对用户提示作出像人类一样反应的能力令研究人员震惊。截至今年一月,ChatGPT在推出两个月的时间内即积累了一亿月活跃用户,成为历史上增长最快的客户应用程序。
该技术在互联网大量数据的基础上开发,已经被用于很多领域。然而,人工智能伦理学家们已对该技术被滥用表达关注,包括剽窃和虚假信息。
未来生命研究所位于麻萨诸塞州剑桥(Cambridge),系非盈利机构,致力于呼吁负责任及道义地开发人工智能,其创始人包括麻省理工大学宇宙学家泰格马克(Max Tegmark)和Skype共同创始人塔林(Jaan Tallinn)。
开放人工智能实验室(OpenAI)2015年由马斯克、阿尔特曼(Sam Altman)与其他几个人共同创办。该实验室从微软公司获得100亿美元的投资。微软已将OpenAI的自然语言处理技术用于其搜索引擎Bing,使其更具对话性。
马斯克2018年离开OpenAI董事会,且不再持有该公司股份。他此前已经说过,他认为人工智能对文明构成“最大风险”。他最近更数次抨击该公司,认为它正在背离其初衷。
谷歌公司也已宣布推出自己的对话人工智能产品Bard。