中国小康网03月30日讯老马埃隆·马斯克(ElonMusk)和一群人工智能专家和行业高管在一封公开信中呼吁暂停六个月开发比OpenAI新推出的GPT-4更强大的系统，理由是对社会的潜在风险。

(资料图片)

特斯拉老总马斯克出席论坛

路透社报道，本月早些时候，微软支持的OpenAI推出了其GPT（生成式预训练变压器）AI程序的第四次迭代，该程序通过让用户参与类似人类的对话、创作歌曲和总结冗长的文章而让用户惊叹不已。

未来生命研究所发布的信中说“只有当我们确信它们的影响将是积极的并且它们的风险将是可控的时候，才应该开发强大的人工智能系统”。

根据欧盟的透明度登记册，该非营利组织主要由马斯克基金会、总部位于伦敦的FoundersPledge集团和硅谷社区基金会资助。

马斯克本月早些时候说“人工智能让我压力山大”，他是行业领导者OpenAI的联合创始人之一，他拥有的汽车制造商特斯拉(TSLA.O)将AI用于自动驾驶系统。

马斯克对监管机构批评自动驾驶系统监管的努力表示失望，他已寻求监管机构确保人工智能的发展符合公众利益。

康奈尔大学数字和信息法教授詹姆斯·格里梅尔曼(JamesGrimmelmann)表示：“考虑到特斯拉一直在努力为其自动驾驶汽车中有缺陷的人工智能追究责任，埃隆·马斯克(ElonMusk)签署协议是非常虚伪的。”

“暂停是个好主意，但这封信含糊不清，没有认真对待监管问题。”

特斯拉上个月不得不召回超过362,000辆美国汽车来更新软件，此前美国监管机构表示驾驶员辅助系统可能会导致撞车，促使马斯克在推特上表示，“召回”一词用于无线软件更新是“不合时宜的，只是单词拼错了！”

OpenAI没有立即回应对这封公开信发表评论的请求，公开信敦促暂停高级AI开发，直到独立专家制定共享安全协议，并呼吁开发人员与政策制定者就治理问题进行合作。

“我们应该让机器用宣传和谎言充斥我们的信息渠道吗？……我们是否应该培养最终可能超过我们、智胜我们、过时并取代我们的非人类思维？”信中问道，“此类决定不得委托给未经选举的技术领导者。”

这封信由包括马斯克在内的1000多人签名。OpenAI的首席执行官SamAltman不在签署这封信的人之列，Alphabet和微软的首席执行官SundarPichai和SatyaNadella都不在签署者之列。

联合签署人包括StabilityAI首席执行官EmadMostaque、Alphabet旗下DeepMind的研究人员、AI重量级人物YoshuaBengio（通常被称为“AI教父”之一）和该领域研究的先驱StuartRussell。

随着ChatGPT因其对国家安全和教育的影响而引起美国国会的关注，这些担忧也随之而来。欧盟警察欧洲刑警组织周一警告称，该系统可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。