特斯拉老总马斯克出席论坛

路透社报道，本月早些时候，微软支持的 OpenAI 推出了其 GPT（生成式预训练变压器）AI 程序的第四次迭代，该程序通过让用户参与类似人类的对话、创作歌曲和总结冗长的文章而让用户惊叹不已。

未来生命研究所发布的信中说“只有当我们确信它们的影响将是积极的并且它们的风险将是可控的时候，才应该开发强大的人工智能系统”。

根据欧盟的透明度登记册，该非营利组织主要由马斯克基金会、总部位于伦敦的 Founders Pledge 集团和硅谷社区基金会资助。

马斯克本月早些时候说“人工智能让我压力山大”，他是行业领导者 OpenAI 的联合创始人之一，他拥有的汽车制造商特斯拉(TSLA.O)将 AI 用于自动驾驶系统。

马斯克对监管机构批评自动驾驶系统监管的努力表示失望，他已寻求监管机构确保人工智能的发展符合公众利益。

康奈尔大学数字和信息法教授詹姆斯·格里梅尔曼 (James Grimmelmann) 表示：“考虑到特斯拉一直在努力为其自动驾驶汽车中有缺陷的人工智能追究责任，埃隆·马斯克 (Elon Musk) 签署协议是非常虚伪的。”

“暂停是个好主意，但这封信含糊不清，没有认真对待监管问题。”

特斯拉上个月不得不召回超过 362,000 辆美国汽车来更新软件，此前美国监管机构表示驾驶员辅助系统可能会导致撞车，促使马斯克在推特上表示，“召回”一词用于无线软件更新是“不合时宜的，只是单词拼错了！”

OpenAI 没有立即回应对这封公开信发表评论的请求，公开信敦促暂停高级 AI 开发，直到独立专家制定共享安全协议，并呼吁开发人员与政策制定者就治理问题进行合作。

“我们应该让机器用宣传和谎言充斥我们的信息渠道吗？……我们是否应该培养最终可能超过我们、智胜我们、过时并取代我们的非人类思维？”信中问道，“此类决定不得委托给未经选举的技术领导者。”

这封信由包括马斯克在内的 1000 多人签名。OpenAI 的首席执行官 Sam Altman 不在签署这封信的人之列，Alphabet 和微软的首席执行官 Sundar Pichai 和 Satya Nadella 都不在签署者之列。

联合签署人包括 Stability AI 首席执行官 Emad Mostaque、Alphabet 旗下 DeepMind 的研究人员、AI 重量级人物 Yoshua Bengio（通常被称为“AI 教父”之一）和该领域研究的先驱 Stuart Russell。

随着 ChatGPT 因其对国家安全和教育的影响而引起美国国会的关注，这些担忧也随之而来。欧盟警察欧洲刑警组织周一警告称，该系统可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。