马斯克等千人集体签署公开信:暂停开发 AI系统至少半年

发布时间：2023-03-30 14:15:33 所属栏目：外闻来源：

导读：美剧《西部世界》和好莱坞电影《终结者》里曾描绘，人工智能（AI）的“觉醒”可能危及人类。最近，科幻片中的担忧照进现实，有不少人工智能业界“大佬”突然呼吁暂停开发更强大的AI系统，提出具

美剧《西部世界》和好莱坞电影《终结者》里曾描绘，人工智能（AI）的“觉醒”可能危及人类。最近，科幻片中的担忧照进现实，有不少人工智能业界“大佬”突然呼吁暂停开发更强大的AI系统，提出具有人类水平智能的AI系统可能“对社会和人类构成潜在风险”。

这封发布在非营利性组织“未来生命研究所”（Future of Life Institute）网站上的公开信主张，在开发强大的AI系统之前，应先确认其带来的影响是积极的、风险是可控的。

公开信指出，如果不能迅速实施此类暂停，政府应当介入并采取措施。此外，“AI实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级AI设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督”。

信中还呼吁开发人员和政策制定者合作，大幅加快强大的AI治理系统的开发。这其中至少应当涉及监管机构、审计和认证系统、监督和追踪高性能AI系统、人工智能造成伤害后的责任问题、为AI技术安全研究提供公共资金等方面。

从这些内容中不难看出，比起技术公开信的支持者更在意的，是人工智能可能出现的“野蛮生长”，以及它的跨界融合发展过程中可能带来的社会和道德伦理方面的难题。

纽约大学教授马库斯认为，“这封信并不完美，但精神是正确的”，他认为，人们需要放慢脚步，直到我们能够更好地理解这些行为所带来的后果。

目前，该公开信已获上千人签署，其中不乏开源人工智能公司Stability AI首席执行官莫斯塔克、谷歌母公司Alphabet旗下人工智能企业DeepMind研究人员、计算机科学家罗素等专家学者和科技公司高管。

路透社还称，欧洲刑警组织日前也表达了对ChatGPT等先进人工智能在伦理和法律方面的担忧，警告此类系统可能会被滥用于网络钓鱼、虚假信息和网络犯罪。此外，英国政府也公布了关于建立AI监管框架的提议。。但是，在这个过程中，人工智能的发展仍然面临许多挑战。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!