AI表现出“意识”，人类应该慌吗？

发布时间：2023-04-13 09:12:28 所属栏目：动态来源：

导读：未来生命研究所发表一封公开信，呼吁所有AI实验室立即暂停研发比GPT-4能力更强大的AI系统，时长至少为6个月。

这次发布的公开信指出，近几个月，全球人工智能实验室“陷入一场失控的竞争”，以开发更强

未来生命研究所发表一封公开信，呼吁所有AI实验室立即暂停研发比GPT-4能力更强大的AI系统，时长至少为6个月。

这次发布的公开信指出，近几个月，全球人工智能实验室“陷入一场失控的竞争”，以开发更强大的AI大模型，开发者乃至所有人都无法理解、预测或可靠控制这个AI系统。AI开发人员必须与政策制定者合作，以一个显著加快开发具有强大的通用型AI人工智能算法的治理人工智能系统。

搜狗创始人王小川正式投身AI大模型的竞赛，创办公司百川智能，并称“年底前发布对标GPT-3.5的大模型”。同一天，商汤科技公布“日日新SenseNova”模型体系。更早前，美团联合创始人王慧文创办光年之外。以ChatGPT为代表的大模型产品是否是AI发展的未来，又是否是通往通用人工智能的路径？面对人工智能的全面来袭，我们应该恐慌吗？

“让我们享受一个漫长的AI之夏，而不是毫无准备地陷入秋天。”公开信的结尾这样写道。公开信中，研究者们担心，AI生成的谎言将充斥信息渠道，自动化替代所有工作，进化中的AI未来可能会超越乃至取代人类的思维，甚至最终让人类社会失去对高度文明的自我意识的控制。

未来生命研究所是位于美国马萨诸塞州的非营利组织，致力于推动AI负责任地发展，2018年，这一组织曾让SpaceX创始人埃隆·马斯克、谷歌旗下AI实验室DeepMind等一众AI从业者与机构签字承诺，永不开发杀手机器人。这次公开信获得的签名支持，包括2018年图灵奖得主、“深度学习三巨头”之一的约书亚·本吉奥，“AI领域最好的教科书”《人工智能：现代方法》的联合作者斯图尔特·罗素，以及曾是微软OpenAI操作系统创始人的钢铁侠马斯克等。

中科院自动化研究所人工智能伦理与治理研究中心研究员曾毅也在公开信上签了名，他告诉《中国新闻周刊》，呼吁者最担心的两点，一方面，技术将对社会产生哪些潜在影响，人类对此还没有做好准备；另一方面，AI大模型生成的一些内容仍具有偏见和危害，不少高科技AI算法大模型在研究开发应用时缺乏伦理或者说是安全方面的框架。

近期，大模型开始被指控侵犯个人数据隐私。3月30日，韩国有媒体报道，三星内部发生三起涉及ChatGPT误用与滥用案例，包括两起“设备信息泄露”和一起“会议内容泄露”，三星公司担心，在ChatGPT输入内容后，可能会让敏感内容外泄。当地时间3月31日，意大利宣布禁止使用ChatGPT，起因是一周前，多名ChatGPT用户表示看到其他人与ChatGPT对话记录的标题。意大利官方认为，OpenAI没有提前告知、非法收集用户个人信息，对OpenAI立案调查，并要求公司作出回应。4月初，德国、爱尔兰、加拿大等国相继开始关注ChatGPT的数据安全问题。

这封公开信呼吁暂停对超过GPT-4能力的大模型的研发，换句话说，实际上目前我国绝大多数具备大数据模型人工智能的研发者并不会面临上述人工智能算法的挑战，OpenAI仍是众矢之的。

并非所有人都同意公开信的内容。当地时间3月30日，当前人工智能和机器学习领域最顶级的学者之一、谷歌大脑的缔造者吴恩达连发4条推特，表达反对意见，他认为呼吁暂停研发的行为是“一个可怕的想法”，围绕大模型开发过程中的透明度和审计方式，制定法规，才是更实用且有效的做法。当地时间4月7日，2018年图灵奖另一位得主、Meta首席科学家杨立昆在一场直播中表达了相似的观点，支持监管相关AI产品，但不应该监管研究和开发。

此前，OpenAI在相关AI伦理安全领域做了许多工作。媒体曾报道，OpenAI在非洲肯尼亚雇佣工人，对AI输出的暴力、性别歧视和种族主义言论进行标注，尽管这一做法被视为对当地人造成极大心理创伤，却能清洗不少大模型输出的有害数据。此外，GPT-4在2022年8月已完成训练，OpenAI对其安全风险进行了6个月调整，引入50多名专家测试，同时加入人类偏好训练提示、奖励模式等。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!