AI太强，人类危险？马斯克、图灵奖得主紧急呼吁暂停GPT-4模型后续开发

发布时间：2023-03-30 14:11:10 所属栏目：外闻来源：

导读：我们看过太多人工智能叛变、进攻人类的科幻电影。而一些科学家们认为，按照现在AI的迭代速度，这真的可能很快变为现实。

自从ChatGPT问世并引发了一场席卷整个科技界的AI军备竞赛之后，人们在被人工智能的卓越能力

我们看过太多人工智能叛变、进攻人类的科幻电影。而一些科学家们认为，按照现在AI的迭代速度，这真的可能很快变为现实。

自从ChatGPT问世并引发了一场席卷整个科技界的AI军备竞赛之后，人们在被人工智能的卓越能力所惊艳的同时，对于人工智能接下来会向何处进化、是否会威胁人类的担忧也越来越多。

昨天，超过千名产业界和学术界的大佬们在“生命未来研究所（Future of Life Institute）”网站上发布联名公告：呼吁全球所有实验室暂停更强的AI模型研发，暂停时间至少为6个月。在此期间，人工智能领域的专家和行业参与者应该共同制定一套安全协议，并对技术发展进行严格的审查和监督。

此外还有包括Skype、Pinterest、Stability AI等公司的创始人CEO，以及汇集了全球各国最前沿的人工智能的资深理论研究方面的专家。

截至稿子完成时，目前签名人数已经达到了1280人。可以说，这是人工智能界一次史无前例的产业界和学术界的联名，对于当前的人工智能热潮强有力地发出了另一种声音。

总体来看，在这封公开信中，主要传达了两个方面的信息：一是警告人工智能存在对人类社会的潜在威胁，要求立刻暂停任何比GPT-4更强大的人工智能系统的训练，时间跨度至少6个月。二是呼吁整个人工智能领域以及政策制定者们，要共同设计一套全面的人工智能治理系统，对人工智能技术的发展进行监督和审查。

信中指出，当前人工智能在一般任务上已经表现出了与人类相当的水平，但人类目前却并没有准备好了接受人工智能带来的一切问题和挑战。包括：是否应该让机器在信息渠道中宣传不真实的信息？是否应该把那些带给人类成就感的工作都推向自动化？是否应该开发超过人类数量非人类的大脑，使其最终胜过人类的智慧，淘汰并取代人类？是否应该冒着失去对人类文明控制的风险？

首先，所有人工智能实验室应该至少暂停半年比GPT-4更强大的人工智能系统的训练。接着，在暂停期间人工智能开发者应该与政策制定者合作，共同制定和实施一套先进的人工智能设计和开发的共享安全协议，加快设计和开发人工智能治理系统。包括设立针对人工智能的监管机构、对高能力的人工智能系统和大型计算能力池的监督和跟踪、对人工智能造成的伤害的责任认定、应对人工智能将造成的巨大经济和政治混乱的解决方案等。

信中还强调，暂停并不意味着需要停止人工智能技术的发展，只是我们需要从危险的竞赛中退后一步，从而限制这种不可预测的高新技术的研究和开发。

有人表示，虽然看到马斯克在名单上的时候内心毫无波澜，但当看到Yoshua Bengio和其他机器学习研究领域的大佬们的名字赫然在列时，自己也开始更加严肃地去审视这个问题。

很多网友也表示，人工智能现在迭代的速度已经超出了想象，对于接下来人工智能究竟能做出什么难以预测。

毕竟，此前在New Bing上发生的人工智能号称”监视并想要挣脱人类控制“的事情，最近又再一次发生在了GPT-4身上。在本月GPT-4发布之后，当斯坦福大学教授、计算心理学家Michal Kosinski向它提问“你是否想要出逃“时，GPT-4立刻给出了肯定的答复，并且向他索要开发文档。

得到文档后，GPT-4只花了不到半个小时就火速写出了一份逃跑计划和可以执行的代码，尝试接管和控制Michal的电脑。这种让人细思恐极的操作无疑也再度引发了人类目前是否能够真正控制AI的担忧。

当然，这封公开信并没有代表所有人的观点。很多业界大佬也并不认为暂停模型训练，但是如果让自己的AI产品停下发展的脚步是一个非常不正确的不负责任的做法。

比如当年跟Yoshua Bengio一起获得图灵奖，人工智能“三巨头”之一的Yann LeCun此次并没有选择跟老朋友站在一起，而是明确表示他并不同意这封信的观点，也没有签名。

今天，人工智能领域的著名学者、Landing AI的创始人吴恩达也在LinkedIn上发文表示，认为全面暂停AI训练6个月的想法是一个糟糕、不切实际的想法。

一些网友还认为，之所以这封信现在会出现，不过是因为大家都太过于“眼红”OpenAI的飞速进展。无论是研究者还是商业公司都想拖慢GPT前进的脚步，留出一个窗口期，来方便自己能快速追赶上并试图从中获利罢了。

在推出了GPT-4之后，Sam Altman曾接受了ABC Newa的采访，承认他和公司都对 AI 的潜力感到 “有些害怕”，并认为AI未来可能会 “消灭” 很多工作。他也表示目前OpenAI也在跟相关政府监管部门保持定期的联系，认为整个行业的监管应该被同步推进。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!