提出暂停训练更强大AI后，麻省理工教授：不会用AI的人将被会用的人取代

发布时间：2023-06-10 14:38:22 所属栏目：外闻来源：

导读：今年3月底，在以ChatGPT为代表的大语言模型正如火如荼的时候，一家美国网站突然爆出一封名为“暂停巨型AI实验”的公开信，给这股大模型浪潮浇了一盆冷水。

更为引发关注的则是，特斯拉CEO埃隆·马

今年3月底，在以ChatGPT为代表的大语言模型正如火如荼的时候，一家美国网站突然爆出一封名为“暂停巨型AI实验”的公开信，给这股大模型浪潮浇了一盆冷水。

更为引发关注的则是，特斯拉CEO埃隆·马斯克（Elon Reeve Musk）、苹果联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、深度学习之父杰弗里·辛顿（Geoffrey Hinton）、图灵奖得主约书亚·本希奥（Yoshua Bengio）等上千名科技大佬均在这封信上签了字。

那么该如何控制人工智能，使其成为人类的助手而非对手？Max Tegmark认为，需要解决的主要问题有两个：一是如何使人工智能能真正地完成其主人想让它完成的任务，即对其问题；二是如何使各种机构的动机是将人工智能用于好的事情，而不是坏的事情。

同时，还要考虑竞争性的风险。如果某个组织开发出了高智能智能人工智能而其他人尚未准备好有效进行管理,那么它就可能面对一个全新的风险。因此必须确保在发展AI的过程中，所有的参与者都有共享的、明确的目标，那就是安全地使用AI，而不是仅仅追求速度。

Max Tegmark认为，在AI研究中需要在对其问题和竞争性问题之间找到一个平衡，让所有人共同参与并享受AI的好处，同时避免任何潜在的风险。“人工智能是一把双刃剑，它既有巨大的潜力帮助我们解决世界上最困难的问题，也可能带来无法预测的后果。我们必须谨慎地前进，确保安全、有效地利用这一强大的工具。”

对于Yann LeCun（杨立昆）认为大型语言模型缺乏世界模型的问题，Max Tegmark对此并不认同。他以机械可解释性的进步为例，认为机械是一个有趣且有前景的领域，且与神经科学相比，机械可解释性要简单得多。

面对清华大学讲席教授、智能产业研究院（AIR）院长张亚勤提出的人工智能与生命3.0阶段的问题，Max Tegmark认为，随着科技的发展,人类成为了自己的船长和自己命运的主人,由此诞生了生命3.0(即“阿盖特格里菲尔计划”)这一非常值得鼓励的想法。

在人工智能治理方面，Max Tegmark认为，目前为止，中国在AI监管方面所做的工作,可以说是最多的，欧洲大概排在第二位，美国排在第三位。

此外，面对人工智能人工智能大规模商用带来的对大学生就业市场的巨大冲击，Max Tegmark认为，年轻人需要重视基础知识，也需要关注整个人工智能领域正在发生的事情，因为在就业市场上，首先发生的不是人被机器取代，而是不使用人工智能的人将被使用人工智能的人取代。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!