上千名科技界领袖罕见公开发声，想暂停研发人工智能，在害怕什么

发布时间：2023-03-30 14:09:36 所属栏目：外闻来源：

导读：随着人工智能技术在近年来的飞速发展，其在带来更多成果和可能性的同时，也引发了诸多科技领域人士对人类未来命运的担忧。据环球网报道，美国科研机构“未来生命研究所”发布了一封公开信，呼吁所有人工智

随着人工智能技术在近年来的飞速发展，其在带来更多成果和可能性的同时，也引发了诸多科技领域人士对人类未来命运的担忧。据环球网报道，美国科研机构“未来生命研究所”发布了一封公开信，呼吁所有人工智能实验室立即暂停开发比GPT-4更强大的人工智能系统。

Chat GPT被认为可以颠覆人类社会

这究竟是怎么一回事呢？近期，我们常常听到有关Chat GPT将颠覆人类社会的消息。这种新一代人工智能监视系统的创新性应用被人类学家视为一种具有前所未有的革命性意义，可与上世纪的互联网诞生相媲美。尤其是随着GPT在不断的训练中性能愈发成熟，外界认为，许多普通的白领和技术岗位在未来将会被替代或减少，这也引发了舆论对于“机器淘汰人类”的热烈讨论。

有人担忧人工智能或掌控世界

或许这会让人产生强烈的不真实感，但这的确有一定概率实现。“我们是否应该发展出最终可能比我们更聪明，并取代我们的非人类思维？我们要冒险失去对我们文明的控制吗？”这是信中向公众发出的两个疑问。在这方面，杰弗里·辛顿和马斯克都认为，“超级人工智能”最大的可能在于会对未来的人类社会生产生活构成严重威胁。

人工智能技术或取代人类

此外，除“超级人工智能”外，相对平庸的人工智能技术所带来的隐患，更是迫在眉睫，这其中就包括Chat GPT。相当一部分具有专业技术知识的人士想当然地认为，今天的人工智能工具可以帮助不法分子实施“犯罪活动”。

人工智能应处于人类可控状态下

在这种情况下，信中呼吁人工智能开发者与政府合作，加快发展强大的人工智能治理体系和新的监管机构，包括明确若AI系统对人类社会造成伤害，该如何进行处理和责任追究，以及需要适当的机构来应对这种潜在的重大经济和政治破坏等。在解决了这些问题后，科技界才可以继续开发更强大的人工智能系统。说白了，他们的意思就是人工智能技术必须时刻处于人类可控的状态中。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!