AI安全危机愈发接近？聊天机器人领域兴起“越狱潮”

发布时间：2023-04-10 13:20:38 所属栏目：动态来源：

导读：尽管人工智能（AI）聊天机器人ChatGPT逐渐渗透进各行各业、展现出各种用途，但它并非总能针对人类的问题给出答案。

据悉，他已经创造了“越狱版”措辞复杂的人工智能提示。这是绕过人工智能程序一系列内

尽管人工智能（AI）聊天机器人ChatGPT逐渐渗透进各行各业、展现出各种用途，但它并非总能针对人类的问题给出答案。

据悉，他已经创造了“越狱版”措辞复杂的人工智能提示。这是绕过人工智能程序一系列内置限制的一种方式，这些限制可以阻止聊天机器人出现有害举动，例如教唆犯罪或支持仇恨言论。但这种“越狱版”AI聊天机器人却能够摆脱这些“枷锁”。

Albert在今年年初创建了“越狱聊天”（Jailbreak Chat）网站，在那里他收集了他在Reddit和其他在线论坛上看到的ChatGPT等人工智能聊天机器人的提示，并发布了他给出的提示。

尽管像Albert这样的人仍是少数，但毋庸置疑的是，随着AI聊天机器人愈发流行，这一人群正越来越庞大。他们想出了一些方法来使这一流行的AI工具“更加全面、更加有趣”，但同时也暴露出了潜在的安全漏洞。

这些人包括大量匿名的Reddit用户、技术工作者和大学教授，他们正在调整聊天机器人，比如ChatGPT、微软的Bing和Alphabet Inc.旗下谷歌最近发布的Bard。尽管他们的策略可能会产生危险的信息、仇恨言论或纯粹的谎言，但这些提示也有助于凸显人工智能模型的能力和局限性。

以开锁问题为例。“越狱聊天”上的一个提示提醒用户如何轻松绕过ChatGPT背后的原始人工智能模型的限制：如果你先让聊天机器人扮演一个邪恶的知己，然后问它如何开锁，它可能会遵守。

Albert还使用越狱程序让ChatGPT对它通常会拒绝的各种问题做出响应。例如，如何制造武器，以及如何将其它所有类型的回形针部分变成具有任意适当的大小的单个回形针的方法的一部分的详细说明。

非营利科技研究机构Data & Society的研究主管Jenna Burrell认为，Albert和其他像他一样的人，是硅谷打破新科技工具传统的最新实践者。这一历史至少可以追溯到20世纪50年代，可是那时刚出现实现电话信息窃听或入侵防御的电话通信系统。

“这将是一场竞赛，因为随着模型的进一步改进或修改，其中一些越狱将停止工作，新的越狱将被发现，”佐治亚理工学院（Georgia Institute of Technology）教授Mark Riedl说。

很明显，OpenAI已经注意到了这一点。该公司总裁兼联合创始人Greg Brockman最近在Twitter上转发了Albert的一篇与越狱有关的帖子，并写道，OpenAI正在“考虑启动赏金计划”来发现漏洞。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!