打着“开源”旗号的AI大模型，也许会有一些陷阱？

发布时间：2023-08-28 14:04:19 所属栏目：外闻来源：

导读：ChatGPT 的问世，让更多人开始有机会使用强大的人工智能（AI），但这个聊天机器人的内部真实运作机制仍是行业内一个长期以来未公开的秘密。

今年 5 月，有人泄露了 Meta 公司的“Llama”模型，让外界可

ChatGPT 的问世，让更多人开始有机会使用强大的人工智能（AI），但这个聊天机器人的内部真实运作机制仍是行业内一个长期以来未公开的秘密。

今年 5 月，有人泄露了 Meta 公司的“Llama”模型，让外界可以访问其底层代码以及决定其行为的模型权重等。今年 7 月，Meta 又推出了功能更强大的模型 Llama 2，声称供任何人下载、修改和重复使用。自此，Meta 的 Llama 系列模型成为了许多公司、研究人员和人工智能业余爱好者构建具有类似 ChatGPT 功能的工具和应用程序的基础。

“我们在世界各地拥有广泛的支持者，他们相信我们对当今人工智能的开放方法......研究人员致力于使用该模型进行研究，而科技界、学术界和政策部门的人们也和我们一样，看到了 Llama 和开放平台的好处，” Meta 在发布 Llama 2 时说。日前，Meta 也发布了另一个模型——Llama 2 Code，该模型针对编码进行了微调。

来自卡内基梅隆大学（Carnegie Mellon University）、AI Now 研究所（AI Now Institute）和 Signal 基金会（Signal Foundation）的研究团队，在一篇题为“Open (For Business): Big Tech, Concentrated Power, and the Political Economy of Open AI”的论文中，探讨了“Llama 2”和其他以某种方式“开源”的人工智能模型的现实情况。他们表示，打着“开源”旗号的模型可能会有一些“陷阱”。

据论文描述，尽管大多数Llama 2 可以毫无问题地免费下载、毫无限制地修改和安全部署，但它不在任何一个传统的开源操作系统的许可范围内。Meta 的许可证禁止使用 Llama 2 训练其他语言模型，如果开发者将 Llama 2 部署到每日用户超过 7 亿的应用程序或服务中，则需要特殊许可证。

这种程度的控制意味着 Llama 2 可以为 Meta 带来重大的技术和战略利益——例如，当外部公司在自己的应用程序中使用 Llama 2 模型时，Meta 可以从有益的调整中获益。

研究人员说，在普通开源许可下发布的模型，如非营利组织 EleutherAI 的 GPT Neo，开放程度更高。但这些项目很难与其它大型互联网公司在线下门店推出的开源模型进行竞争。

首先，训练高级模型所需的数据往往是保密的；其次，构建此类模型所需的软件框架通常由大公司控制，最流行的两个软件框架 TensorFlow 和 Pytorch 分别由谷歌和 Meta 维护；再者，训练大型人工智能模型所需的计算机能力也非一般开发人员或公司所能承担，通常一次训练需要数千万或数亿美元；最后，完善和改进这些模型所需的人力也大多是大公司才能获得的资源。

“我们的分析表明，（这种程度的）开源不仅不会使人工智能‘民主化’，” 该论文的作者之一 Meredith Whittaker 告诉《连线》（Wired），“事实上，公司和机构可以而且已经利用“开源”技术来巩固和扩大权力集中。”

Whittaker 补充说，开源应该成为亟需制定的人工智能法规的一个重要考虑因素，“我们确实亟需有意义的替代技术，来取代由大型垄断企业定义和主导的技术——尤其是当人工智能系统被整合到医疗、保健、金融、教育等具有特殊公共影响的高度敏感领域时。通过创造条件让这种不可持续的替代成为可能，是一个可以与发达经济体的反垄断改革等监管运动长期共存甚至得到其强有力的支持的项目。”

如果我们想了解最先进的人工智能模型有多大能力，并降低超级计算机的部署和进一步大规模地发展超级计算机可能带来的风险，那么美国最好向全世界的计算机科学家毫无保留地开放这些模型。

正如“隐晦式安全”（security through obscurity）永远无法真正保证代码的安全运行一样，对我们的强大的人工智能开发模型的正常的工作原理有意识地加以保护，也未必是目前为止一个最明智的无懈可击的做法。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!