云架构中加入生成式AI的几点想法

发布时间：2023-09-13 13:37:59 所属栏目：外闻来源：

导读：从数据可用性、安全性到模型选择和监控，生成式AI的加入便意味着要重新审视云架构。所以，如果在构建一个云架构同时也在设计生成式AI驱动的系统。你需要做哪些不一样的改变？还需要做什么？目前出现了哪些最佳做法？

从数据可用性、安全性到模型选择和监控，生成式AI的加入便意味着要重新审视云架构。所以，如果在构建一个云架构同时也在设计生成式AI驱动的系统。你需要做哪些不一样的改变？还需要做什么？目前出现了哪些最佳做法？结合过去20年的经验，以下是作者给出的一些建议，整理如下，望诸位有所启发。

1、理解你的用理
明确定义云架构中生成人工智能的目的和目标。如果我反复看到任何错误，那就是没有理解商业系统中生成人工智能的含义。了解您的目标是实现什么，无论是内容生成、推荐系统还是其他应用程序。这意味着写下内容，并就目标、如何实现目标以及最重要的是如何定义成功达成共识。这对于生成人工智能来说并不新鲜；这是赢得每一次迁移和构建在云中的全新系统的一步。

2、数据来源和质量是关键
如果要识别生成人工智能模型训练和推理信息所需的数据源。那么这个数据必须至少是可访问的、而且是高质量的，并经过专业人员的仔细管理。您还必须确保云存储解决方案的可用性和兼容性。生成型人工智能系统高度以数据为中心。我称之为面向数据的系统；数据是推动生成性人工智能系统产生结果的燃料。垃圾进，垃圾出。

3、数据安全和隐私
正如数据很重要一样，应用于数据的安全性和隐私性也很重要。人工智能的生成处理可以将看似毫无意义的数据转化为可以暴露敏感信息的数据。

4、可扩展性和推理资源
规划可扩展的云资源，以适应不同的工作负载和数据处理需求。大多数公司都考虑自动扩展和负载平衡解决方案。我看到的一个更重大的错误是构建规模良好但成本高昂的系统。

5、考虑模型的选型
根据您的具体用例和需求，选择示例性的生成AI架构（通用对抗性网络、转换器等）。考虑用于模型培训的云服务，如AWS SageMaker和其他服务，并找到优化的解决方案。这也意味着要理解你可能有许多相互关联的模型，这将是常态。

6、监控和日志记录
设置监控和日志系统以跟踪AI模型性能、资源利用率和潜在问题不是可选的。建立较为警报机制，以及为处理云中生成人为智能而创建的可观察性功能。

7、其他考虑
需要故障切换和冗余来确保高可用性，灾难恢复计划可以在系统故障时最大限度地减少停机时间和数据丢失。必要时实施冗余。此外，定期审计和评估云基础设施内生成人工智能系统的安全性。解决漏洞并保持合规性。

无论你是否使用生成人工智能，云计算架构的其他方面都是一样的。这里的关键是要清醒的意识到，有些事情要重要得多，我们需要更加严格，而且每个人总有需要改进的空间。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!