使用 Amazon Bedrock 加速迁移投资组合评估 机器学习博客

加速云迁移投资组合评估

关键要点

云迁移应用程序评估往往耗时较长。利用 Amazon Bedrock 和生成 AI,可以简化并加速迁移评估。需要注意应用的准确性、一致性、以及设计的模块化。本文介绍了创建迁移助手应用的步骤和要求。

在进行需要迁移到云的应用程序投资组合评估时,通常是一个耗时的过程。尽管有 AWS 应用程序发现服务 和某种形式的 配置管理数据库,客户仍面临许多挑战。这些挑战包括与应用团队进行后续讨论以审查输出和理解依赖关系所需的时间每个应用程序约 2 小时,生成符合安全和合规要求的云架构设计所需的周期,以及选择适当的 AWS 服务和配置以优化应用程序在云中的性能所需的努力。通常,在实际应用程序迁移开始之前,完成这些任务需要 68 周的时间。

在本文中,我们将利用 生成 AI 和 Amazon Bedrock 的强大能力,帮助组织简化、加速和扩展迁移评估。Amazon Bedrock 是一项完全托管的服务,提供来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等领先 AI 公司的一系列高性能基础模型FMs,通过单一的 API 及一系列构建生成 AI 应用程序所需的能力,以确保安全、隐私和负责任的 AI。通过使用 Amazon Bedrock 代理、行动组,以及 Amazon Bedrock 知识库,我们展示了如何构建一个迁移助手应用,快速生成迁移计划、R 段和迁移到 AWS 的成本估算。这种方法使您能够扩展应用程序投资组合的发现,并显著加速规划阶段。

迁移助手的一般要求

在构建迁移助手时,应考虑以下几个关键要求。

准确性和一致性

您的迁移助手应用程序是否能够提供准确且一致的响应?

建议:为了确保迁移助手提供准确和一致的响应,建议实施 Amazon Bedrock 知识库。知识库应包含基于公司内部数据源的上下文信息。这使迁移助手能够利用 检索增强生成RAG,从而提高响应的准确性和一致性。您的知识库应包含多个数据源,包括:

数据源类型示例应用发现问卷的响应查看示例配置管理数据库CMDB或 AWS 应用发现代理 数据的输出查看示例迁移到 AWS 的最佳实践和白皮书迁移透视 AWS WellArchitected 框架,容器迁移方法任何特定于组织的指南、迁移模式或应用程序模式

处理幻觉

您如何减少迁移助手应用程序中大型语言模型LLM的幻觉?

建议:减少 LLM 中幻觉的策略包括实施几个关键策略。根据您的需求实现 定制提示,并结合高级提示技术来指导模型的推理并提供示例以获取更准确的响应。这些技术包括 思路链提示、零样本提示、多样本提示、少样本提示 和模型特定的提示工程指南请参见 Anthropic Claude 上的 Amazon Bedrock 提示工程指南。RAG 将信息检索与生成能力相结合,以增强上下文相关性并减少幻觉。最后,当在特定的数据集上微调 LLM 时,通过反馈循环或人类参与将有助于使响应与准确和相关的信息保持一致,从而减少错误和过期内容。

模块化设计

您的迁移助手设计是模块化的吗?

建议:使用 Amazon Bedrock 行动组 构建迁移助手应用程序,具有模块化设计,这样做有三个主要好处。

定制与适应性:行动组允许用户根据具体的 AWS 环境和需求定制迁移工作流。例如,如果用户要将 web 应用程序迁移到 AWS,他们可以定制迁移工作流,包括与 web 服务器设置、数据库迁移和网络配置相关的特定操作。这种定制确保迁移过程符合所迁移应用程序的独特需求。维护与故障排除:通过将问题隔离到单个组件,简化了维护和故障排除任务。例如,如果在迁移工作流中的数据库迁移操作上出现问题,则可以独立解决,而不会影响其他组件。这种隔离简化了故障排除过程,并最小化了对整体迁移操作的影响,确保迁移更加平稳,问题可以更快速地解决。可扩展性和重用性:促进在不同 AWS 迁移项目中的可扩展性和重用性。例如,如果用户成功使用一组模块化的行动组将应用程序迁移到 AWS,他们可以重用相同的行动组来迁移其他具有相似需求的应用程序。这种重用节省了在开发新迁移工作流时的时间和精力,并确保多个迁移项目的一致性。此外,模块化设计通过允许用户根据工作负载需求水平提升或降低迁移操作来简化可扩展性。例如,如果他们需要迁移需要更多资源的较大应用程序,他们可以轻松通过添加更多相关行动组的实例来扩展迁移工作流,而无需从头重新设计整个工作流。

解决方案概述

在深入部署之前,让我们了解将要建立的架构的关键步骤,如图 1 所示。

使用 Amazon Bedrock 加速迁移投资组合评估 机器学习博客

用户通过 Amazon Bedrock 聊天控制台与迁移助手进行交互,输入他们的请求。例如,用户可能请求 生成 R 段及成本估算 或 生成特定应用程序 ID例如 A1CRM 或 A2CMDB的迁移计划。使用 Amazon Bedrock 代理配置的迁移助手包含指令、行动组和知识库。当处理用户请求时,迁移助手会调用相关的行动组,例如 R 段 和 迁移计划,这些又依次调用特定的 AWS Lambda。Lambda 函数使用 RAG 处理请求,以生成所需的输出。结果输出文档包含成本估算的 R 段 和 迁移计划随后上传到指定的 Amazon 简单存储服务 (Amazon S3)。

下面的图像是用户与迁移助手的示例交互截图。

蓝鲸加速器苹果版

先决条件

您应具备以下条件:

理解 Amazon Bedrock 代理、提示工程、Amazon Bedrock 知识库、Lambda 函数 和 AWS 身份与访问管理 (IAM)。熟悉基本的云迁移概念,包括 应用发现 和 迁移策略。拥有一个具有适当 IAM 权限的 AWS 账户,以便创建 Amazon Bedrock 代理和知识库、Lambda 函数和 IAM 角色。访问 Amazon Bedrock 模型。有关更多信息,请参阅 模型访问。访问 创建和配置 Amazon 简单存储服务 (S3) 桶,这些桶将用于存储生成的迁移计划和其他输出。创建 服务角色 用于 Amazon Bedrock 代理。

部署步骤

配置知识库:打开 Amazon Bedrock 的 AWS 管理控制台,导航到 Amazon Bedrock 知识库。选择 创建知识库,输入名称和可选描述。选择向量数据库例如, Amazon OpenSearch 无服务器。选择嵌入模型例如,Amazon Titan 嵌入 G1 文本。添加数据源:对于 Amazon S3:指定 S3 桶和前缀、文件类型和分块配置。对于自定义数据:使用 API 进行程序化数据摄取。审核并创建知识库。设置 Amazon Bedrock 代理:在 Amazon Bedrock 控制台中,转到 代理 部分,选择 创建代理。输入代理的名称和可选描述。选择基础模型例如,Anthropic Claude V3。配置代理的 AWS 身份与访问管理 (IAM) 角色以授予必要的权限。添加 指令 来指导代理的行为。可选地,将之前创建的 Amazon Bedrock 知识库添加以增强代理的响应。配置其他设置,如最大令牌和温度。审核并创建代理。配置代理的行动组:在代理的配置页面上,导航到 行动组。选择 添加行动组,为每个必要组例如,创建 R 段评估和创建迁移计划添加。对于每个行动组:输入名称和描述。定义 API 架构,根据 OpenAPI 30 规范详细说明端点及期望的请求和响应格式。创建并关联 Lambda 函数 来处理该行动的逻辑。请参见 创建 R 段评估 和 创建迁移计划 行动组的示例 Lambda 逻辑。用适当的权限和环境变量配置 Lambda 函数。使用提供的测试控制台测试行动组以确保其正确功能。添加所有行动组后,审核整个代理配置并部署代理。

清理

为了避免不必要的费用,请删除在测试期间创建的资源。使用以下步骤清理资源:

删除 Amazon Bedrock 知识库:打开 Amazon Bedrock 控制台。从与之关联的代理中删除知识库。从左侧导航窗格选择 代理。选择您要删除知识库的代理的 名称。将出现红色横幅警告您必须删除知识库的引用,这已经不存在于代理中。选择您要移除的知识库旁的单选按钮。选择 更多,然后选择 删除。从左侧导航窗格选择 知识库。要删除一个源,请选择源旁的单选按钮并选择 删除,或选择源的 名称,然后在详情页面右上角选择 删除。审核删除知识库的警告。如果您接受这些条件,请在输入框中输入删除,然后选择 删除 确认。删除代理在 Amazon Bedrock 控制台中,从左侧导航窗格选择 代理。选择要删除的代理旁的单选按钮。将出现一个弹出窗口,警告您删除的后果。在输入框中输入删除并选择 删除 确认。一个蓝色横幅出现,通知您代理正在被删除。当删除完成后,一个绿色的成功横幅将出现。删除所有其他资源,包括 Lambda 函数和任何用于账户定制的 AWS 服务。

结论

进行 AWS 云迁移的应用程序投资组合评估是一个耗时的过程,需要分析来自各种来源的数据、进行发现和设计讨论以开发 AWS 云架构设计和成本估算。

在本文中,我们展示了如何通过使用生成 AI 和 Amazon Bedrock 来简化、加速和扩展迁移评估。我们展示了如何利用 Amazon Bedrock 代理、行动组和 Amazon Bedrock 知识库构建一个迁移助手应用,该应用可以生成迁移计划、R 段和成本估算。这种方法显著减少了投资组合评估所需的时间和精力,帮助组织加快向 AWS 云的过渡。

您准备好利用 Amazon Bedrock 中的生成 AI 改进云迁移流程了吗?可以先探索 Amazon Bedrock 用户指南,了解如何简化您组织的云旅程。如需进一步的帮助和专业知识,考虑使用 AWS 专业服务联系销售帮助您简化云迁移旅程,并最大化 Amazon Bedrock 的优点。

关于作者

EbbeyThomas 是 AWS 的高级云架构师,专注于利用生成 AI 提升云基础设施自动化和加速迁移。在 AWS 专业服务的角色中,Ebbey 设计并实现解决方案,以提高云采用的速度和效率,同时确保 AWS 用户的安全和可扩展操作。他因解决复杂的云挑战并为客户带来切实的结果而闻名。Ebbey 拥有纽约州立大学双料学位,计算机工程学士学位和信息系统硕士学位。

ShivaVaidyanathan 是 AWS 的首席云架构师,致力于为客户提供技术指导,设计和领导实施项目,确保他们在 AWS 上的成功。他致力于简化所有人的云网络。加入 AWS 之前,Shiva 参与了多个 NSF

启用生产级生成式人工智能:新功能降低成本、简化生产并提升安全性 机器学习博客
启用生产级生成式人工智能:新功能降低成本、简化生产并提升安全性 机器学习博客

实现生产级生成AI:新能力降低成本、简化生产流程与提升安全性关键要点生成AI的转变:从概念验证POC到实际生产,企业与消费者的数据互动发生了重大变化。生产价值提升:进入“第二幕”,许多POC实现商业价值。新技术堆栈:AWS 提供多层服务,支持企业高效构建生成AI应用。基础设施优化:Amazon Sa...