埃森哲使用 Amazon Q Business 创建定制的记忆持久性对话用户体验 机器学习博客

安永通过 Amazon Q Business 打造定制的持久记忆对话用户体验

关键要点

背景：传统信息检索过程耗时且繁琐。创新思路：使用对话型人工智能AI和 Amazon Q Business 来优化信息检索。解决方案：Accenture 利用 Amazon Q Business 实现了具备持久记忆功能的智能聊天机器人。用户体验：无缝的对话流和上下文追踪提升了用户的使用效率和交流质量。架构：通过灵活的开发工作流，使企业能够高效整合自动化解决方案。

在传统的信息检索过程中，查找文档中的相关信息常常是一个耗时且令人沮丧的过程。手动查看大量文本、搜索特定细节并将信息整理成连贯的摘要，这项艰巨的任务不仅低效，而且有错过文档中重要见解的风险。

以一个电话中心的客服为例，他们需要迅速分析多份文档，以提供客户的摘要。在以往，这个过程需要费时费力地逐一浏览每份文档，且容易出现人为错误。

随着对话型人工智能AI技术的兴起，用户现在可以通过直观的界面上传文档，并发起与聊天机器人的对话，提出与其问题相关的具体问题。聊天机器人会分析上传的文档，利用先进的自然语言处理NLP和机器学习ML技术，根据用户的提问提供量身定制的全面摘要。

真正的优势在于聊天机器人能够在整个对话中保持上下文。随着用户的进一步提问，聊天机器人会记住之前的互动，使用户能够随时回顾以往的讨论并提取所需的具体细节。这种无缝体验确保用户能毫不费力地深入探讨文档内容，同时保持对话的连贯性。

Amazon Q Business 是一款基于生成性 AI 的助手，它能够回答问题、提供摘要、生成内容，并安全地完成基于企业系统中数据和信息的任务。这增强了员工的创造力、数据驱动能力、效率、准备程度和生产力。

本篇文章展示了 Accenture 如何使用 Amazon Q Business 实现一个聊天机器人应用程序，提供简洁的附件和对话 ID 管理。该解决方案可以加速开发工作流，并且可在不增加应用程序代码负担的情况下使用。

“Amazon Q Business 通过与多种数据源无缝集成，提供个性化的 AI 助手。它提供准确且上下文特定的响应，这与基础模型通常需要复杂设置以实现相似水平的个性化形成鲜明对比。Amazon Q Business 实时的定制解决方案推动了企业环境中的决策制定和运营效率，使其在提供可立即采取的见解方面表现优异。”

Dominik Juran Cloud Architect Accenture

解决方案概述

在这个案例中，一家保险提供商使用基于检索增强生成RAG的语言模型LLM来高效地上传和比较保单文档。保单文档经过预处理和存储，系统根据输入查询检索相关部分。这提高了保单比较的准确性、透明度和速度，确保客户获得最佳的保险选择。

该解决方案增强了 Amazon Q Business 应用程序的持久记忆和上下文追踪功能。当用户提出后续问题时，Amazon Q Business 可以不断优化响应，同时回忆起之前的互动。这保持了在深入询问时的对话流畅。

此用例的核心是为 Amazon Q Business 创建一个自定义 Python 类，简化该解决方案的开发工作流。这个类提供强大的文档管理功能，跟踪已在对话中分享的附件和上传到 Streamlit 应用程序的新内容。此外，它保持内部状态以持久化对话 ID，以便进行未来的互动，提供无缝的用户体验。

该解决方案涉及使用 Streamlit、Python 和 AWS 服务开发 Web 应用程序，设置一个聊天界面，用户可以在其中与 AI 助手互动，以提问或上传 PDF 文档进行分析。在后台，应用程序使用 Amazon Q Business 进行对话历史管理、知识库向量化、上下文创建和 NLP。这些技术的整合实现了用户与 AI 助手之间的无缝通信，支持文档摘要、问答以及基于实时附加文档的多份文档比较等任务。

工作流步骤

该解决方案的工作流程包括以下步骤：

LLM 包装应用程序代码通过 AWS CodePipeline 容器化。应用程序部署到 Amazon Elastic Container Service。用户通过 Amazon Cognito UI 进行身份验证。在 Amazon ECS 上运行的 Streamlit 应用程序接收经过身份验证的用户请求。启动自定义 AmazonQ 类的实例。附加到 Streamlit 状态的文档被传递给 AmazonQ 实例，跟踪已附加和未共享文档的差异。包装的 Python 类解析并返回相应答案。Amazon ECS 向经过身份验证的用户提供答案。

部署解决方案

部署过程包括配置 AWS 基础设施、设置环境变量以及应用程序代码的部署。此过程使用 AWS 服务如 CodePipeline 和 Amazon ECS 进行容器编排，结合 Amazon Q Business 进行 NPL。

需要注意的是，此解决方案需注册 AWS 账户，并在环境中安装 Python 及所有必要的库，如 boto3。确保安装 Streamlit 库以支持 Python。

解决方案的优势

此解决方案提供以下优势：

效率：自动化提升生产力，通过优化文档分析节省时间。准确性：先进技术提供精确的数据提取和解析，减少错误。用户友好体验：直观界面和对话设计使其对所有用户可及，鼓励采用。

通过集装箱化架构，解决方案能够无缝扩展，同时优化请求吞吐量。持久的对话状态增强了精准度，一直扩展对话上下文。总体而言，此解决方案能够帮助您在保持性能的同时，提供一个具备持久记忆、上下文感知的 AI 助手。

清理工作

在部署后，建议实施彻底的清理计划，以维护资源管理的高效，并减少不必要的费用，特别是与 AWS 服务相关的费用，可以考虑以下步骤：

魔方加速器免费版删除 AWS 资源：识别并删除任何未使用的 AWS 资源，如 EC2 实例、ECS 集群等。删除 CodeCommit 存储库：去除任何未使用的 CodeCommit 存储库，保持整洁的存储库列表。回顾与调整 CodePipeline 配置：确保没有与已部署应用程序关联的活动管道。评估 Amazon Cognito 用户池：调整配置以优化成本并符合应用程序的用户管理要求。

通过实施这些清理步骤，可以有效降低开支，优化资源使用，并保持未来开发迭代或部署的整洁环境。

结论

本篇文章展示了 Accenture 如何利用 AWS 生成性 AI 服务创建定制的持久记忆对话助手。此解决方案能够支持客户开发大规模的端到端对话型持久聊天机器人应用程序，遵循所提供的架构实践和指南。

如需了解有关在 AWS 上使用 Amazon Bedrock 或 Amazon Q Business 的更多信息，推荐以下资源：

生成性 AI 工具和服务Amazon Bedrock 研讨会Amazon Q Business 正式上线，助力提升生成性 AI 工作力