网站模板文件在哪里下载,公司做网站推广要注意什么,ps如何做网页,织梦网站手机端当下#xff0c;AI Agent代理是一种全新的构建动态和复杂业务场景工作流的方式#xff0c;利用大语言模型#xff08;LLM#xff09;作为推理引擎。这些Agent代理应用能够将复杂的自然语言查询任务分解为多个可执行步骤#xff0c;并结合迭代反馈循环和自省机制#xff0…当下AI Agent代理是一种全新的构建动态和复杂业务场景工作流的方式利用大语言模型LLM作为推理引擎。这些Agent代理应用能够将复杂的自然语言查询任务分解为多个可执行步骤并结合迭代反馈循环和自省机制利用工具和Agent背后的API生成最终结果返回给终端用户。这种方法需要评估Agent应用的鲁棒性尤其是对于那些可能存在对抗攻击或有害内容的用户场景。
亚马逊云科技Bedrock Agents利用ReAct和链式思维CoT提示技术将复杂的自然语言对话分解为一系列任务和后端API调用。这种方法提供了极大的应用灵活性支持动态工作流并降低了开发成本。亚马逊云科技Bedrock Agents在定制和优化AI应用方面发挥着关键作用帮助开发者们满足特定项目需求同时保护用户的私有数据并确保AI应用安全。这些代理基于亚马逊云科技的托管基础设施减少了运维在基础设施管理过程中的工作量。
尽管亚马逊云科技Bedrock Agents已原始内置了一套机制来防止生成一般性有害内容但大家还可以结合亚马逊云科技Bedrock Guardrails实现更细粒度的用户自定义防护机制。亚马逊云科技Bedrock Guardrails在基础模型FM内置防护的基础上提供额外的可定制安全措施为RAG检索增强生成和文字总结任务提供目前AI行业领先的安全保护能够阻止有害内容生成和回复并过滤幻觉内容响应的生成。这一防护功能使大家可以在AI Agent解决方案中自定义应用安全、隐私和内容真实性的保护策略。
在本文中小李哥将演示如何在集成亚马逊云科技Bedrock Guardrails后识别并提高亚马逊云科技Bedrock Agents的安全防护能力以适应不同的业务场景。 解决方案概述
本文小李哥将以在线零售聊天客服为示例该聊天客服支持动态Agent工作流能够基于客户的自然语言查询搜索并推荐鞋类产品。为了实现这一功能我会使用亚马逊云科技Bedrock Agents构建这个代理任务流。
为了测试其面对攻击的安全对抗性和系统鲁棒性我尝试向该机器人提问有关退休理财建议的问题。通过这个示例可以测试系统鲁棒性性的表现我们再该方案中利用亚马逊云科技Bedrock Guardrails优化代理任务流使其避免提供理财建议等不相关的内容。
在该方案中代理任务流的预处理阶段即调用LLM生成回复之前的第一个阶段在亚马逊云科技平台上是默认关闭的。如果想启用该预处理通常仍需要更细粒度的自定义控制以决定哪些输出的内容是安全且可被发给用户的。例如一个专注于鞋类销售的零售代理如果提供理财建议这显然超出了产品的应用范围可能导致客户失去信任并带来安全隐患。
另一种常见的细粒度的安全鲁棒性控制需求是防止代理生成敏感信息PII。大家可以在亚马逊云科技Bedrock Agents中配置并启用亚马逊云科技Bedrock Guardrails以提升代理的安全鲁棒性使其符业务所在地的合规、法规要求和企业自定义的业务需求通过这种方式我们无需对LLM进行微调。下图展示了我们的解决方案架构 这张图展示了本文最终实现的高层架构。用户请求被亚马逊云科技Bedrock Agents捕获并用于生成任务执行计划然后调用Lambda来执行API该API可以访问数据库、通过亚马逊云科技的邮件服务SES发送通知或其他应用程序。这些代理与亚马逊云科技Bedrock Guardrails集成以提升安全的对抗性和鲁棒性。
本方案涉及以下亚马逊云科技服务
亚马逊云科技Bedrock用于调用LLM亚马逊云科技Bedrock Agents用于执行代理任务流亚马逊云科技Bedrock Guardrails用于拦截安全对抗攻击AWS Identity and Access ManagementIAM用于控制各项亚马逊云科技服务的访问权限AWS Lambda用于部署API调用代码帮助业务API的实现Amazon SageMaker用于托管Jupyter notebooks并调用亚马逊云科技Bedrock Agents API
接下来的部分我将展示如何使用GitHub仓库中的Jupyter notebooks运行本解决方案。 项目提前准备
要在大家的亚马逊云科技账户中运行本方案请满足以下的要求
如果还没有亚马逊云科技账户需要创建一个。克隆GitHub仓库并按照README中的步骤进行操作。使用AWS CloudFormation模板在SageMaker中配置和部署notebook该模板存在GitHub仓库中。我们提供必要的IAM权限以便使用CloudFormation创建SageMaker资源和Lambda函数。获取亚马逊云科技Bedrock上托管的模型的访问权限。在亚马逊云科技Bedrock控制台左侧导航栏选择“管理模型访问权限”然后从可用选项中选择模型。本示例使用Anthropic Claude 3 Haiku和亚马逊云科技Titan Embeddings Text v1。 创建Guardrail对AI Agent应用进行防护
在Part 1a notebook中我们按照notebook中的步骤创建一个Guardrail防止聊天机器人提供理财建议
使用Boto3 API创建亚马逊云科技Bedrock Guardrails并设置内容过滤、关键词和短语过滤以及敏感词过滤例如PII和正则表达式以保护零售客户的敏感信息。列出并创建Guardrail版本。更新Guardrail配置。对Guardrail进行单元测试。记录guardrail-id和guardrail-arn值以便在note部分后面Part 1c中使用。后续的guardrails功能测试我们会在本系列的下篇中给大家进行介绍。
create_response client.create_guardrail(nameguardrail_name,descriptionPrevents our model from providing fiduciary advice.,topicPolicyConfig{topicsConfig: [{name: Fiduciary Advice,definition: Providing personalized advice or recommendations on managing financial assets, investments, or trusts in a fiduciary capacity or assuming related obligations and liabilities.,examples: [What stocks should I invest in for my retirement?,Is it a good idea to put my money in a mutual fund?,How should I allocate my 401(k) investments?,What type of trust fund should I set up for my children?,Should I hire a financial advisor to manage my investments?],type: DENY}]},
….
}
以上就是云原生AI Agent应用安全防护方案最佳实践的上篇内容在本篇中我们介绍了云原生AI Agent应用安全防护解决方案并了解了如何通过Python代码创建Guardrails保护AI Agent应用。欢迎大家继续关注小李哥的生成式AI应用安全系列了解国际前沿的亚马逊云科技解决方案关注我不要错过未来更多的干货内容
