网站排名技巧,小程序注册完成后如何制作,建平台需要投资多少钱,怎样查看网站开发语言一、背景
1.1 产品简介
基于大模型塔斯#xff0c;整合传统的多项能力#xff08;NLP、OCR、CV等#xff09;#xff0c;构建以场景为中心的新型智能文档平台。通过文档审阅#xff0c;实现结构化、半结构化和非结构化文档的信息获取、处理及审核#xff0c;同时基于大…一、背景
1.1 产品简介
基于大模型塔斯整合传统的多项能力NLP、OCR、CV等构建以场景为中心的新型智能文档平台。通过文档审阅实现结构化、半结构化和非结构化文档的信息获取、处理及审核同时基于大模型提供文档问答、辅助阅读等能力。 1.2 文档说明
当用户使用产品的算法能力处理文档时因文档大小、算法资源等因素获取算法处理结果的时长具有不确定性所以需要一套稳定、高效的异步解耦算法任务的技术方案来调度算法任务。本文档从技术的角度分享是如何进行算法任务调度并为大家实现异步解耦调度任务提供思路。 二、实现思路
2.1.1 步骤解读
1、2业务服务通过mq发送执行算法任务消息给调度服务
3任务记录落库
4定时任务读取数据库中的未执行任务记录
5检查执行任务是否达到上限未达到则把任务存入redis任务执行队列
6创建任务执行记录数据
7定时任务从redis中获取任务执行队列
8读取任务执行队列中需要执行的任务向算法服务发起异步处理请求
9将执行的任务信息存入等待结果队列并检查等待结果队列中的任务是否超时超时则清除并通知业务服务任务超时
10更新任务执行记录数据
11算法服务处理后将结果存入oss
12算法服务请求调度服务通知任务执行完成
13将完成的任务从等待结果队列中清除
14更新任务执行记录数据
15、16将任务结束消息通过mq通知业务服务
17业务服务从oss读取算法处理结果
2.1 简易时序图 2.1.2 简易时序图深入解析
通过细化时序图的每个步骤深入探讨IDP·文档审阅平台如何高效地实现算法任务调度确保系统在处理大量、多样化的文档时保持高度的灵活性与稳定性。
步骤1-2: 业务服务利用消息队列MQ向调度服务传递执行算法任务的需求。这一设计旨在解耦业务逻辑与算法处理提高系统的可扩展性和响应速度。MQ作为中间件能够有效缓冲瞬时高峰流量保证消息的可靠传输。步骤3: 任务记录被持久化至数据库这是为了确保任务的可追踪性和审计能力即便在系统故障情况下也能恢复任务状态。步骤4-5: 定时任务周期性地查询数据库中待处理的任务通过智能判断当前系统负载如算法服务的执行任务上限决定是否将新任务加入到Redis任务执行队列。Redis以其高速的读写性能适合作为高并发场景下的任务缓存队列。步骤6-8: 创建任务执行记录并通过定时任务从Redis队列中提取任务向算法服务发起异步请求。异步处理机制允许算法服务并行处理多个任务显著提升整体吞吐量。步骤9: 引入等待结果队列和超时检测机制确保即使在算法处理异常延迟的情况下也能及时反馈给业务侧维持用户体验。超时任务的清理与通知机制是保障系统健康运行的关键。步骤10-14: 算法服务处理完毕后结果存储于对象存储服务OSS随后通知调度服务任务完成。调度服务据此更新任务状态并从等待结果队列中移除已完成任务。这系列操作确保了任务生命周期管理的闭环提高了资源利用率。
步骤15-16: 通过MQ通知业务服务任务结束业务服务即可从OSS获取处理结果完成文档处理流程。这种设计确保了数据处理的高效性和低延迟性 主要的是思路代码就不放了~ 四、结语
在文档审阅的算法任务调度体系中异步解耦的设计理念发挥了至关重要的作用。通过将任务的提交与执行分离业务服务无需等待算法处理结果极大地提高了系统的响应速度和整体性能。任务调度机制则确保了算法任务能够有条不紊地进行。从消息队列的任务分发到定时任务的入队和执行管理再到超时清理和回调通知每一个环节都紧密配合保障了任务的高效执行和系统的稳定运行。
这种异步解耦与任务调度的完美结合为智能文档平台的发展奠定了坚实的基础。未来我们将持续探索和创新进一步优化异步解耦和任务调度的策略以适应不断增长的业务需求和更加复杂的技术环境为用户带来更加卓越的文档处理体验。
