网站建设测试事业运程青岛新闻最新今日头条

        RAG相关的技术学习暂时告一段落了，接下来尝试探索新的学习方向。这就引入一个问题：接下来该做什么？为了能进一步推进，我需要有一个整体的视角，从更上层来看整个技术栈，从而确定接下来感兴趣的方向。本文主要探索从更上层的视角来看构建大模型的技术栈，从而进一步确定研究学习方向。

前言

        技术最终是为业务服务的，基于新兴的大模型技术，最近涌现出各种有意思的应用。从我的视角，这部分应用通常可以被分为两类：问答式应用和生成式应用。典型的问答式应用包括：chat应用、智能助手、企业知识库等；典型的生成式应用包括：文本创作、文生图、文生视频等。那么，这些应用是如何构建的呢？如何基于大模型来构建起这样的一个私人/企业级的应用呢？本文接下来的部分将探索构建这样应用的流程和所涉及到的技术栈。

        接下来会开启一个系列文章来往后推进，感兴趣可以关注下专栏中的后续进展~

整体架构

        先来看一下，如果我们想要构建一个大模型应用，那么它的架构应该是怎样的呢？下面是一张基于个人理解的大模型应用的整体架构图：

        图中按照前端和后台进行了整体的划分，对于后台，这里进行了更细致的按层划分：

• 网关层：网关层是前后端交互的入口。主要负责请求路由的识别和分发、安全防护、协议适配等功能。在