手机怎么在百度做网站,广告sem是什么意思,长春市网络品牌推广,杭州建设网站 网站建设在探索ChatGPT的使用过程中#xff0c;我们发现GPT采用了流式数据返回的方式。理论上#xff0c;这种情况可以通过全双工通信协议实现持久化连接#xff0c;或者依赖于基于EventStream的事件流。然而#xff0c;ChatGPT选择了后者#xff0c;也就是本文即将深入探讨的SSE我们发现GPT采用了流式数据返回的方式。理论上这种情况可以通过全双工通信协议实现持久化连接或者依赖于基于EventStream的事件流。然而ChatGPT选择了后者也就是本文即将深入探讨的SSEServer-Sent Events技术。
要理解这个选择我们需要关注ChatGPT的使用场景。作为一个基于深度学习的大型语言模型ChatGPT需要处理大量的自然语言数据这无疑需要大量的计算资源和时间。相较于普通的读取数据库操作其响应速度自然会慢许多。
对于这种可能需要长时间等待响应的对话场景ChatGPT采用了一种巧妙的策略它会将已经计算出的数据“推送”给用户并利用SSE技术在计算过程中持续返回数据。这样做可以避免用户因等待时间过长而选择关闭页面。
什么是 SSE
SSEServer-Sent Events是一种Web技术它允许服务器实时向客户端推送数据。相比于传统的轮询和长轮询机制SSE提供了一种更高效且实时的数据推送方式。这种技术主要应用于构建实时应用例如实时消息推送、股票行情更新等。
SSE是HTML5规范中的一个通信相关API它主要包含两个部分服务端与浏览器端的通信协议基于HTTP协议以及浏览器端JavaScript可使用的EventSource对象。
SSE运行在HTTP协议之上它允许服务器以事件流Event Stream的形式将数据发送给客户端。客户端通过建立持久化的HTTP连接并监听这个事件流从而可以实时接收到服务器推送的数据。
SSE具有以下几个主要特点
简单易用SSE使用基于文本的数据格式如纯文本、JSON等这使得数据发送和解析都相对简单直接。单向通信SSE仅支持从服务器到客户端的单向通信。这意味着服务器可以主动推送数据给客户端但客户端只能被动接收数据。实时性由于SSE能够建立持久化连接服务器因此可以实时地将数据推送给客户端无需客户端频繁地发起请求。这大大提高了数据传输的效率和实时性。
SSE与WebSocket的比较
WebSocket是一种Web技术用于实现实时双向通信它与SSEServer-Sent Events在某些方面存在差异。以下是对两者的比较
数据推送方向SSE主要支持从服务器到客户端的单向通信这意味着服务器可以主动地向客户端推送数据。而WebSocket则支持双向通信允许服务器和客户端之间进行实时的数据交换。连接建立SSE利用基于HTTP的长连接通过常规的HTTP请求和响应来建立连接进而实现数据的实时推送。相反WebSocket采用自定义的协议通过创建WebSocket连接来实现双向通信。兼容性由于SSE基于HTTP协议因此它可以在大多数现代浏览器中使用并且无需进行额外的协议升级。虽然WebSocket在绝大多数现代浏览器中也得到了支持但在某些特定的网络环境下可能会遇到问题。适用场景SSE适合于需要服务器向客户端实时推送数据的场景例如股票价格更新、新闻实时推送等。而WebSocket则适合于需要实时双向通信的场景如聊天应用、多人在线协作编辑等。
选择使用SSE还是WebSocket主要取决于具体的业务需求和场景。如果你只需要实现从服务器向客户端的单向数据推送并且希望保持操作简便且兼容性好那么SSE是一个理想的选择。然而如果你需要实现双向通信或者需要更高级的功能和控制那么WebSocket可能会更适合你的需求。
SSE的实现原理
以下是SSEServer-Sent Events的实现原理
连接建立通常情况下客户端如浏览器通过发送HTTP GET请求到服务器来请求建立一个SSE连接。服务器响应一旦服务器接收到请求它将返回一个HTTP响应该响应的状态码为200内容类型Content-Type设置为text/event-stream。数据推送服务器可以通过已经建立的连接向客户端推送数据。每次推送的数据被称作一个事件Event。每个事件由一个或多个以\n\n分隔的数据块组成。每个数据块都是一行文本可能包含一个以:开头的注释行、以data:开头的数据行或者以id:和event:开头的行来指定事件ID和事件类型。客户端处理当客户端接收到服务器推送的事件后它会触发相应的JavaScript事件处理器来处理这些事件。重连如果连接断开客户端会自动尝试重新连接。如果服务器在事件中指定了ID那么在重新连接时客户端会发送一个Last-Event-ID的HTTP头部信息到服务器告诉服务器客户端接收到的最后一个事件的ID。根据这个信息服务器可以决定从哪个事件开始重新发送数据。
总结起来SSE使用了基于文本和HTTP协议的简单机制使得服务器能够实时地将数据推送到客户端而无需客户端频繁地发起新的请求。
使用SSE的注意事项
以下是在使用SSEServer-Sent Events技术进行实时数据推送时需要注意的几个关键点
异步处理由于SSE基于长连接的机制因此数据推送过程可能会持续较长时间。为了防止服务器线程被阻塞建议采用异步方式处理SSE请求。例如可以在控制器方法中使用Async注解或利用CompletableFuture等异步编程方式。超时处理SSE连接可能会因网络中断、客户端关闭等原因而超时。为了避免无效连接占据服务器资源建议设置超时时间并处理超时情况。例如可以利用SseEmitter对象的setTimeout()方法设定超时时间并通过onTimeout()方法处理超时逻辑。异常处理在实际应用中可能会遇到网络异常、数据推送失败等问题。这种情况下可以使用SseEmitter对象的completeWithError()方法将异常信息发送给客户端并在客户端通过eventSource.onerror事件进行处理。内存管理在使用SseEmitter时需要特别注意内存管理问题尤其是在大量并发连接的场景下。当客户端断开连接后务必及时释放SseEmitter对象以避免资源泄漏和内存溢出。并发性能SSE的并发连接数可能对服务器性能产生影响。如果需要处理大量并发连接可以考虑使用线程池或其他异步处理方式以最大化服务器资源利用。客户端兼容性虽然大多数现代浏览器都支持SSE但一些旧版本的浏览器可能不支持。因此在使用SSE时需要确保目标客户端对其有良好的支持或者提供备选的实时数据推送机制。
以上这些注意事项可以根据具体应用需求进行调整和优化。在实际应用中确保服务器的稳定性、安全性和性能是非常重要的。同时在处理SSE连接时可以考虑适当的限流和安全控制措施以防止滥用和恶意连接的出现。总的来说使用SSE技术时需要全面考虑各个方面的因素才能实现高效、稳定、安全的实时数据推送服务。
SpringBoot集成SSE案例
假设正在开发一个实时股票价格监控应用需要将股票价格实时推送给客户端。以下为Spring Boot中集成SSE技术实现的场景示例代码。
首先定义一个控制器来处理SSE请求和发送实时股票价格
import org.springframework.http.MediaType;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.servlet.mvc.method.annotation.SseEmitter;
import java.util.Random;RestController
public class StockController {GetMapping(value /stock-price, produces MediaType.TEXT_EVENT_STREAM_VALUE)public SseEmitter streamStockPrice() {SseEmitter emitter new SseEmitter();// 模拟生成实时股票价格并推送给客户端Random random new Random();new Thread(() - {try {while (true) {// 生成随机的股票价格double price 100 random.nextDouble() * 10;// 构造股票价格的消息String message String.format(%.2f, price);// 发送消息给客户端emitter.send(SseEmitter.event().data(message));// 休眠1秒钟Thread.sleep(1000);}} catch (Exception e) {emitter.completeWithError(e);}}).start();return emitter;}
}在上述代码中定义了一个streamStockPrice()方法该方法使用GetMapping注解将/stock-price路径映射到该方法上并指定produces MediaType.TEXT_EVENT_STREAM_VALUE以表明该方法将产生SSE事件流。
在方法内部创建了一个SseEmitter对象作为事件发射器并在一个单独的线程中不断生成随机的股票价格并将价格转换为字符串形式发送给客户端。
通过emitter.send()方法发送的数据会被封装为SSE事件流的形式客户端可以通过监听该事件流来实时接收股票价格。
在前端页面中创建一个简单的HTML页面来展示实时股票价格
!DOCTYPE html
html langenheadmeta charsetUTF-8title实时股票价格监控/title/headbodyh1实时股票价格/h1div idstock-price/divscriptconst eventSource new EventSource(/stock-price);eventSource.onmessage function (event) {document.getElementById(stock-price).innerHTML event.data;};/script/body
/html上述代码中通过new EventSource(/stock-price)创建了一个EventSource对象它与/stock-price路径建立SSE连接。然后通过eventSource.onmessage定义了接收消息的回调函数在收到新消息时更新页面上的股票价格。
通过以上代码可以在浏览器中打开该HTML页面它会建立与服务器的SSE连接并实时接收并展示股票价格。这只是使用SSE实现实时数据推送的一个简单示例。在实践中可以根据具体的业务需求和场景进行更复杂和丰富的实现。
小结
SSEServer-Sent Events是一种基于HTTP协议的轻量级实时通信技术具备服务端推送、断线重连和简单轻量等优点。然而它也存在一些限制例如无法进行双向通信、连接数受限以及仅支持GET请求等。
在Web应用程序中SSE可以实现各种即时数据推送功能如股票在线数据更新、日志推送、实时显示聊天室人数等。
然而需要注意的是并非所有的实时推送场景都适合使用SSE。在需要处理高并发、高吞吐量和低延迟的场景下WebSocket可能是更好的选择。而对于那些需要轻量级推送解决方案的场景SSE可能会更加适合。
因此在选择实时更新方案时我们需要根据具体的需求和应用场景来做出决策。只有这样我们才能确保选择的技术能够最大程度地满足我们的需求。
