让简易流行的FRP支持Nginx转发SSE“打字效果”

      最近gpt带来的轰动效应大家有目共睹，大家应该好奇它回复消息时的“打字”效果，为什么这么快，而且没有建立很多http连接，是定时轮询的吗，当然不是。它使用的就是浏览器基于http协议的Server Sent Events（SSE）协议，采用消息流的方式，共享同一个连接，自然就能提升性能，效果丝滑。那么自己部署了相关的LLM模型后，需要公开域名或者网站到外网使用的话，为了安全默认frp都是经过nginx转发一次，nginx上需要做一些设置，才能正确转发流经frp的SSE消息流：

?

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27

<code-pre class="code-pre" id="pre-mF6YfG"><code-line class="line-numbers-rows"></code-line>    server { <code-line class="line-numbers-rows"></code-line>        listen       80; <code-line class="line-numbers-rows"></code-line>        server_name  *.mygpt.com; <code-line class="line-numbers-rows"></code-line>        client_header_buffer_size 32k; <code-line class="line-numbers-rows"></code-line>       <code-line class="line-numbers-rows"></code-line>        location / { <code-line class="line-numbers-rows"></code-line>            proxy_pass http://127.0.0.1:7001; <code-line class="line-numbers-rows"></code-line>            proxy_set_header Host $host; <code-line class="line-numbers-rows"></code-line>           proxy_pass_header Set-Cookie; <code-line class="line-numbers-rows"></code-line>           proxy_redirect http://$host/ http://$http_host/; <code-line class="line-numbers-rows"></code-line>           proxy_ssl_server_name on; <code-line class="line-numbers-rows"></code-line>            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; <code-line class="line-numbers-rows"></code-line>           <code-line class="line-numbers-rows"></code-line>            proxy_set_header Upgrade $http_upgrade; <code-line class="line-numbers-rows"></code-line>            #proxy_set_header Connection "upgrade"; <code-line class="line-numbers-rows"></code-line>            #proxy_connect_timeout 7d; <code-line class="line-numbers-rows"></code-line>            #proxy_send_timeout 7d; <code-line class="line-numbers-rows"></code-line>            #proxy_read_timeout 7d; <code-line class="line-numbers-rows"></code-line>           proxy_set_header Connection 'upgrade';//WS/WSS协议支持 <code-line class="line-numbers-rows"></code-line>           proxy_http_version 1.1; <code-line class="line-numbers-rows"></code-line>           chunked_transfer_encoding off; <code-line class="line-numbers-rows"></code-line>           proxy_buffering off; <code-line class="line-numbers-rows"></code-line>           proxy_cache off; <code-line class="line-numbers-rows"></code-line>           <code-line class="line-numbers-rows"></code-line>        } <code-line class="line-numbers-rows"></code-line>    } </code-pre>

　　

其中最后5行是新增的配置，转发到frp的7001口上去，修改重启ng，frp网站就可以享受 “打字”效果了，此配置同样支持WS或者WSS的Socket，比如SignalR。

 

__EOF__

本文作者：pccai
本文链接：https://www.cnblogs.com/pccai/p/17592540.html
关于博主：评论和私信会在第一时间回复。或者直接私信我。
版权声明：本博客所有文章除特别声明外，均采用 BY-NC-SA 许可协议。转载请注明出处！
声援博主：如果您觉得文章对您有帮助，可以点击文章右下角【推荐】一下。您的鼓励是博主的最大动力！