03 2023 档案
摘要:用jmeter 压力测试GPU版本的模型服务时,发现增加jmeter线程数(20个线程时),在压测的后半段会报错,进去查看结果树发现这样的错误: Response code:Non HTTP response code: java.net.NoRouteToHostException Respons
阅读全文
摘要:参考链接:Using nginx as HTTP load balancer 1)如果只是想用一个端口转发请求然后调用多个站点(也可以是同一个服务,例如sanic包装的模型服务接口,部署在多个不同端口,下例中是8771~8773开启了3个sanic接口服务,然后调用方通过myapp2的8777访问这
阅读全文