摘要:
在一些情况下需要限制某些方法的执行速率,常见是控制并发。如下是使用"golang.org/x/time/rate"控制速率的代码。 后续看了一下实现,是在调用获取令牌的方法时,通过上次获取令牌的时间到当前时间的之间相差的时间 乘以 令牌速率,判断是否有足够多的令牌返回。来做速率限制。 func ma 阅读全文
摘要:
用docker,运行ollama镜像,然后进入ollama容器拉取deepseek模型。运行其他大模型也类似。如下是docker compose file version: '3.3' services: ollama: image: 'ollama:ollama' environment: - N 阅读全文