摘要：属于一个简单而且比较常见的场景，就是我们的服务器不能直接链接 互联网，但是我们的服务器可以访问内网，内网有一个proxy 服务 解决方法 第一种就是我们直接配置proxy 可以是socks 或者http的，参考配置，比较适合的是我们的服务器可以直接访问内部proxy export http_prox 阅读全文

摘要：LitServe 是基于fastapi 开发的，因为服务ai 模型的特殊性（一般都比较耗时，运行时间会比较长），LitServe 对于api endpoint 的注册并不是简单的处理，而是包含了一个自己的spec，基于此spec 实现灵活的定义（比如支持openai 兼容模式） 参考注册 spec 阅读全文

摘要：Photino 属于一个新的跨平台app 开发方案 包含的特性 支持基于c++，c# ，java 的native 编译 跨平台ui，可以基于vue，react，angular，blazor，Photino 使用了os 内置的chromium 或者基于webkit 的浏览器 轻量级，相比electro 阅读全文

摘要：py-filelock 是一个平台无关的文件锁实现，可以用来实现一些基于文件锁的业务控制 参考使用 lock.py import os from filelock import Timeout, FileLock file_path = "high_ground.txt" lock_path = " 阅读全文

摘要：uvicorn 对于多进程的支持可以通过配置wokers 参数，但是一般我们都使用的是模块类模式，并不是字符串（只有字符串模式才能生效） 以下是基于multiprocessing 如何实现类似的功能（机制上实际与uvicorn 的多worker是类似的） 参考代码 import multiproce 阅读全文

摘要：jsonargparse 是一个python cli 库，尽管不如其他库火（click）目前Lightning cli 就使用了此库 包含的特性 自动创建cli 类似Fire，typer，Clize以及Tyro 支持类型校验 支持通过配置文件或者环境变量的配置解析（集成confuse，configa 阅读全文

摘要：LitServe 是一个基于fastapi 包装的快速推理api 服务，以下只简单说明下关于server 启动部分的处理 参考使用 我们可以通过配置devices 以及每个device 对应的worker 数执行以那种模式进行server 的启动（多线程还是多进程） 参考使用 if __name__ 阅读全文

摘要：以前简单说明过LitServe 支持openai 接口格式的服务api，以下是一个简单试用 参考代码 app.py import litserve as ls class SimpleLitAPI(ls.LitAPI): def setup(self, device): self.model = N 阅读全文

摘要：LitServe 是一个使用简单的基于fastapi 开发方的ai 服务引擎，支持批处理以及streaming 模式 包含的特性 灵活的扩展能力，支持callback 以及中间件模式，对于request 以及response 进行修改 完全控制，可以运行单个或者多个模型进行推理服务 构建组合ai 系 阅读全文

摘要：anyio 是一个异步网络以及并发库，可以与asyncio 以及trio 工作，实现了类似trio 的sc 模式 包含的特性 任务组能力 高级tcp/udp，以及unix 套接字支持 多种字节流以及对象流api 支持 内部任务同步以及通信支持（锁、条件、事件、信号量、对象流） 工作者线程支持 子进程 阅读全文

摘要：pg_ivm 是一个强大的pg 增量物化视图扩展，可以实现物化数据的自动更新（创建物化之后会创建一些触发器实现自动更新），当然也包含了函数可以支持手工更新 说明 pg_ivm 很强大，很方便，但是依然有一些限制，比如基表必须是简单表，不能使用视图，继承父表，分区表，分区以及外部表 视图定义查询中不能 阅读全文

摘要：就在最近haproxy data plane api 3.0 发布了，相对以前有不少变动，官方发布了release note 很值得看看 说明 对于基于haproxy 进行业务负载均衡以及动态配置管理的haproxy data plane api 是一个很不错的选择，对于早期版本的一些使用我有简单介 阅读全文

摘要：ossfs 基于oss sdk 实现了与oss fs类似的能了，但是默认是有cache 的，尤其我们的long running 任务可能会影响，造成获取的数据是不是最新的，解决方法就是直接禁用cache 参考处理 # 通过临时调整cache有效期解决from ossfs import OSSFile 阅读全文

摘要：paradedb 是一个替换es 的可选方案 包含的能力 搜索，支持基于BM25（基于pg_search） 的全文检索，以及pgvector 的向量处理，以及混合搜索 分析，基于pg_analytics 的分析查询引擎 支持自托管模式部署 支持特殊工作负载场景，postgis，pg_cron, pg 阅读全文

摘要：默认rq 是180s 的超时处理，但是我们可以自己调整，注意官方有好几个参数，timeout 以及job_timeout 应该使用job_timeout 参考配置 job 级别的 q.enqueue(mytask, args=(foo,), kwargs={'bar': qux}, job_time 阅读全文

摘要：tldraw 创建基于web 白板的sdk 框架 包含的特性 react canvas 高性能 实时协作 媒体支持 灵活的自定义 说明 tldraw 从3.0 开始调整累了许可模式，以前是商业使用需要有license，现在是可以直接使用了，但是会保留水印，对于开发白板应用的tldraw 是一个很值得 阅读全文

摘要：rill 是基于duckdb 的快速bi 工具 参考架构 包含了提取，加载，查询，过滤，包含了etl，内存存储，以及操作型bi 说明 rill server 基于golang 开发，web 上使用了Sveltekit，rill 设计上很值得学习参考，抽象了不少自己的yaml schema 灵活性上很 阅读全文

摘要：通过minio 作为s3 存储进行测试 s3 准备 docker-compose version: "3" services: s3: image: minio/minio:latest ports: - 9000:9000 - 9001:9001 command: server /data --c 阅读全文

摘要：cloudpathlib 是模仿了python pathlib 接口格式的python 库，可以用来方便的进行云存储的数据处理 包含的特性 与path 方式类似的访问 支持s3，gcs，azure ，ftp 也在开发中 可扩展 读写支持 无缝的cache 支持，可以按需进行cache 的处理 方便测 阅读全文

摘要：stamina 是基于tenacity的包装 包含的特性 仅对某些异常（甚至是其中的子集）进行重试，方法是先使用谓词进行自检 重试之间带有抖动的指数退避 限制重试次数和总时间 自动异步支持-包括Trio 保留所装饰的可调用函数的类型提示 开箱即用，可灵活使用Prometheus、structlog和 阅读全文