随笔分类 -  云运维&&云架构

上一页 1 2 3 4 5 6 7 ··· 189 下一页

memoripy 大模型上下文记忆包
摘要:memoripy 大模型上下文记忆包,兼容openai 以及ollama api,包括上下文记忆检索、记忆衰减和强化、层次聚类和基于图的关联 支持的特性 长短记忆支持 上下文检索 使用openai 或者ollama 模型的概念提取以及嵌入 基于图的关联 层次聚类,支持聚类相似语义组 衰减以及增强,支 阅读全文

posted @ 2025-01-26 08:01 荣锋亮 阅读(41) 评论(0) 推荐(0) 编辑

optillm openai api 兼容的推理proxy 服务
摘要:optillm openai api 兼容的推理proxy 服务,内部使用了不少技术,同时也支持插件化的扩展 内部参考处理 说明 optillm 内部支持基于litellm 的llm 服务,同时使用了不少llm的优化技巧,值得研究下,同时对于不支持openai api 的大模型,我们可以通过lite 阅读全文

posted @ 2025-01-25 08:00 荣锋亮 阅读(6) 评论(0) 推荐(0) 编辑

dora简单试用
摘要:dora 包含服务进程可以自己安装,之后通过yaml 定义进行快速开发,以下是一个简单试用 安装dora 服务 可以直接使用cli,或者github 下载自己安装 curl --proto '=https' --tlsv1.2 -sSf https://raw.githubusercontent.c 阅读全文

posted @ 2025-01-24 08:55 荣锋亮 阅读(18) 评论(0) 推荐(0) 编辑

pybind11 setuptools 集成试用
摘要:pybind11 支持基于setuptools的构建,以下是一个简单试用 项目代码 结构 ├── README.md ├── mydemo │ ├── __init__.py │ └── demo.py ├── setup.py └── src └── example.cpp 代码说明 src/ex 阅读全文

posted @ 2025-01-23 08:00 荣锋亮 阅读(8) 评论(0) 推荐(0) 编辑

probot github app开发框架
摘要:probot 是一个github app 开发框架,同时为了方便大家的测试使用probot 还提供了有一个基于sse 的公网可用的webhook proxy 工具smee probot 包含的特性 基于nodejs 开发 开发部署简单 内置了基于smee的快速公网访问部署能力 内置了丰富的githu 阅读全文

posted @ 2025-01-21 08:00 荣锋亮 阅读(8) 评论(0) 推荐(0) 编辑

smee 基于sse 的webhook proxy 工具
摘要:smee 是probot 提供的一个webhook proxy 工具,利用了sse 技术,可以直接将来自公网的请求代理到本地,比较适合进行测试以及用户缺少公网环境的场景 参考架构 说明 目前smee 主要应用在probot github bot 框架中,但是基于此我们也可以应用到其他场景了,代码都是 阅读全文

posted @ 2025-01-20 08:00 荣锋亮 阅读(17) 评论(0) 推荐(0) 编辑

libsql bottomless 集成minio 简单使用
摘要:libsql 支持bottomless 可以方便的将wal数据存储在s3中(基于了虚拟wal 接口实现),以下是一个简单使用 环境准备 docker-compose 环境开启了namespace 以及集成主从服务 services: db1: image: ghcr.io/tursodatabase 阅读全文

posted @ 2025-01-19 08:00 荣锋亮 阅读(9) 评论(0) 推荐(0) 编辑

libsql 多租户namespace模式试用
摘要:libsql 支持基于db 分离的多租户模式,但是需要开启namespace 能力,以下是一个简单说明以及测试 开启namepace 我基于docker-compose 部署, 目前docker 部署的缺少环境变量支持,我基于了cmd 运行,核心是--enable-namespaces docker 阅读全文

posted @ 2025-01-18 08:00 荣锋亮 阅读(10) 评论(0) 推荐(0) 编辑

libsql server 复制简单使用
摘要:libsql server 通过暴力server 模式是让sqlite 具有了远端访问能力,同时基于复制能力,可以实现高可用 参考玩法 如下图,可以看到libsql server 可以灵活的进行数据的写出来,通过wal 实现数据更新 测试&使用 docker-compose services: db 阅读全文

posted @ 2025-01-17 08:00 荣锋亮 阅读(16) 评论(0) 推荐(0) 编辑

libsql强大的sqlite fork 分支
摘要:libsql 是fork了sqlite 但是基于rust 进行了新的开发 包含的特性 嵌入复制能力(可以是remote,也可以是local)对于需要本地以及云端能力的应用很方便 基于libsql server 让sqlite 具有了远端访问能力(同时有primary 以及replica 角色可以自动 阅读全文

posted @ 2025-01-16 08:00 荣锋亮 阅读(42) 评论(0) 推荐(0) 编辑

zenoh flow python sdk 简单说明
摘要:zenoh flow 是zenoh 团队提供的面向data flow 的编程框架,可以提供灵活的进行数据处理,zenoh flow 提供了基于rust 以及python 的扩展能力,我们只需要进行flow 的yaml 定义就可以灵活的进行数据处理,基于rust的开发模式可能比较费事,而且有难度,ze 阅读全文

posted @ 2025-01-15 08:00 荣锋亮 阅读(11) 评论(0) 推荐(0) 编辑

chainlit 2.0 发布了
摘要:chainlit 2.0 就在最近已经发布了,支持了不少新特性,比如一些ui 的重写,减少代码量,同时添加了对于sqlite 的支持,还有不少bug 的修复 说明 后边有空了尝试下新功能以及新版本,尤其是对于sqlite 的支持,可以简化我们对于数据持久化配置的使用(以前必须依赖pg 数据库,对于小 阅读全文

posted @ 2025-01-14 09:29 荣锋亮 阅读(45) 评论(0) 推荐(0) 编辑

zenoh rpc 内部实现简单说明
摘要:以前简单提过zenoh rpc,整体来说功能点很不错,但是目前实现上相对简单,以下简单说明下内部实现处理 整体内部实现 整体上并没有太多特殊的地方,核心还是利用了zenoh 的declare_queryable 能力,对于服务的发现,服务访问,基于了key_exps Server 处理 参考图 如下 阅读全文

posted @ 2025-01-14 08:00 荣锋亮 阅读(15) 评论(0) 推荐(0) 编辑

zenoh perf 火焰图使用简单说明
摘要:默认zenoh 的构建是release的进行了一些优化,但是有些时候我们希望使用火焰图进行profile,以下是一些说明 项目配置调整 cargo 项目 .cargo/config.toml [target.x86_64-unknown-linux-musl] rustflags =" -Ctarg 阅读全文

posted @ 2025-01-13 08:00 荣锋亮 阅读(22) 评论(0) 推荐(0) 编辑

zenoh client 以及peer 对于存储插件的支持配置说明
摘要:以前说过从1.0.0开始zenoh 支持对于存储插件的配置,但是会有一些要求,就是timestamping必须开启 client 以及peer 支持存储插件配置 参考配置 "mode":"client" | "peer", "timestamping": { "enabled": { "router 阅读全文

posted @ 2025-01-12 08:00 荣锋亮 阅读(27) 评论(0) 推荐(0) 编辑

zenoh zenoh-plugin-remote-api 插件构建支持musl libc
摘要:就在最近的zenoh 插件下载中提供了zenoh-plugin-remote-api,但是不太好的是缺少对于musl libc 的支持,实际上是可以支持的,只是构建上缺少特性 解决方法 就是自己构建,同时注意对于musl libc 的支持需要使用静态链接模式,就是构建的时候添加RUSTFLAGS=" 阅读全文

posted @ 2025-01-11 08:00 荣锋亮 阅读(5) 评论(0) 推荐(0) 编辑

npm scope 访问github npm package
摘要:github 的npm package 都有自己的scope,但是很多时候我们是还需要其他registry 的包的,推荐的解决方法是通过.npmrc 解决 参考格式 比如我们部分package 使用的是github 的,部分使用的是npm public 的,可以通过.npmrc 配置的scope 定 阅读全文

posted @ 2025-01-10 08:00 荣锋亮 阅读(6) 评论(0) 推荐(0) 编辑

基于zenoh的简单视频查看系统设计
摘要:zenoh 包含了灵活以及高效的数据传输能力,同时还支持数据的geo 分片持久化,基于zenoh 内置的一些插件我们就可以快速的 实现一个视频查看系统 参考图 简单说明: 我们通过程序对于视频设备的数据进行捕捉,之后通过zenoh 进行数据写入(put操作),对于zenoh router 我们配置存 阅读全文

posted @ 2025-01-09 08:00 荣锋亮 阅读(16) 评论(0) 推荐(0) 编辑

zenoh 1.0.0存储复制以及校准简单说明
摘要:以前简单说明过,关于zenoh 1.0.0 的存储复制处理,以下从官方相对完整的介绍说明下 rust 变更部分关于存储复制校准的说明 以前简单说过新版本的如果需要复制校准,配置最好是一样的,实际这个在新版本是一个强制要求,否则是不能正常协商工作的 旧版本没有使用queryable能力(因为不支持携带 阅读全文

posted @ 2025-01-08 08:00 荣锋亮 阅读(7) 评论(0) 推荐(0) 编辑

pybind11 进行native python 模块开发
摘要:pybind11 是一个方便快速的基于通过c++快速开发python native 模块的框架,使用简单 支持的特性 **接受和返回自定义数据结构的函数**,可以按值传递、按引用传递或通过指针传递 **实例方法和静态方法** **重载函数** **实例属性和静态属性** **任意异常类型** **枚 阅读全文

posted @ 2025-01-07 08:00 荣锋亮 阅读(24) 评论(0) 推荐(0) 编辑

上一页 1 2 3 4 5 6 7 ··· 189 下一页

导航

< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示