2024年12月4日

pongo基于pg的类似mongo语法查询npm包

摘要: pongo 是一个node 包装可以让我们使用类似mongo 查询的模式进行数据操作(底层数据存储在pg)同时提供强一致性 包含的特性 利用pg 提供了强一致性 方便集成 重用mongo 代码,因为兼容mongo api (注意并不是100%) 增强了传统pg json 查询能力 可以更好的使用pg 阅读全文

posted @ 2024-12-04 00:12 荣锋亮 阅读(0) 评论(0) 推荐(0) 编辑

2024年12月3日

pydantic ai集成ollama简单试用

摘要: 就是一个示例学习,体验下pydantic ai,llm 基于了ollama 参考代码 app.py 一个集成ollama 的测试 import asyncio from openai import AsyncOpenAI from pydantic import BaseModel,Field fr 阅读全文

posted @ 2024-12-03 21:21 荣锋亮 阅读(1) 评论(0) 推荐(0) 编辑

pydantic ai agent 框架

摘要: pydantic 团队也开始搞ai agent 框架了,目前属于beta 版 使用pydantic ai 的一些原因(来自官方介绍) 来自pydantic团队,不少llm python sdk 都使用了此包 模型无关,尽管当前支持的还有限,但是提供了简单接口可以扩展 类型安全 支持基于普通pytho 阅读全文

posted @ 2024-12-03 19:24 荣锋亮 阅读(3) 评论(0) 推荐(0) 编辑

Semantic Metadata 语义元数据

摘要: Semantic Metadata 是orbital 为了进行数据集成提出的一套玩法,同时orbital 也开发了一些框架层的支持(Taxi 进行模型描述) orbital 进行集成开发 Semantic Metadata 的特点 元数据定义了字段内容的契约 平台无关 系统基于此进行特定领域的业务a 阅读全文

posted @ 2024-12-03 08:00 荣锋亮 阅读(1) 评论(0) 推荐(0) 编辑

2024年12月2日

connector-x db数据快速加载到dataframe的库

摘要: connector-x db数据快速加载到dataframe的库,支持不少数据库的到dataframe 数据的写入 支持的数据库 pg mysql mariadb sqlite redshift clickhouse sql server azure sql database oracle big 阅读全文

posted @ 2024-12-02 08:06 荣锋亮 阅读(2) 评论(0) 推荐(0) 编辑

crawle web 爬虫&浏览器自动化库

摘要: crawle web 爬虫&浏览器自动化库 包含的特性 js&ts 支持 http 爬取,集成了cheerio 以及jsdom 的解析器 无头浏览器支持 爬取自动proxy 处理 队列以及存储,可以保存文件,快照,json 结果 内部不少方便的工具类,方便数据提取 说明 crawle 同时也提供了p 阅读全文

posted @ 2024-12-02 08:00 荣锋亮 阅读(4) 评论(0) 推荐(0) 编辑

2024年12月1日

RulesEngine 微软开源的基于json的规则引擎

摘要: 以前有简单介绍过基于js 的json-rules-engine,以下简单说明下基于dotnet 的RulesEngine 包含的特性 基于json 的规则定义 多输入支持 动态对象输入支持 c# 表达式支持 基于class type 的自定义扩展表达式支持 作用域范围参数 post rule 执行动 阅读全文

posted @ 2024-12-01 08:00 荣锋亮 阅读(3) 评论(0) 推荐(0) 编辑

2024年11月30日

json-rules-engine engine 简单说明

摘要: engine包含了存储,执行规则,提交事件以及维护状态,比如添加以及一处fact,添加、删除、更新rule,同时还包含添加operator,添加以及维护conddition 执行 // run the engine await engine.run() // with constant facts 阅读全文

posted @ 2024-11-30 08:00 荣锋亮 阅读(2) 评论(0) 推荐(0) 编辑

2024年11月29日

json-rules-engine facts 简单说明

摘要: facts 实际上就是在rule 引擎执行中需要的数据,facts 数据可以是常量(硬编码的),也可以是动态设置的 参考使用 // constant value facts let fact = new Fact('apiKey', '4feca34f9d67e99b8af2') // dynami 阅读全文

posted @ 2024-11-29 08:00 荣锋亮 阅读(1) 评论(0) 推荐(0) 编辑

2024年11月28日

json-rules-engine almanac 简单说明

摘要: almanac 实际上就是一个上下文对象,可以对于engine 中依赖的一些fact 进行计算处理,同时可以方便的进行动态fact维护,同时还会复用以前的一些计算fact 官方参考使用 官方有一个比较完整的介绍例子 /* * Base fact for retrieving account data 阅读全文

posted @ 2024-11-28 08:00 荣锋亮 阅读(2) 评论(0) 推荐(0) 编辑

2024年11月27日

py-spy 0.4发布

摘要: 就在上个月许久没更新的py-spy 发布了新版本,提供了python 3.12,3.13 的支持,同时进行了不少bug 的修复 说明 py-spy 是一个很不错的python 应用profile 工具,对于python 应用的性能问题很值得尝试下 参考资料 https://github.com/be 阅读全文

posted @ 2024-11-27 13:44 荣锋亮 阅读(1) 评论(0) 推荐(0) 编辑

ollama python 新版本支持传递python 函数

摘要: 在ollama python sdk 的最近更新中,支持传递python 函数到chat 调用中,以下是一个简单示例 参考使用 app.py from ollama import chat from ollama import ChatResponse def add_two_numbers(a: 阅读全文

posted @ 2024-11-27 13:01 荣锋亮 阅读(10) 评论(0) 推荐(0) 编辑

jsonata json 查询以及转换语言

摘要: jsonata json 查询以及转换语言 包含的特性 轻量级 借鉴xpath 3.1 模式的语法 最少语法的复杂表达式支持 支持支持定义函数 内置不少方便数据维护以及合并的操作符以及函数 灵活的结构化输出 说明 原始jsonata 是js 实现,目前也有不少其他语言的实现,比如java 的,jso 阅读全文

posted @ 2024-11-27 08:00 荣锋亮 阅读(1) 评论(0) 推荐(0) 编辑

2024年11月26日

json-rules-engine 简单试用

摘要: 以下是对于json-rules-engine 的一个简单试用 rule 简单说明 json-rules-engine rule 基于json 进行描述配置,支持一些内置的operator,当然也可以自定义,rule 支持常见的any,and操作,同时支持嵌套,每个rule 可以包含自己的回调(成功以 阅读全文

posted @ 2024-11-26 08:00 荣锋亮 阅读(7) 评论(0) 推荐(0) 编辑

2024年11月25日

jint .net js 引擎

摘要: jint 是一个 .net js 引擎 一些运行场景 .net 应用安全的运行js(沙箱环境) 暴露native .net 对象到js 引擎中 脚本化应用中 简单使用 using Jint; var engine = new Engine() .SetValue("log", new Action< 阅读全文

posted @ 2024-11-25 08:31 荣锋亮 阅读(6) 评论(0) 推荐(0) 编辑

json-rules-engine node 基于json的规则引擎

摘要: json-rules-engine 是一个node 的基于json 规则引擎,使用上比较简单,但是提供了不少方便的能力 包含的特性 基于json 进行规则描述 支持ALL,ANY 等布尔操作 快速 安全,没有使用eval 函数 同构,支持node 以及浏览器 轻量级,只包含了少量依赖 一些术语 里边 阅读全文

posted @ 2024-11-25 08:00 荣锋亮 阅读(5) 评论(0) 推荐(0) 编辑

2024年11月24日

UniversalMediaServer DLNA&Upnp & http 媒体服务

摘要: UniversalMediaServer 是一个强大的媒体服务,支持DLNA,Upnp,http 协议 说明 UniversalMediaServer 使用了ffmpeg,mediainfo,opensubtitles,crowdin,mencoder,tsmuxer,avisynth,vlc 等开 阅读全文

posted @ 2024-11-24 08:00 荣锋亮 阅读(5) 评论(0) 推荐(0) 编辑

2024年11月23日

crux 基于rust 的跨平台app开发框架

摘要: crux 使用了shared core 的模式进行跨平台app 开发,其中core 部分是基于rust 开发的 包含的特性 shared core thin shell ui 层 类型生成 能力,提供了暴露api 调用的能力(side effects) 参考架构 如下图,设计上类似guide sid 阅读全文

posted @ 2024-11-23 08:00 荣锋亮 阅读(10) 评论(0) 推荐(0) 编辑

2024年11月22日

multi-agent-orchestrator aws 开源的多agent 调度框架

摘要: multi-agent-orchestrator 是aws 开源的多agent 调度框架 包含的特性 多agent 调度 多语言支持,目前支持python 以及typescript 包含智能意图分类,可以方便的基于查询以及动态路由 灵活的agent 响应,支持流以及非流出来 支持上下文管理,可以方便 阅读全文

posted @ 2024-11-22 21:51 荣锋亮 阅读(32) 评论(0) 推荐(0) 编辑

cefsharp 集成chrome 到.net 应用中的框架

摘要: cefsharp 集成chrome 到.net 应用中的框架,实际上提供了win form 以及wpf 组件 包含的特性 js与.net 的互调用,以及基于回调的事件处理 编程方式调用devtools 基于cefsharp 的puppeteer 的dom 访问 基于Chromium.AspNetCo 阅读全文

posted @ 2024-11-22 08:00 荣锋亮 阅读(10) 评论(0) 推荐(0) 编辑

2024年11月21日

dora面向数据流的机器人编程框架

摘要: dora面向数据流的机器人编程框架,基于rust 开发,对于内部基于了zenoh 这个网络框架 包含的特性 零开销,基于了arrow 可扩展,支持单机以及分布式,同时基于了yaml进行定义 快速原型开发 内置可观测,支持log,trace,metrics 多语言支持,比如python,rust,c, 阅读全文

posted @ 2024-11-21 08:10 荣锋亮 阅读(11) 评论(0) 推荐(0) 编辑

geesefs s3 fuse 文件系统实现

摘要: geesefs s3 fuse ,相比其他解决方案,geesefs 支持异步以及并行聚合 说明 geesefs 对于yandex 对象存储,amazon s3,cepg,minio,selectel s3,backblaze b2 ,openstack swift,azure blob storag 阅读全文

posted @ 2024-11-21 08:00 荣锋亮 阅读(10) 评论(0) 推荐(0) 编辑

2024年11月20日

mikro-orm typescript ORM 框架

摘要: mikro-orm 是一个基于ts 的orm 框架,使用了data mapper ,unit of work,identity map 等模式,支持mongodb,mysql,mariadb,pg,sqlite 等 包含的特性 隐式事务处理 DRY 实体 支持sql 以及nosql 支持schema 阅读全文

posted @ 2024-11-20 08:00 荣锋亮 阅读(3) 评论(0) 推荐(0) 编辑

2024年11月19日

Orbital 自动集成平台

摘要: Orbital 自动集成平台,Orbital 基于了Taxi 使用了语义元数据理念 包含的特性 不需要编写额外代码进行集成 api 优先 技术无关,支持grpc,rest,kafka,soap 等 自动适配 参考玩法 如下图,使用上与对于语义元数据定义是一致的,首先基于Taxi定义模型契约,然后业务 阅读全文

posted @ 2024-11-19 10:12 荣锋亮 阅读(3) 评论(0) 推荐(0) 编辑

2024年11月18日

cookiecutter-data-science 基于cookiecutter数据科学项目模版

摘要: cookiecutter-data-science 基于cookiecutter数据科学项目模版 说明 cookiecutter-data-science 属于项目工程化的最佳实践,kedro 也是一个很不错的项目实践,值得尝试下 参考资料 https://cookiecutter-data-sci 阅读全文

posted @ 2024-11-18 08:00 荣锋亮 阅读(4) 评论(0) 推荐(0) 编辑

2024年11月17日

promptic 简单基于python 的llm 包

摘要: promptic 是基于litellm 开发的一个简单llm 包 包含的特性 基于装饰器的集成 参数模版 pydantic 模型支持 streaming 支持 简单llm 交互 说明 当然使用promptic 作为结构化输出也是一个不错的选择,代码并不多,可以看看 参考资料 https://gith 阅读全文

posted @ 2024-11-17 08:00 荣锋亮 阅读(4) 评论(0) 推荐(0) 编辑

2024年11月16日

electron视频音频处理简单说明

摘要: 属于一个总结,一般我们都是使用navigator.mediaDevices.getUserMedia+desktopCapturer 集成,但是getUserMedia 对于音频的捕捉是有一些问题的(audio 为true 会有bug) 基于session setDisplayMediaReques 阅读全文

posted @ 2024-11-16 08:00 荣锋亮 阅读(12) 评论(0) 推荐(0) 编辑

2024年11月15日

fiddler proxy 解决服务器上网问题&https抓包问题

摘要: 属于一个简单但是常见的问题,以前介绍过基于ssh 远端转发模式,实际上我们可以将fiddler 作为proxy 进行请求处理 使用fiddler 的好处是简单,而且还支持debug,可以解决接口访问调试的问题 运行 可以使用fiddler 经典,或者everywhere,之后就是配置策略 开启远端转 阅读全文

posted @ 2024-11-15 08:00 荣锋亮 阅读(18) 评论(0) 推荐(0) 编辑

2024年11月14日

ssh 远端转发处理服务器外网访问问题

摘要: 属于一个简单而且比较常见的场景,就是我们的服务器不能直接链接 互联网,但是我们的服务器可以访问内网,内网有一个proxy 服务 解决方法 第一种就是我们直接配置proxy 可以是socks 或者http的,参考配置,比较适合的是我们的服务器可以直接访问内部proxy export http_prox 阅读全文

posted @ 2024-11-14 00:49 荣锋亮 阅读(22) 评论(0) 推荐(0) 编辑

2024年11月13日

LitServe fastapi endpoint注册简单说明

摘要: LitServe 是基于fastapi 开发的,因为服务ai 模型的特殊性(一般都比较耗时,运行时间会比较长),LitServe 对于api endpoint 的注册并不是简单的处理,而是包含了一个自己的spec,基于此spec 实现灵活的定义(比如支持openai 兼容模式) 参考注册 spec 阅读全文

posted @ 2024-11-13 08:00 荣锋亮 阅读(6) 评论(0) 推荐(0) 编辑

Photino 轻量级跨平台应用开发框架

摘要: Photino 属于一个新的跨平台app 开发方案 包含的特性 支持基于c++,c# ,java 的native 编译 跨平台ui,可以基于vue,react,angular,blazor,Photino 使用了os 内置的chromium 或者基于webkit 的浏览器 轻量级,相比electro 阅读全文

posted @ 2024-11-13 08:00 荣锋亮 阅读(19) 评论(0) 推荐(0) 编辑

2024年11月12日

py-filelock python 平台无关的文件锁

摘要: py-filelock 是一个平台无关的文件锁实现,可以用来实现一些基于文件锁的业务控制 参考使用 lock.py import os from filelock import Timeout, FileLock file_path = "high_ground.txt" lock_path = " 阅读全文

posted @ 2024-11-12 08:00 荣锋亮 阅读(8) 评论(0) 推荐(0) 编辑

2024年11月11日

fastapi uvicorn 多进程处理

摘要: uvicorn 对于多进程的支持可以通过配置wokers 参数,但是一般我们都使用的是模块类模式,并不是字符串(只有字符串模式才能生效) 以下是基于multiprocessing 如何实现类似的功能(机制上实际与uvicorn 的多worker是类似的) 参考代码 import multiproce 阅读全文

posted @ 2024-11-11 08:00 荣锋亮 阅读(98) 评论(0) 推荐(0) 编辑

2024年11月10日

jsonargparse python cli 开发库

摘要: jsonargparse 是一个python cli 库,尽管不如其他库火(click)目前Lightning cli 就使用了此库 包含的特性 自动创建cli 类似Fire,typer,Clize以及Tyro 支持类型校验 支持通过配置文件或者环境变量的配置解析(集成confuse,configa 阅读全文

posted @ 2024-11-10 08:00 荣锋亮 阅读(14) 评论(0) 推荐(0) 编辑

2024年11月9日

LitServe 服务多worker启动简单说明

摘要: LitServe 是一个基于fastapi 包装的快速推理api 服务,以下只简单说明下关于server 启动部分的处理 参考使用 我们可以通过配置devices 以及每个device 对应的worker 数执行以那种模式进行server 的启动(多线程还是多进程) 参考使用 if __name__ 阅读全文

posted @ 2024-11-09 08:00 荣锋亮 阅读(17) 评论(0) 推荐(0) 编辑

2024年11月8日

LitServe 快速部署类openai 接口服务

摘要: 以前简单说明过LitServe 支持openai 接口格式的服务api,以下是一个简单试用 参考代码 app.py import litserve as ls class SimpleLitAPI(ls.LitAPI): def setup(self, device): self.model = N 阅读全文

posted @ 2024-11-08 08:00 荣锋亮 阅读(16) 评论(0) 推荐(0) 编辑

2024年11月7日

LitServe 快速进行ai 模型服务的引擎

摘要: LitServe 是一个使用简单的基于fastapi 开发方的ai 服务引擎,支持批处理以及streaming 模式 包含的特性 灵活的扩展能力,支持callback 以及中间件模式,对于request 以及response 进行修改 完全控制,可以运行单个或者多个模型进行推理服务 构建组合ai 系 阅读全文

posted @ 2024-11-07 08:00 荣锋亮 阅读(12) 评论(0) 推荐(0) 编辑

2024年11月6日

anyio 高级异步并发网络库

摘要: anyio 是一个异步网络以及并发库,可以与asyncio 以及trio 工作,实现了类似trio 的sc 模式 包含的特性 任务组能力 高级tcp/udp,以及unix 套接字支持 多种字节流以及对象流api 支持 内部任务同步以及通信支持(锁、条件、事件、信号量、对象流) 工作者线程支持 子进程 阅读全文

posted @ 2024-11-06 08:00 荣锋亮 阅读(26) 评论(0) 推荐(0) 编辑

2024年11月5日

pg_ivm pg 增量物化视图扩展

摘要: pg_ivm 是一个强大的pg 增量物化视图扩展,可以实现物化数据的自动更新(创建物化之后会创建一些触发器实现自动更新),当然也包含了函数可以支持手工更新 说明 pg_ivm 很强大,很方便,但是依然有一些限制,比如基表必须是简单表,不能使用视图,继承父表,分区表,分区以及外部表 视图定义查询中不能 阅读全文

posted @ 2024-11-05 08:00 荣锋亮 阅读(31) 评论(0) 推荐(0) 编辑

2024年11月4日

HAProxy Data Plane API 3.0 发布

摘要: 就在最近haproxy data plane api 3.0 发布了,相对以前有不少变动,官方发布了release note 很值得看看 说明 对于基于haproxy 进行业务负载均衡以及动态配置管理的haproxy data plane api 是一个很不错的选择,对于早期版本的一些使用我有简单介 阅读全文

posted @ 2024-11-04 08:00 荣锋亮 阅读(5) 评论(0) 推荐(0) 编辑

导航