modin pandas 大规模数据处理方案

modin 是一个可以快速替换原生pandas 的方案，我们只需要替换一个简单的引用，就可以将pandas 的数据处理速度有很大的提升
modin 支持与不少框架的集成（ray, dask,unidisk）,目前modin 对于常用read 操作都有很不错的支持，参考图

参考架构

如下图，可以看出modin 的扩展能力还是很强大的

 

说明

对于需要进行数据处理（比如机器学习场景modin 是一个很不错的工具）

参考资料

https://github.com/modin-project/modin
http://modin.readthedocs.io/
https://modin.readthedocs.io/en/latest/getting_started/why_modin/why_modin.html
https://modin.readthedocs.io/en/latest/getting_started/why_modin/modin_vs_dask_vs_koalas.html

posted on   荣锋亮  阅读(97)  评论(0)  编辑  收藏  举报

相关博文：
· maturin 方便发布基于rust 的python 包工具
· pydiverse.pipedag 一个快速数据pipeline 调度库
· Modin：高性能 pandas 替代
· 嫌pandas慢又不想改代码怎么办？来试试Modin
· 嫌pandas慢又不想改代码怎么办？来试试Modin
阅读排行：
· 全程不用写代码，我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了，比商业数据库还牛
· .NET10 - 预览版1新功能体验（一）
历史上的今天：
2022-10-01 graylog 索引模型
2022-10-01 pg_eventserv push pg 变动事件到websocket 服务
2022-10-01 graylog 的journal message 实现简单说明
2022-10-01 graylog 的journal message 存储简单说明
2022-10-01 graylog 插件模型之PluginModule
2022-10-01 graylog grn介绍
2017-10-01 debezium 数据变更工具使用

导航

< 2025年3月 >
日 一 二 三 四 五 六
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示