【Python包】pandas和koalas
1.pandas介绍
Python 数据科学在过去几年中爆炸式增长, pandas 已成为生态系统的关键。当数据科学家得到一个数据集时,他们会使用 pandas 进行探索。它是数据处理和分析的终极工具。
pandas 不能很好地在大数据中规模应用,因为它专为单个机器可以处理的小型数据集而设计。许多数据科学家将 pandas 用于职业培训、偏好性项目和小型数据任务。
2.Koalas介绍
Apache Spark 已成为处理大数据实际上的标准。当他们使用非常大的数据集时,他们必须迁移到 PySpark 以利用 Spark,或对其数据进行下采样以使用 pandas。
现在有了 Koalas,数据科学家可以从单个机器迁移到分布式环境,而无需学习新的框架。正如你在下面所看到的,只需替换一个包,就可以使用 Koalas 在 Spark 上扩展你的 pandas 代码。
参考文档:
Koalas:让 pandas 轻松切换 Apache Spark,在大数据中规模应用