统计文本出现次数并排序

假如有如下保存url的文件all_urls:

http://www.baidu.com
http://www.sina.com
http://www.baidu.com
http://www.sohu.com
http://www.baidu.com
http://www.sina.com

想统计不同url出现的次数,并按照从大到小的顺序排列,只需一行简单的shell脚本就可以了:

cat all_urls|sort|uniq -c |sort -k1 -nr|awk '{print $2}'

结果如下:

http://www.baidu.com
http://www.sina.com
http://www.sohu.com

千万量级以内的统计,都可以随手计算,计算时间在可以接受的范围内,无需动用mapreduce。

posted @   刘浩de技术博客  阅读(824)  评论(2编辑  收藏  举报
编辑推荐:
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
阅读排行:
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 地球OL攻略 —— 某应届生求职总结
· 提示词工程——AI应用必不可少的技术
· Open-Sora 2.0 重磅开源!
· 周边上新:园子的第一款马克杯温暖上架
点击右上角即可分享
微信分享提示