Nodejs抓取非utf8字符编码的页面
纯Javascript转换编码的模块 iconv-lite可以实现window下的转换 ,通过npm可以安装此模块
var http = require( 'http' ); var iconv = require( 'iconv-lite' ); var url=require( 'url' ); var html = "" ; var getURL = url.parse( 'http://bj.soufun.com/' ); var req =http.get(getURL, function (res) { res.setEncoding( 'binary' ); //or hex res.on( 'data' , function (data) { //加载数据,一般会执行多次 html += data; }).on( 'end' , function () { var buf= new Buffer(html, 'binary' ); //这一步不可省略 var str=iconv.decode(buf, 'GBK' ); //将GBK编码的字符转换成utf8的 console.log(str); }) }).on( 'error' , function (err) { console.log( "http get error:" ,err); }); |
如果您觉得此文有帮助,可以打赏点钱给我支付宝1669866773@qq.com ,或扫描二维码


机器瞎学/数据掩埋/模式混淆/人工智障/深度遗忘/神经掉线/计算机幻觉/专注单身二十五年
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
2012-02-23 mass Framework pagination插件v2