数据采集:完美下载淘宝Ip数据库 简单的程序节省60元人民币而不必购买数据库
曾经做网站类型的程序时,经常需要收集客户端的访问数据,然后加以分析。这需要一个Ip数据库,数据表中显示Ip所在的省份市区等信息。网络上有流传的Ip纯真数据库,一些公开的Web服务也可以查询Ip地址信息,但是24小时内超过查询次数就需要购买商业授权,网站myds.net上提供了Ip数据库下载,不过需要收取60元人民币。
最后一种方法,也就是不花钱的办法,用C#调用淘宝的Ip地址库,准确率高,而且查询次数不限制。
先参考网方提供的文档:
淘宝IP地址库,提供API
提供的服务包括:
1. 根据用户提供的IP地址,快速查询出该IP地址所在的地理信息和地理相关的信息,包括国家、省、市和运营商。
2. 用户可以根据自己所在的位置和使用的IP地址更新我们的服务内容。
优势:
1. 提供国家、省、市、县、运营商全方位信息,信息维度广,格式规范。
2. 提供完善的统计分析报表,省准确度超过99.8%,市准确度超过96.8%,数据质量有保障。
接口说明
1. 请求接口(GET):
http://ip.taobao.com/service/getIpInfo.php?ip=[ip地址字串]
2. 响应信息:
(json格式的)国家 、省(自治区或直辖市)、市(县)、运营商
3. 返回数据格式:
{"code":0,"data":{"ip":"210.75.225.254","country":"\u4e2d\u56fd","area":"\u534e\u5317",
"region":"\u5317\u4eac\u5e02","city":"\u5317\u4eac\u5e02","county":"","isp":"\u7535\u4fe1",
"country_id":"86","area_id":"100000","region_id":"110000","city_id":"110000",
"county_id":"-1","isp_id":"100017"}}
其中code的值的含义为,0:成功,1:失败。
步骤1 : 找到枚举互联网Ip地址的方法
StackOverflow上面有一篇文章,讲解如何枚举所有的互联网Ip地址。请参考 C# Enumerate IP addresses in a range - Stack Overflow
请看下面的Ip地址参数例子
'192.0.2.1' 一个Ip地址
'192.0.2.0-31' 枚举192.0.2.0-192.0.2.31 一共32个Ip地址
'192.0.2-3.1-254' 枚举192.0.2.1-192.0.2.254和 192.0.3.1-192.0.3.254 一共254个IP地址
'0-255.0-255.0-255.0-255' 枚举互联网上所有的IPv4地址
代码中的调用方法
string pattern="200.64-71.0-255.0-255"; IPRange ipRange=new IPRange(pattern); List<IPAddress> addresses=ipRange.GetAllIP();
这样,就得到了所有的Ip地址。
步骤2:依此发送Web请求,得到Json返回值
参考下面的代码,得到每个Ip地址的查询结果
WebRequest request = HttpWebRequest.Create("http://ip.taobao.com/service/getIpInfo.php?ip-200.9.210.200"); request.Credentials = CredentialCache.DefaultCredentials; HttpWebResponse response = (HttpWebResponse) request.GetResponse(); Stream dataStream = response.GetResponseStream(); StreamReader reader = new StreamReader(dataStream); string responseFromServer = reader.ReadToEnd(); reader.Close(); dataStream.Close(); response.Close();
这里为了提高性能,可以用多线程,也可以并行方法,如下面的代码例子
Parallel.ForEach(addresses, (address)=> { …… });3 解析请求的Json结果,生成DataTable
把Json变成.NET Object有几种方法。著名的JSON.NET自然很容易就实现,但是不我想依赖第三方的库,.NET内置的JavaScriptSerializer可以实现这个目的。
JavaScriptSerializer serializer=new JavaScriptSerializer(); object obj=serializer.Deserialize<object>(json); Dictionary<string,object> ip=obj as Dictionary<string,object>
Json解析的结果,是二个Dictionary,第一个默认是0,我取第二个字典项的Value的值,它是一个字符串Array
于是,根据这个字符串数组,生成表的列。
4 合并所有Ip地址的DataTable数据到一个DataTable中,并把它写到Access数据库中
先创建一个结果表,用于存放每个Ip地址采集的数据
DataTable final=new DataTable() ...json => DataTable table; if(final.Columns.Count==0) final=table.Clone(); final.Merge(table);
再创建一个AccessHelper类型,可以直接写数据到文件中。
AccessHelper access=new AccessHelper(@"C:\Data\Ip.accdb"); access.AppendData(final);
它会根据DataTable的结构,自动生成创建Access表结构的SQL语句,再把DataTable中的数据以参数的方式插入到
数据表中。 这里应该注意,不应该用Microsoft.Jet.Oledb4.0,Jet很早就停止开发,并且不能在x64的电脑中运行。一种办法是要将Target设成x86,或是使用Access Runtime 2007,它提供了Microsft.Ace.12.0,这个新的驱动程序,可以运行于x64系统中,并且支持新的accdb格式的数据库。
原文地址:http://www.cnblogs.com/JamesLi2015/p/3145372.html