用http代理下载sourceforge的cvs仓库[原理+C#代码]
12月的地震震断了几根光缆,麻烦的事情接踵而至,直连sourceforge上不去了,只好用代理。虽然能够下载到打包好的代码,但某些代码已显得陈旧,而cvs最新的代码确要用工具checkout,但很郁闷的事情cvs不支持http代理。有一下一些解决办法:
1、找sockets代理,然后用eborder等软件使cvs能够用。明显,网络上提供sockets代理的少之又少。
2、通过工具把http代理变成sockets代理。当然此法能够行得通,但cvs checkout的速度慢的惊人,没有可行性。
3、找联通的网络,他们出国没有受到损坏,速度很快。
4、等待网络修好:)
5、另:感谢A.E告诉我eclipse也可以支持!
……
由于急需一些开源项目的cvs代码,以上途径又不太现实,所以还是另想办法。
但令人高兴的是,我可以用http代理通过浏览器查看sourceforge的ViewVC工具所提供的cvs代码,这给我了很大的启发,准备利用 ViewVC来下载源代码。随后就分析ViewVC生成的页面,我们这里以lib3ds.cvs.sourceforge.net作为例子。
打开页面以后呈现在面前的是一个目录结构,点击进入下一层目录,可以看到ViewVC为我们输出了目录和文件。每一个目录和文件都有一个超链接,如果单击目录的话会进入下一层目录,而点击文件会进入文件的详细说明(例http: //lib3ds.cvs.sourceforge.net/lib3ds/lib3ds/3ds-utils.spec.in?view=log),包括CVS Tags等等。
在http://lib3ds.cvs.sourceforge.net/lib3ds/lib3ds/3ds-utils.spec.in?view=log 页面里,会发现有一个download超链接,这个超链接可以让我们下载到这个文件,点击这个文件以后,地址栏会变为:http: //lib3ds.cvs.sourceforge.net/*checkout*/lib3ds/lib3ds/3ds-utils.spec.in?revision =1.1,文件的详细内容也在眼前了,这就是我们需要的源代码。
请注意地址里面的/*checkout*/,这将是我们的入手点,只要找到文件的相对路径,我们在前面加上/*checkout*/就可以下载这个文件了。而后面的参数可以忽略,默认会得到最新的版本。
很好,下一步就是分析如何得到相对地址。由于ViewVC工具生成的网页代码很有规律,一个目录的超链接类似于:
<a name="examples" href="/lib3ds/lib3ds/examples/" title="View directory contents">
而一个文件的超链接类似于:
<a href="/lib3ds/lib3ds/lib3ds/viewport.h?revision=1.6&view=markup" title="View file contents">
和<a href="/*checkout*/lib3ds/lib3ds/autogen.sh?revision=1.14" title="Download file contents">
只需要通过正则表达式就可以把地址抓出来,剩下的工作应该知道了吧:)
我做了一个小小的程序来实现最基本的功能,对于更多的功能,比如更多的错误恢复、多线程下载等等请自己实现。
VS2005演示工程和下载地址:http://www.hesicong.net/aspx/fileuploader/Upload/Internet_ViewVC_CVS_Checkout.rar
最后不要忘了到我的个人主页来凑个热闹哦http://www.hesicong.net
下面是完整的源代码,在VS2005下编译运行成功。
1、找sockets代理,然后用eborder等软件使cvs能够用。明显,网络上提供sockets代理的少之又少。
2、通过工具把http代理变成sockets代理。当然此法能够行得通,但cvs checkout的速度慢的惊人,没有可行性。
3、找联通的网络,他们出国没有受到损坏,速度很快。
4、等待网络修好:)
5、另:感谢A.E告诉我eclipse也可以支持!
……
由于急需一些开源项目的cvs代码,以上途径又不太现实,所以还是另想办法。
但令人高兴的是,我可以用http代理通过浏览器查看sourceforge的ViewVC工具所提供的cvs代码,这给我了很大的启发,准备利用 ViewVC来下载源代码。随后就分析ViewVC生成的页面,我们这里以lib3ds.cvs.sourceforge.net作为例子。
打开页面以后呈现在面前的是一个目录结构,点击进入下一层目录,可以看到ViewVC为我们输出了目录和文件。每一个目录和文件都有一个超链接,如果单击目录的话会进入下一层目录,而点击文件会进入文件的详细说明(例http: //lib3ds.cvs.sourceforge.net/lib3ds/lib3ds/3ds-utils.spec.in?view=log),包括CVS Tags等等。
在http://lib3ds.cvs.sourceforge.net/lib3ds/lib3ds/3ds-utils.spec.in?view=log 页面里,会发现有一个download超链接,这个超链接可以让我们下载到这个文件,点击这个文件以后,地址栏会变为:http: //lib3ds.cvs.sourceforge.net/*checkout*/lib3ds/lib3ds/3ds-utils.spec.in?revision =1.1,文件的详细内容也在眼前了,这就是我们需要的源代码。
请注意地址里面的/*checkout*/,这将是我们的入手点,只要找到文件的相对路径,我们在前面加上/*checkout*/就可以下载这个文件了。而后面的参数可以忽略,默认会得到最新的版本。
很好,下一步就是分析如何得到相对地址。由于ViewVC工具生成的网页代码很有规律,一个目录的超链接类似于:
<a name="examples" href="/lib3ds/lib3ds/examples/" title="View directory contents">
而一个文件的超链接类似于:
<a href="/lib3ds/lib3ds/lib3ds/viewport.h?revision=1.6&view=markup" title="View file contents">
和<a href="/*checkout*/lib3ds/lib3ds/autogen.sh?revision=1.14" title="Download file contents">
只需要通过正则表达式就可以把地址抓出来,剩下的工作应该知道了吧:)
我做了一个小小的程序来实现最基本的功能,对于更多的功能,比如更多的错误恢复、多线程下载等等请自己实现。
VS2005演示工程和下载地址:http://www.hesicong.net/aspx/fileuploader/Upload/Internet_ViewVC_CVS_Checkout.rar
最后不要忘了到我的个人主页来凑个热闹哦http://www.hesicong.net
下面是完整的源代码,在VS2005下编译运行成功。
using System;
using System.Collections.Generic;
using System.Text;
using System.Net;
using System.IO;
using System.Text.RegularExpressions;
namespace Internet_ViewVC_CVS_Checkout
{
/// <summary>
/// A simple ViewVC CVS checkout class
/// Author: hesicong
/// Homepage: www.hesicong.net hesicong.cnblogs.com
/// </summary>
public class ViewVC_CVS_Checkout
{
public static Regex regFindDir = new Regex(
@"href=""(?<DIRURL>.*)?""\s*title=""View\sdirectory\scontents"">",
RegexOptions.IgnoreCase
| RegexOptions.CultureInvariant
| RegexOptions.IgnorePatternWhitespace
| RegexOptions.Compiled
);
public static Regex regFindFiles = new Regex(
@"href=""(?<FILEURL>.*)?\?(.*)""\s*title=""(View|Download)\sfi"
+ @"le\scontents"">",
RegexOptions.IgnoreCase
| RegexOptions.CultureInvariant
| RegexOptions.IgnorePatternWhitespace
| RegexOptions.Compiled
);
public class DirList
{
public List<DirList> dir;
public List<string> file;
};
static string store;
static WebClient wc = new WebClient();
static WebClient wcFileDown = new WebClient();
public static void Main()
{
Console.ForegroundColor = ConsoleColor.White;
WebProxy proxy = new WebProxy();
Console.WriteLine("======================================================================");
Console.WriteLine(" ViewVC CVS Checkout ");
Console.WriteLine(" Author:hesicong Homepage:www.hesicong.net hesicong.cnblogs.com ");
Console.WriteLine("======================================================================");
Console.Write("Enter your Proxy:(IP:PORT): ");
proxy.Address = new Uri("HTTP://"+Console.ReadLine());
Console.Write(@"ViewVC Start URL:(HTTP:///): ");
wc.BaseAddress = Console.ReadLine();
Console.Write(@"Where to store your files? (Driver:\Dir): ");
store = Console.ReadLine();
wcFileDown.Proxy = proxy;
wc.Proxy = proxy;
Console.WriteLine("Start downloading");
DirList dl;
dl = getTree("/");
Console.WriteLine("Done! Press Enter Key to Finish");
Console.ReadLine();
}
/// <summary>
/// Search the newest files and download them from CVS
/// </summary>
/// <param name="address">Relative url where ViewVC page</param>
/// <returns></returns>
public static DirList getTree(string address)
{
DirList dir = new DirList();
dir.dir=new List<DirList>();
dir.file = new List<string>();
Console.ForegroundColor = ConsoleColor.DarkGreen;
Console.WriteLine("[Getting Content] " + address);
string src;
try
{
src = wc.DownloadString(address);
}
catch(Exception ex)
{
Console.WriteLine(ex.Message);
return null;
}
MatchCollection dirMc = regFindDir.Matches(src);
//Add dirs
Console.WriteLine("Find " + dirMc.Count + " Dirs");
foreach (Match aDirMatch in dirMc)
{
string aDir = aDirMatch.Groups["DIRURL"].Value;
Console.ForegroundColor = ConsoleColor.Green;
Console.WriteLine("[Enter DIR] " + aDir);
dir.dir.Add(getTree(aDir));
}
MatchCollection fileMc = regFindFiles.Matches(src);
Console.WriteLine("Find " + fileMc.Count + " Files");
foreach (Match aFileMatch in fileMc)
{
string aFile = aFileMatch.Groups["FILEURL"].Value;
aFile = aFile.Replace("/*checkout*", ""); //Replace download file content url to normal
dir.file.Add(aFile);
string b = wc.BaseAddress.ToString();
string urlToDown = b + "*checkout*" + aFile;
Console.ForegroundColor = ConsoleColor.Yellow;
Console.WriteLine(" Downloading: "+urlToDown);
string fileStore = store + aFile.Replace('/','\\');
string fileStoreDir=Path.GetDirectoryName(fileStore);
if(Directory.Exists(fileStoreDir)==false)
{
Directory.CreateDirectory(fileStoreDir);
}
if(File.Exists(fileStore)==true)
{
Console.ForegroundColor = ConsoleColor.Red;
Console.Write(" File already exist, rewrite?(Y/N)");
if(Console.ReadKey().Key==ConsoleKey.Y)
{
File.Delete(fileStore);
}
Console.WriteLine();
}
try
{
wcFileDown.DownloadFile(urlToDown, fileStore);
}
catch(Exception ex)
{
Console.WriteLine(ex.Message);
return null;
}
}
Console.ResetColor();
return dir;
}
}
}
using System.Collections.Generic;
using System.Text;
using System.Net;
using System.IO;
using System.Text.RegularExpressions;
namespace Internet_ViewVC_CVS_Checkout
{
/// <summary>
/// A simple ViewVC CVS checkout class
/// Author: hesicong
/// Homepage: www.hesicong.net hesicong.cnblogs.com
/// </summary>
public class ViewVC_CVS_Checkout
{
public static Regex regFindDir = new Regex(
@"href=""(?<DIRURL>.*)?""\s*title=""View\sdirectory\scontents"">",
RegexOptions.IgnoreCase
| RegexOptions.CultureInvariant
| RegexOptions.IgnorePatternWhitespace
| RegexOptions.Compiled
);
public static Regex regFindFiles = new Regex(
@"href=""(?<FILEURL>.*)?\?(.*)""\s*title=""(View|Download)\sfi"
+ @"le\scontents"">",
RegexOptions.IgnoreCase
| RegexOptions.CultureInvariant
| RegexOptions.IgnorePatternWhitespace
| RegexOptions.Compiled
);
public class DirList
{
public List<DirList> dir;
public List<string> file;
};
static string store;
static WebClient wc = new WebClient();
static WebClient wcFileDown = new WebClient();
public static void Main()
{
Console.ForegroundColor = ConsoleColor.White;
WebProxy proxy = new WebProxy();
Console.WriteLine("======================================================================");
Console.WriteLine(" ViewVC CVS Checkout ");
Console.WriteLine(" Author:hesicong Homepage:www.hesicong.net hesicong.cnblogs.com ");
Console.WriteLine("======================================================================");
Console.Write("Enter your Proxy:(IP:PORT): ");
proxy.Address = new Uri("HTTP://"+Console.ReadLine());
Console.Write(@"ViewVC Start URL:(HTTP:///): ");
wc.BaseAddress = Console.ReadLine();
Console.Write(@"Where to store your files? (Driver:\Dir): ");
store = Console.ReadLine();
wcFileDown.Proxy = proxy;
wc.Proxy = proxy;
Console.WriteLine("Start downloading");
DirList dl;
dl = getTree("/");
Console.WriteLine("Done! Press Enter Key to Finish");
Console.ReadLine();
}
/// <summary>
/// Search the newest files and download them from CVS
/// </summary>
/// <param name="address">Relative url where ViewVC page</param>
/// <returns></returns>
public static DirList getTree(string address)
{
DirList dir = new DirList();
dir.dir=new List<DirList>();
dir.file = new List<string>();
Console.ForegroundColor = ConsoleColor.DarkGreen;
Console.WriteLine("[Getting Content] " + address);
string src;
try
{
src = wc.DownloadString(address);
}
catch(Exception ex)
{
Console.WriteLine(ex.Message);
return null;
}
MatchCollection dirMc = regFindDir.Matches(src);
//Add dirs
Console.WriteLine("Find " + dirMc.Count + " Dirs");
foreach (Match aDirMatch in dirMc)
{
string aDir = aDirMatch.Groups["DIRURL"].Value;
Console.ForegroundColor = ConsoleColor.Green;
Console.WriteLine("[Enter DIR] " + aDir);
dir.dir.Add(getTree(aDir));
}
MatchCollection fileMc = regFindFiles.Matches(src);
Console.WriteLine("Find " + fileMc.Count + " Files");
foreach (Match aFileMatch in fileMc)
{
string aFile = aFileMatch.Groups["FILEURL"].Value;
aFile = aFile.Replace("/*checkout*", ""); //Replace download file content url to normal
dir.file.Add(aFile);
string b = wc.BaseAddress.ToString();
string urlToDown = b + "*checkout*" + aFile;
Console.ForegroundColor = ConsoleColor.Yellow;
Console.WriteLine(" Downloading: "+urlToDown);
string fileStore = store + aFile.Replace('/','\\');
string fileStoreDir=Path.GetDirectoryName(fileStore);
if(Directory.Exists(fileStoreDir)==false)
{
Directory.CreateDirectory(fileStoreDir);
}
if(File.Exists(fileStore)==true)
{
Console.ForegroundColor = ConsoleColor.Red;
Console.Write(" File already exist, rewrite?(Y/N)");
if(Console.ReadKey().Key==ConsoleKey.Y)
{
File.Delete(fileStore);
}
Console.WriteLine();
}
try
{
wcFileDown.DownloadFile(urlToDown, fileStore);
}
catch(Exception ex)
{
Console.WriteLine(ex.Message);
return null;
}
}
Console.ResetColor();
return dir;
}
}
}