网页抓取数据小工具-简化数值变量值

笔者出于兴趣或者工作需要，会经常对一些网站的数据进行数据抓取，对于像淘宝、携程、百度这类大型互联网公司的网站，出于安全或者性能考虑，常常会针对网站加入反抓取策略脚本。

在该类脚本中，常见的手法有以下几种：

1. 针对简单数值变量的值，会把它用一个数值表达式来表示，让你没办法一眼看穿它，如：_lkqr = - ((104 | 3525868) % 705192)

2. 把一个简单的数值，用手法1中两个变量进行运算，得到真正数值。如： _set = _lkqr + _lnz

3. 提供一个字符串转换函数，让你无法理解它给你的字符串的真正涵义。

4. 加入一些适当的废代码，让你很难抓住真正的逻辑

5. 把Js调用的方式，采用数组方式来调用。如window.document会写成window['document']

6. 其他。。。

在这篇文章中，我主要是想针对问题1做了一个简单的小程序，化复杂表达式为简单数值，提高分析效率。

            ExprEvalUtil expUtil = new ExprEvalUtil();
            Regex regex = new Regex(@"\({1,}((0x[0-9a-f]+)|(\d+))(\s*[\+\-\*\/\%\|\&\^\>\<]{1,2}\s*\(*[ \t]*((0x[0-9a-f]+)|(\d+))\s*\)*)+", RegexOptions.IgnoreCase | RegexOptions.IgnorePatternWhitespace | RegexOptions.Compiled);
            String jsContent = null;
            FileStream fs = new FileStream("d:\\somejs.js", FileMode.Open);
            using (TextReader reader = new StreamReader(fs))
            {
                jsContent = reader.ReadToEnd();
            }

            string result = regex.Replace(jsContent, m =>
            {
                string value = m.Value;
                int lkValue = 0;
                int index = -1;
                while ((index = value.IndexOf('(', index + 1)) != -1)
                {
                    lkValue++;
                }

                int rkValue = 0;
                //index = 0;
                while ((index = value.IndexOf(')', index + 1)) != -1)
                {
                    rkValue++;
                }

                String preStr = "";
                if (rkValue < lkValue)
                {
                    value = value.Remove(0, lkValue - rkValue);
                    preStr = new String('(', lkValue - rkValue); 
                }

                String postStr = "";
                if (rkValue > lkValue)
                {
                    value = value.Remove(value.Length - rkValue + lkValue);
                    postStr = new String(')', rkValue - lkValue);
                }

                try
                {
                   value = expUtil.Eval(value).ToString();
                }
                catch (Exception ex)
                {
                    return m.Value;
                }

                return preStr + value + postStr;
            });

            Console.WriteLine(result);

其中的ExpEvalUtil代码，我利用了网上的一个Javascript解释器（Jussica)引擎实现，代码如下：

    public class ExprEvalUtil
    {
        private ScriptEngine engine = new ScriptEngine();

        public int Eval(string expr)
        {
            return (int)Convert.ChangeType(engine.Evaluate(expr), typeof(int));
        }
    }

通过上述代码进行一个处理后，你是不是觉得有点眼前一新的感觉了？

笔者实际上对后面几个问题解决，也有了新的思路，欢迎更多同学加入探讨