Huffman

huffman是非常基础的压缩算法。

实现霍夫曼树的方式有很多种，可以使用优先队列（Priority Queue）简单达成这个过程，给与权重较低的符号较高的优先级（Priority），算法如下：

⒈把n个终端节点加入优先队列，则n个节点都有一个优先权Pi，1 ≤ i ≤ n
⒉如果队列内的节点数>1，则：

⑴从队列中移除两个最大的Pi节点，即连续做两次remove(max(Pi), Priority_Queue)
⑵产生一个新节点，此节点为（1）之移除节点之父节点，而此节点的权重值为（1）两节点之权重和
⑶把（2）产生之节点加入优先队列中
⒊最后在优先队列里的点为树的根节点（root）

而此算法的时间复杂度（ Time Complexity）为O（n log n）；因为有n个终端节点，所以树总共有2n-1个节点，使用优先队列每个循环须O（log n）。
此外，有一个更快的方式使时间复杂度降至线性时间（Linear Time）O(n)，就是使用两个队列（Queue）创件霍夫曼树。第一个队列用来存储n个符号（即n个终端节点）的权重，第二个队列用来存储两两权重的合（即非终端节点）。此法可保证第二个队列的前端（Front）权重永远都是最小值，且方法如下:

⒈把n个终端节点加入第一个队列（依照权重大小排列，最小在前端）
⒉如果队列内的节点数>1，则:

⑴从队列前端移除两个最低权重的节点
⑵将（1）中移除的两个节点权重相加合成一个新节点
⑶加入第二个队列
⒊最后在第一个队列的节点为根节点

虽然使用此方法比使用优先队列的时间复杂度还低，但是注意此法的第1项，节点必须依照权重大小加入队列中，如果节点加入顺序不按大小，则需要经过排序，则至少花了O（n log n）的时间复杂度计算。
但是在不同的状况考量下，时间复杂度并非是最重要的，如果我们今天考虑英文字母的出现频率，变量n就是英文字母的26个字母，则使用哪一种算法时间复杂度都不会影响很大，因为n不是一笔庞大的数字。

#include <iostream>
#include <algorithm>
#include <unordered_map>
#include <vector>
#include <queue>
#include <fstream>
#include <sstream>
#include <string>

using namespace std;

class Huffman {
    public:
        Huffman() {}
        ~Huffman() {
            freeTree(root);
        }

        void init(string filename) {
            ifstream in(filename.c_str());
            string line; 
            while(getline(in, line)) {
                stringstream ss(line);
                char symbol; 
                float p;
                ss >> symbol >> p;
                symbolInfo.push_back(new Node(symbol, p));
            }
            root = buildTree2();
            generateCodes(root, "");
        }

        void print() const {
            for (auto it = codes.begin(); it != codes.end(); ++it) {
                cout << it->first << ": " << it->second << endl;
            }
        }

        string encode(string input) {
            stringstream ans;
            for (int i = 0; i < input.length(); ++i) {
                ans << codes[input[i]];
            }
            return ans.str();
        }

        string decode(string input) {
            if (root == NULL) return "";
            stringstream ans;
            for (int i = 0; i < input.length(); ) {
                Node* p = root;
                for ( ; p != NULL; ++i) {
                    if (p->left == NULL && p->right == NULL) {
                        ans << p->symbol;
                        break;
                    }
                    if (input[i] == '0') {
                        p = p->left;
                    } else if (input[i] == '1') {
                        p = p->right;
                    } else {
                        return "";
                    }
                }
            }
            return ans.str();
        }
    private:
        struct Node {
            char symbol;
            float p;
            Node* left;
            Node* right;
            Node(char s, float p, Node* l = NULL, Node* r = NULL):symbol(s), p(p), left(l), right(r) {}
        };
        
        static bool nodeCompare(Node* n1, Node* n2) {
            return n1->p > n2->p;
        }
    
        // O(nlgn)
        Node* buildTree() {
            if (symbolInfo.empty()) return NULL;
            make_heap(symbolInfo.begin(), symbolInfo.end(), nodeCompare);
            while (symbolInfo.size() > 1) {
                // get the smallest
                Node* n1 = symbolInfo.front();
                pop_heap(symbolInfo.begin(), symbolInfo.end(), nodeCompare);
                symbolInfo.pop_back();
                // get the second smallest
                Node* n2 = symbolInfo.front();
                pop_heap(symbolInfo.begin(), symbolInfo.end(), nodeCompare);
                symbolInfo.pop_back();
                
                Node* n3 = new Node('@', n1->p + n2->p, n1, n2);
                symbolInfo.push_back(n3);
                push_heap(symbolInfo.begin(), symbolInfo.end(), nodeCompare);
            }
            return symbolInfo[0];
        }

        class Comparator {
            public:
            bool operator() (const Node* n1, const Node* n2) const {
                return n1->p > n2->p;
            }
        };

        Node* buildTree2() {
            if (symbolInfo.empty()) return NULL;
            priority_queue<Node*, vector<Node*>, Comparator> queue(symbolInfo.begin(), symbolInfo.end());
            while (queue.size() > 1) {
                Node* n1 = queue.top(); 
                queue.pop();
                Node* n2 = queue.top();
                queue.pop();
                Node* n3 = new Node('@', n1->p + n2->p, n1, n2);
                queue.push(n3);    
            }
            return queue.top();
        }
    
        void freeTree(Node* p) {
            if (p == NULL) return;
            freeTree(p->left);
            freeTree(p->right);
            delete p;
            p = NULL;
        }

        void generateCodes(Node* p, string str) {
            if (p == NULL) return;
            if (p->left == NULL && p->right == NULL) {
                codes[p->symbol] = str;
            }
            
            generateCodes(p->left, str + "0");
            generateCodes(p->right, str + "1");
        }

        vector<Node*> symbolInfo;
        unordered_map<char, string> codes;
        Node* root;
};

int main() {
    Huffman huffman;
    huffman.init("input.txt");
    huffman.print();

    string str = "abcdabcdab";
    string encode = huffman.encode(str);
    cout << str << endl << encode << endl;
    cout << huffman.decode(encode) << endl;
    return 0;
}

这里用了stl的make_heap之类的函数，也尝试用priority_queue。但是两指重构的比较器的形式不同。注意priority_queue的比较器是作为模板参数传进去的，而且是定义成类。

可以用两个简单队列实现O(n)的算法，前提是一开始频率已经排好序。用vector是可以模拟queue，但是pop_front()的效率比较低。

 huffman的正确性证明可以看这篇：http://mindhacks.cn/2011/07/10/the-importance-of-knowing-why-part3/，讲得相当清晰了。