赫夫曼编码
1、基本介绍
-
赫夫曼编码也翻译为哈夫曼编码(Huffman Coding)，又称霍夫曼编码，是一种编码方式, 属于一种程序算法
-
赫夫曼编码是赫哈夫曼树在电讯通信中的经典的应用之一。
-
赫夫曼编码广泛地用于数据文件压缩。其压缩率通常在20%～90%之间
-
赫夫曼码是可变字长编码(VLC)的一种。Huffman于1952年提出一种编码方法，称之为最佳编码
2、原理剖析
2.1、通信领域中信息的处理方式1-定长编码
i like like like java do you like a java // 共40个字符(包括空格) 105
32 108 105 107 101 32 108 105 107 101 32 108 105 107 101 32 106 97 118
97 32 100 111 32 121 111 117 32 108 105 107 101 32 97 32 106 97 118 97
//对应Ascii码 01101001 00100000 01101100 01101001 01101011 01100101
00100000 01101100 01101001 01101011 01100101 00100000 01101100
01101001 01101011 01100101 00100000 01101010 01100001 01110110
01100001 00100000 01100100 01101111 00100000 01111001 01101111
01110101 00100000 01101100 01101001 01101011 01100101 00100000
01100001 00100000 01101010 01100001 01110110 01100001 //对应的二进制
按照二进制来传递信息，总的长度是 359 (包括空格) 在线转码 工具:https://www.mokuge.com/tool/asciito16/
2.1、通信领域中信息的处理方式2-变长编码
i like like like java do you like a java // 共40个字符(包括空格)
d:1 y:1 u:1 j:2 v:2 o:2 l:4 k:4 e:4 i:5 a:5 :9 // 各个字符对应的个数
0= , 1=a, 10=i, 11=e, 100=k, 101=l, 110=o, 111=v, 1000=j, 1001=u,
1010=y, 1011=d 说明：按照各个字符出现的次数进行编码，原则是出现次数越多的，则编码越小，比如 空格出现了9 次， 编码为0
,其它依次类推.按照上面给各个字符规定的编码，则我们在传输 “i like like like java do you like a java”
数据时，编码就是 10010110100… 字符的编码都不能是其他字符编码的前缀，符合此要求的编码叫做前缀编码，
即不能匹配到重复的编码(这个在赫夫曼编码中，我们还要进行举例说明, 不捉急)
2.3、通信领域中信息的处理方式3-赫夫曼编码
i like like like java do you like a java // 共40个字符(包括空格)
d:1 y:1 u:1 j:2 v:2 o:2 l:4 k:4 e:4 i:5 a:5 :9 // 各个字符对应的个数
按照上面字符出现的次数构建一颗赫夫曼树, 次数作为权值.(图后)
//根据赫夫曼树，给各个字符 //规定编码 ， 向左的路径为0 //向右的路径为1 ， 编码如下:
o: 1000 u: 10010 d: 100110 y: 100111 i: 101 a : 110 k: 1110
e: 1111 j: 0000 v: 0001 l: 001 : 01按照上面的赫夫曼编码，我们的"i like like like java do you like a java" 字符串对应的编码为
(注意这里我们使用的无损压缩)1010100110111101111010011011110111101001101111011110100001100001110011001111000011001111000100100100110111101111011100100001100001110
长度为 ： 133 说明: 原来长度是 359 , 压缩了 (359-133) / 359 = 62.9% 此编码满足前缀编码,
即字符的编码都不能是其他字符编码的前缀。不会造成匹配的多义性
注意, 这个赫夫曼树根据排序方法不同，也可能不太一样，这样对应的赫夫曼编码也不完全一样，但是wpl 是一样的，都是最小的, 比如: 如果我们让每次生成的新的二叉树总是排在权值相同的二叉树的最后一个，则生成的二叉树为:
3、最佳实践-数据压缩(创建赫夫曼树)
将给出的一段文本，比如 “i like like like java do you like a java” ， 根据前面的讲的赫夫曼编码原理，对其进行数据压缩处理 ，形式如 "1010100110111101111010011011110111101001101111011110100001100001110011001111000011001111000100100100110111101111011100100001100001110
"
步骤1：根据赫夫曼编码压缩数据的原理，需要创建 “i like like like java do you like a java” 对应的赫夫曼树.
public static Node HefumanTree(List<Node> nodes){
while (nodes.size()>1){
/*
从小到大进行排序, 将每一个数据，每个数据都是一个节点 ， 每个节点可以看成是一颗最简单的二叉树
取出根节点权值最小的两颗二叉树
组成一颗新的二叉树, 该新的二叉树的根节点的权值是前面两颗二叉树根节点权值的和
再将这颗新的二叉树，以根节点的权值大小 再次排序， 不断重复 1-2-3-4 的步骤，直到数列中，所有的数据都被处理，就得到一颗赫夫曼树*/
Collections.sort(nodes);
Node leftNode = nodes.get(0);
Node rightNode = nodes.get(1);
Node node=new Node(null,leftNode.weight+rightNode.weight);
node.left=leftNode;
node.right=rightNode;
nodes.remove(leftNode);
nodes.remove(rightNode);
nodes.add(node);
}
Node result=nodes.get(0);
return result;
}
class Node implements Comparable<Node>{
public Byte data;
public int weight;
public Node left;
public Node right;
public Node(Byte data, int weight) {
this.data = data;
this.weight = weight;
}
public void preOrder(){
System.out.println(this);
if (this.left!=null){
this.left.preOrder();
}
if (this.right!=null){
this.right.preOrder();
}
}
@Override
public String toString() {
return "Node{" +
"data=" + data +
", weight=" + weight +
'}';
}
@Override
public int compareTo(Node o) {
return this.weight-o.weight;
}
}
我们已经生成了 赫夫曼树, 下面我们继续完成任务
- 生成赫夫曼树对应的赫夫曼编码 , 如下表:=01 a=100 d=11000 u=11001 e=1110 v=11011 i=101 y=11010 j=0010 k=1111 l=000 o=0011
- 使用赫夫曼编码来生成赫夫曼编码数据 ,即按照上面的赫夫曼编码，将"i like like like java do you like a java" 字符串生成对应的编码数据, 形式如下.1010100010111111110010001011111111001000101111111100100101001101110001110000011011101000111100101000101111111100110001001010011011100
/**
* 压缩字符码编码
* @param str
* @return
*/
private static byte[] zipCode(byte[] bytes) {
Map<Byte,Integer> map=new HashMap<>();
for (byte aByte : bytes) {
Integer count = map.get(aByte);
if (count==null){
map.put(aByte,1);
}else{
map.put(aByte,count+1);
}
}
List<Node> nodes=new ArrayList<>();
for (Byte aByte : map.keySet()) {
Node node=new Node(aByte,map.get(aByte));
nodes.add(node);
}
Node node = HefumanTree(nodes);
preOrder(node);
getCodes(node);
System.out.println("map："+huffMap.toString());
StringBuilder sb=new StringBuilder();
for (byte aByte : bytes) {
String s = huffMap.get(aByte);
sb.append(s);
}
System.out.println(sb.toString());
byte[] huffByte=zip(sb.toString());
System.out.println(Arrays.toString(huffByte));
return huffByte;
}
输出结果
4、最佳实践-数据解压(使用赫夫曼编码解码)
使用赫夫曼编码来解码数据，具体要求是
前面我们得到了赫夫曼编码和对应的编码byte[] , 即**:[-88, -65, -56, -65, -56, -65, -55, 77, -57, 6, -24, -14, -117, -4, -60, -90, 28]**
现在要求使用赫夫曼编码， 进行解码，又重新得到原来的字符串"i like like like java do you like a java"
/**
* 解压字符
* @param bytes
* @return
*/
private static byte[] deHuffMancode(byte[] bytes,Map<Byte,String> huffMap) {
//map转换，key为编码，value为
Map<String,Byte> map=new HashMap<>();
Set<Map.Entry<Byte, String>> entries = huffMap.entrySet();
for (Map.Entry<Byte, String> entry : entries) {
map.put(entry.getValue(),entry.getKey());
}
//byte按位补码256
int temp=0;
StringBuilder stringBuilder=new StringBuilder();
int index=0;
for (byte aByte : bytes) {
temp=aByte;
if (index!=bytes.length-1){
temp=temp|256;
String sb = Integer.toBinaryString(temp);
stringBuilder.append(sb.substring(sb.length()-8));
}else{
temp=temp;
String sb = Integer.toBinaryString(temp);
stringBuilder.append(sb);
}
index++;
}
byte[] decode = decode(stringBuilder.toString(), map);
return decode;
}
private static byte[] decode(String decode,Map<String,Byte> map) {
List<Byte> list = new ArrayList<>();
StringBuilder stringBuilder=new StringBuilder();
for (int i=0;i<decode.length();){
int count=1;
while (true){
String str=decode.substring(i,i+count);
if (map.get(str)!=null){
byte b=map.get(str);
list.add(b);
stringBuilder.append((char)b);
break;
}
count++;
}
i=count+i;
count=1;
}
System.out.println(stringBuilder.toString());
byte[] b = new byte[list.size()];
for (int i = 0; i < b.length; i++) {
b[i] = list.get(i);
}
return b;
}
5、最佳实践-文件压缩
我们学习了通过赫夫曼编码对一个字符串进行编码和解码, 下面我们来完成对文件的压缩和解压， 具体要求：给你一个图片文件，要求对其进行无损压缩, 看看压缩效果如何。
思路：读取文件-> 得到赫夫曼编码表 -> 完成压缩
public static void zipFile(String srcFile,String dstFile) {
//输出流写入数据
OutputStream os = null;
ObjectOutputStream oos = null;
try {
//输入流读入文件数据
InputStream is = new FileInputStream(srcFile);
//读取文件
byte[] b = new byte[is.available()];
//读
is.read(b);
is.close();
//获取压缩后的字节
byte[] huffmanBytes = zipCode(b);
//写入目标目录
os = new FileOutputStream(dstFile);
//写出文件
oos = new ObjectOutputStream(os);
oos.writeObject(huffmanBytes);
//写入输出流
oos.writeObject(huffMap);
} catch (Exception e) {
e.printStackTrace();
} finally {
try {
oos.close();
os.close();
} catch (IOException e) {
e.printStackTrace();
}
}
}
6、最佳实践-文件压缩
具体要求：将前面压缩的文件，重新恢复成原来的文件。
思路：读取压缩文件(数据和赫夫曼编码表)-> 完成解压(文件恢复)
@SuppressWarnings("unchecked")
public static void unZipFile(String zipFile,String dstFile) {
//输入流读取文件
InputStream is = null;
//对象输入流读取并生成对象
ObjectInputStream ois = null;
//文件输出流
OutputStream os = null;
try {
is = new FileInputStream(zipFile);
ois = new ObjectInputStream(is);
//字符码
byte[] b = (byte[]) ois.readObject();
//编码规则
Map<Byte, String> codes = (Map<Byte, String>) ois.readObject();
//解压
byte[] bytes = deHuffMancode(b,codes);
os = new FileOutputStream(dstFile);
//输出
os.write(bytes);
} catch (Exception e) {
e.printStackTrace();
} finally {
try {
ois.close();
is.close();
os.close();
} catch (IOException e) {
// TODO Auto-generated catch block
e.printStackTrace();
}
}
}
7、赫夫曼编码压缩文件注意事项
如果文件本身就是经过压缩处理的，那么使用赫夫曼编码再压缩效率不会有明显变化, 比如视频,ppt 等等文件 [举例压一个 .ppt]
赫夫曼编码是按字节来处理的，因此可以处理所有的文件(二进制文件、文本文件) [举例压一个.xml文件]
如果一个文件中的内容，重复的数据不多，压缩效果也不会很明显.
8、代码整合
package com.qf.hefumancode;
import java.io.*;
import java.util.*;
import java.util.zip.ZipInputStream;
public class HefumanCodeDemo {
static Map<Byte,String> huffMap=new HashMap<>();
static StringBuilder stringBuilder=new StringBuilder();
public static void main(String[] args) {
String str="i like like like java do you like a java";
byte[] by = str.getBytes();
byte[] bytes = zipCode(by);
deHuffMancode(bytes,huffMap);
String src="d:/808a2991_E363644_7269db77.png";
String src1="d:/aa.png";
String dst="d:/dst.zip";
// zipFile(src,dst);
unZipFile(dst,src1);
}
public static void zipFile(String srcFile,String dstFile) {
//输出流写入数据
OutputStream os = null;
ObjectOutputStream oos = null;
try {
//输入流读入文件数据
InputStream is = new FileInputStream(srcFile);
//读取文件
byte[] b = new byte[is.available()];
//读
is.read(b);
is.close();
//获取压缩后的字节
byte[] huffmanBytes = zipCode(b);
//写入目标目录
os = new FileOutputStream(dstFile);
//写出文件
oos = new ObjectOutputStream(os);
oos.writeObject(huffmanBytes);
//写入输出流
oos.writeObject(huffMap);
} catch (Exception e) {
e.printStackTrace();
} finally {
try {
oos.close();
os.close();
} catch (IOException e) {
e.printStackTrace();
}
}
}
@SuppressWarnings("unchecked")
public static void unZipFile(String zipFile,String dstFile) {
//输入流读取文件
InputStream is = null;
//对象输入流读取并生成对象
ObjectInputStream ois = null;
//文件输出流
OutputStream os = null;
try {
is = new FileInputStream(zipFile);
ois = new ObjectInputStream(is);
//字符码
byte[] b = (byte[]) ois.readObject();
//编码规则
Map<Byte, String> codes = (Map<Byte, String>) ois.readObject();
//解压
byte[] bytes = deHuffMancode(b,codes);
os = new FileOutputStream(dstFile);
//输出
os.write(bytes);
} catch (Exception e) {
e.printStackTrace();
} finally {
try {
ois.close();
is.close();
os.close();
} catch (IOException e) {
// TODO Auto-generated catch block
e.printStackTrace();
}
}
}
private static byte[] decode(String decode,Map<String,Byte> map) {
List<Byte> list = new ArrayList<>();
StringBuilder stringBuilder=new StringBuilder();
for (int i=0;i<decode.length();){
int count=1;
while (true){
String str=decode.substring(i,i+count);
if (map.get(str)!=null){
byte b=map.get(str);
list.add(b);
stringBuilder.append((char)b);
break;
}
count++;
}
i=count+i;
count=1;
}
System.out.println(stringBuilder.toString());
byte[] b = new byte[list.size()];
for (int i = 0; i < b.length; i++) {
b[i] = list.get(i);
}
return b;
}
/**
* 压缩字符码编码
* @param str
* @return
*/
private static byte[] zipCode(byte[] bytes) {
Map<Byte,Integer> map=new HashMap<>();
for (byte aByte : bytes) {
Integer count = map.get(aByte);
if (count==null){
map.put(aByte,1);
}else{
map.put(aByte,count+1);
}
}
List<Node> nodes=new ArrayList<>();
for (Byte aByte : map.keySet()) {
Node node=new Node(aByte,map.get(aByte));
nodes.add(node);
}
Node node = HefumanTree(nodes);
preOrder(node);
getCodes(node);
System.out.println("map："+huffMap.toString());
StringBuilder sb=new StringBuilder();
for (byte aByte : bytes) {
String s = huffMap.get(aByte);
sb.append(s);
}
System.out.println(sb.toString());
byte[] huffByte=zip(sb.toString());
System.out.println(Arrays.toString(huffByte));
return huffByte;
}
/**
* 解压字符
* @param bytes
* @return
*/
private static byte[] deHuffMancode(byte[] bytes,Map<Byte,String> huffMap) {
//map转换，key为编码，value为
Map<String,Byte> map=new HashMap<>();
Set<Map.Entry<Byte, String>> entries = huffMap.entrySet();
for (Map.Entry<Byte, String> entry : entries) {
map.put(entry.getValue(),entry.getKey());
}
//byte按位补码256
int temp=0;
StringBuilder stringBuilder=new StringBuilder();
int index=0;
for (byte aByte : bytes) {
temp=aByte;
if (index!=bytes.length-1){
temp=temp|256;
String sb = Integer.toBinaryString(temp);
stringBuilder.append(sb.substring(sb.length()-8));
}else{
temp=temp;
String sb = Integer.toBinaryString(temp);
stringBuilder.append(sb);
}
index++;
}
byte[] decode = decode(stringBuilder.toString(), map);
return decode;
}
private static byte[] zip(String str) {
//判断字符的长度
int length = str.length();
//按照8位截取
int size=0;
if (length%8==0){
size=length/8;
}else {
size=length/8+1;
}
byte[] byteArray=new byte[size];
int index=0;
for (int i = 0; i <length; i=i+8) {
//lemgth 3 length 13
byte code=0;
if (i+8<length){
code=(byte)Integer.parseInt(str.substring(i,i+8),2);
}else{
code=(byte)Integer.parseInt(str.substring(i),2);
}
byteArray[index]=code;
index++;
}
return byteArray;
}
public static void getCodes(Node node){
getCodes(node,"",stringBuilder);
}
public static void getCodes(Node node,String code,StringBuilder stringBuilder){
StringBuilder stringBuilder2=new StringBuilder(stringBuilder);
stringBuilder2.append(code);
if (node!=null){
if (node.data==null){
//向左递归
getCodes(node.left,"0",stringBuilder2);
//向右递归
getCodes(node.right,"1",stringBuilder2);
}else{
huffMap.put(node.data,stringBuilder2.toString());
}
}
}
public static Node HefumanTree(List<Node> nodes){
while (nodes.size()>1){
/*
从小到大进行排序, 将每一个数据，每个数据都是一个节点 ， 每个节点可以看成是一颗最简单的二叉树
取出根节点权值最小的两颗二叉树
组成一颗新的二叉树, 该新的二叉树的根节点的权值是前面两颗二叉树根节点权值的和
再将这颗新的二叉树，以根节点的权值大小 再次排序， 不断重复 1-2-3-4 的步骤，直到数列中，所有的数据都被处理，就得到一颗赫夫曼树*/
Collections.sort(nodes);
Node leftNode = nodes.get(0);
Node rightNode = nodes.get(1);
Node node=new Node(null,leftNode.weight+rightNode.weight);
node.left=leftNode;
node.right=rightNode;
nodes.remove(leftNode);
nodes.remove(rightNode);
nodes.add(node);
}
Node result=nodes.get(0);
return result;
}
public static void preOrder(Node root){
root.preOrder();
}
}
class Node implements Comparable<Node>{
public Byte data;
public int weight;
public Node left;
public Node right;
public Node(Byte data, int weight) {
this.data = data;
this.weight = weight;
}
public void preOrder(){
System.out.println(this);
if (this.left!=null){
this.left.preOrder();
}
if (this.right!=null){
this.right.preOrder();
}
}
@Override
public String toString() {
return "Node{" +
"data=" + data +
", weight=" + weight +
'}';
}
@Override
public int compareTo(Node o) {
return this.weight-o.weight;
}
}
