项目二：使用机器学习（SVM）进行基因预测
SVM软件包
LIBSVM -- A Library for Support Vector Machines（本项目所用到的SVM包）（目前最新版：libsvm-3.21，2016年7月8日）
C-SVC(C-support vector classification), nu-SVC(nu-support vector classification), one-class SVM(distribution estimation), epsilon-SVR(epsilon-support vector regression), nu-SVR(nu-support vector regression).
官网学习资料：
- A practical guide to SVM classification（guide.pdf）（官网有配套练手数据）
- 官网程序压缩包里的帮助文档 程序 README 文档（核心）； 以及 FAQ.html（常见问题）{每个单独模块都有 README 文档}
- libsvm官方下载链接（有时首页的下载链接打不开）
libsvm的原理及使用方法介绍（文库，全面，是对上面博客的总结）
libsvm安装教学（文库繁体）
- gnuplot安装及使用(Linux)
- Linux下使用Libsvm
练手项目（百度libsvm项目）：
说一说我对用LIBSVM进行回归预测的粗浅认识（整理完成于2012年5.11）
LIBSVM的缩放和结果分析(转载)
本项目中需要用到预测的概率，所以在训练和预测时，均要加上-b参数。
>svm-train.exe -b 1 scaled_1 scaled_1_model
>svm-predict.exe -b 1 test_1 scaled_1_model scaled_1_output_file
我们还更改了流程化脚本easy.py和grid.py：
主要为了解决交叉检验的效率，参数选优的效率（内存和并行），以及概率输出。
我做的工作：
曹老师给了我原始数据（正负训练集，测试集），我首先写perl脚本，进行格式转换；转化为libsvm可用的格式；
其次搞懂libsvm的使用，主要是scale、train、predict，比较简单；其中scale必须保证缩放规则相同，-s，-r；train选c-svc，内核选RBF，-b概率输出；predict就是-b概率预测就好了；整个流程都被写在easy.py脚本里了，看懂脚本，对命令做简单的修改，就可以一步执行了；其中参数选优最为耗时，需适当修改grid.py脚本。
最后，我还做了one-class的建模和预测；这个没有参数寻优的脚本，也不支持概率输出，所以我就选了几个参数试了试；其中-n非常重要。
后续工作：
accuracy、sensitivity、specificity等统计指标的分析
用coreset来限制训练集，建立模型，来预测训练集中其他的部分；
SVM基础知识
支持向量机通俗导论（理解SVM的三层境界）（全） （分3章，文章末尾有很多SVM的学习资料）
Coursera的ML视频：Machine Learning - 第7周（Support Vector Machines）
深入理解参数选优时交叉检验的作用：libsvm交叉验证（讲得很好）
基因注释概念
基因组注释介绍 注释四部分：重复序列；非编码RNA；基因结构；功能注释。
真核基因组注释方法与流程的文章 ： A beginner's guide to eukaryotic genome annotation
转座子 - 可移动的遗传因子， 一段DNA顺序可以从原位上单独复制或断裂下来，环化后插入另一位点，并对其后的基因起调控作用，此过程称转座。
coreset
数据前处理
注意：
- 去掉此列95_IsLongerGeneCover（这个特征值会影响预测结果，不需要它，所以除去，很简单一个last搞定）
- 训练集正负样本有严重的数量差距，这也会影响训练和预测的结果的准确度。测试发现：pos = 29778, neg = 2238.
1.我拿到的数据有两种，一个是用于二分类的数据；一个是用于4分类的数据。
2.二分类的数据曹老师已经帮我提取好了，我只需要处理成libsvm的输入格式就行；四分类的数据则需要我自己处理，曹老师只给了我总表，已经相应的基因序列号，我需要单独提取处理出来，转成libsvm所需的格式。（里面有5个数据，一个总表，另外四种类型的基因数据。总表中，刚刚说的，前5列不用考虑，然后把非数值型转成数值型再做。如果结果 不好的话，将四种训练集中的样本数目降成相当的数目，以免引起偏差。）
3.数据格式处理？这个需要详细说明
首先，明确libsvm的格式要求，+1 1:0.708333 2:1 3:1 4:-0.320755 5:-0.105023 6:-1 7:1 8:-0.419847 9:-1 10:-0.225806 12:1 13:-1 （行末尾有空格）；
其次，我们的表格数据里的哪些数据是无用的？非数值列如何转换为数值型数据？如何合理制作标签？数据按列进行处理；前5列：1_Chrom 2_GeneID 3_Start 4_End 5_Strand是无用的，因为它们只是基因的基本信息，需要去掉；最后一列是预测目标，需要提到第一列；其他的列数值化比较简单。
麻烦的是6_Evidence列的处理，根据曹老师要求，根据优先级进行分类，凡是有PROTEIN的归一类；否则，凡是有cDNA归一类；否则，凡是有oest的归一类；否则，凡是有EST的归一类；其他的归为最后一类（可能不存在这一类，因为都有证据）。
perl脚本得出的第6列（共15种）：
PROTEIN|cDNA|oest AND EST|PROTEIN|cDNA AND PROTEIN|cDNA AND EST|PROTEIN AND EST|PROTEIN|oest AND EST|PROTEIN|cDNA|oest AND PROTEIN AND PROTEIN|oest = 1
EST|cDNA AND cDNA AND cDNA|oest AND EST|cDNA|oest = 2
oest AND EST|oest = 3
EST = 4
perl脚本得出的第8列（共5种）：
protein_coding_partial = 1
protein_coding = 2
untranslated = 3
pseudogene = 4
protein_coding_short = 5
参考：
perl 提取文件的指定列
perl split()函数详解
总结经验
数据版本的控制，很大的问题，有时候只对数据做很小的修改，然后重新跑，改多了，对数据版本的控制的需求就来了，否则时间一久，根本就不知道自己当初每次都做了啥。（重在项目记录）
