一、学习资源:

北京博雅数据酷客平台大讲堂:http://cookdata.cn/auditorium/course_room/10012/

二、相关简单介绍

1、大数据是指数据采集、数据清洗、数据分析和数据应用的整个流程中的理论、技术和方法

2、机器学习是大数据分析的核心内容。机器学习解决的是找到将X和Y关联的模型F,从Data到X的步骤通常是人工完成的(特征工程)

3、深度学习是机器学习的一部分,其核心是自动找到对特定任务有效的特征,也即自动完成Data到X的转换

4、人工智能是模拟人类(自动驾驶、围棋AlphaGo)的行为

 

三、机器学习的方法

四、基本概念

1、数据集:一组样本的集合

2、数据集的一行。一个样本包含一个或多个特征,此外还可能包含一个标签

3、特征:在进行预测时使用的输入变量

 

 

五、基本流程

六、机器学习的数学结构

1、度量结构:表示数据之间的距离

2、网络结构:有些数据本身就是有网络结构,入社交网络。如果没有可以利用度量结构给数据附加一个网络结构

3、代数结构:降数据看作向量、矩阵或更高阶段的张量

4、几何结构:留形、对身性等

七、相关案例

import pandas as pd
%matplotlib inline
raw_train = pd.read_csv("./input/train_sample_utf8.csv",encoding="utf8")
raw_test = pd.read_csv("./input/test_sample_utf8.csv",encoding="utf8")
raw_train.head(5)
raw_test.head(5)
raw_train.shape
raw_test.shape
View Code
import matplotlib.pyplot as plt
plt.figure(figsize=(15, 8))
plt.subplot(1, 2, 1)
raw_train["分类"].value_counts().sort_index().plot(kind="barh",title='训练集新闻主题分布')
plt.subplot(1, 2, 2)
raw_test["分类"].value_counts().sort_index().plot(kind="barh",title='测试集新闻主题分布')
View Code

 

posted on 2021-01-26 21:13  阡陌祁画  阅读(116)  评论(0编辑  收藏  举报