机器学习之KNN算法

# coding=utf-8

from sklearn.datasets import load_iris, fetch_20newsgroups, load_boston
from sklearn.model_selection import train_test_split, GridSearchCV
from sklearn.neighbors import KNeighborsClassifier
from sklearn.preprocessing import StandardScaler
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.naive_bayes import MultinomialNB
from sklearn.metrics import classification_report
from sklearn.feature_extraction import DictVectorizer
from sklearn.tree import DecisionTreeClassifier, export_graphviz
from sklearn.ensemble import RandomForestClassifier
import pandas as pd
"""
KNN:如果一个样本在特征空间中的K个最相似(即特征空间中最近邻)的样本中的大多数属于某一类别，则样本也属于这个类别
(相似样本，特征之间的值应该是相近的)
距离公式：
    欧式距离：((a1-b1)^2 + (a2-b2)^2 +(a3-b3)^2)^(1/2)
    
KNN需要进行标准化操作

API：from sklearn.neighbors import KNeighborsClassifier


count = df.groupby().count()
count作为df的index
算法流程：
    1、分析问题，是分类还是回归
    2、选取算法
    3、数据处理
        1、读取数据 pd.read_csv()
        2、缩小数据,查询数据缩小    data.query("x>1.0 & x<1.25") 
        3、处理时间的数据   pd.to_datetime(data['time'], unit='s')
        4、把日期格式转换成 字典格式    pd.DatetimeIndex(time_value)
        5、构造一些特征
                data['day'] = time_value.day
                data['hour'] = time_value.hour
                data['weekday'] = time_value.weekday
        6、取出数据当中的特征值和目标值
                y = data['place_id']
                x = data.drop(['place_id'], axis=1)
        7、数据切分
                x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)
    4、特征工程
            std = StandardScaler()
            # 对测试集和训练集的特征值进行标准化
            x_train = std.fit_transform(x_train)
            x_test = std.transform(x_test)

        
        
KNN缺点：
    1、跟K值选取有关，K值太小，容易受异常点影响，K值很大，很容易K值数量影响(数据倾斜)
    2、性能：时间复杂度高
    3、适合小样本场景
    
    
混淆矩阵：
    TP：实例是真，预测也为真
    FP:实例是假，预测为真
    TN：实例是真，预测是假
    FN:实例是假，预测也为假
    
精确率(precision)：预测结果为正例中真实为正例的比例
召回率(recall)：真实为正例的样本中预测结果为正例的比例

分类评估API:    sklearn.metrics import classification_repor

交叉验证：让结果更加可信
    将所有数据分为n等份，一份做为验证机，n-1份作为训练集，一次执行n次，求取n次的平均值

网格搜索：调参

需调参算法：KNN :K值(超参数)
"""
def knncls():
    """
    K-近邻预测用户签到位置
    :return:None
    """
    # 读取数据
    data = pd.read_csv("./data/FBlocation/train.csv")

    # print(data.head(10))

    # 处理数据
    # 1、缩小数据,查询数据晒讯
    data = data.query("x > 1.0 &  x < 1.25 & y > 2.5 & y < 2.75")

    # 处理时间的数据
    time_value = pd.to_datetime(data['time'], unit='s')

    print(time_value)

    # 把日期格式转换成 字典格式
    time_value = pd.DatetimeIndex(time_value)

    # 构造一些特征
    data['day'] = time_value.day
    data['hour'] = time_value.hour
    data['weekday'] = time_value.weekday

    # 把时间戳特征删除
    data = data.drop(['time'], axis=1)

    print(data)

    # 把签到数量少于n个目标位置删除
    place_count = data.groupby('place_id').count()

    tf = place_count[place_count.row_id > 3].reset_index()

    data = data[data['place_id'].isin(tf.place_id)]

    # 取出数据当中的特征值和目标值
    y = data['place_id']

    x = data.drop(['place_id'], axis=1)

    # 进行数据的分割训练集合测试集
    x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)

    # 特征工程（标准化）
    std = StandardScaler()

    # 对测试集和训练集的特征值进行标准化
    x_train = std.fit_transform(x_train)

    x_test = std.transform(x_test)

    # 进行算法流程 # 超参数
    knn = KNeighborsClassifier()

    # # fit， predict,score
    # knn.fit(x_train, y_train)
    #
    # # 得出预测结果
    # y_predict = knn.predict(x_test)
    #
    # print("预测的目标签到位置为：", y_predict)
    #
    # # 得出准确率
    # print("预测的准确率:", knn.score(x_test, y_test))

    # 构造一些参数的值进行搜索
    param = {"n_neighbors": [3, 5, 10]}

    # 进行网格搜索，cv表示2折验证
    gc = GridSearchCV(knn, param_grid=param, cv=2)

    gc.fit(x_train, y_train)

    # 预测准确率
    print("在测试集上准确率：", gc.score(x_test, y_test))

    print("在交叉验证当中最好的结果：", gc.best_score_)

    print("选择最好的模型是：", gc.best_estimator_)

    print("每个超参数每次交叉验证的结果：", gc.cv_results_)

    return None