# coding=utf-8 from sklearn.datasets import load_iris, fetch_20newsgroups, load_boston from sklearn.model_selection import train_test_split, GridSearchCV from sklearn.neighbors import KNeighborsClassifier from sklearn.preprocessing import StandardScaler from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.naive_bayes import MultinomialNB from sklearn.metrics import classification_report from sklearn.feature_extraction import DictVectorizer from sklearn.tree import DecisionTreeClassifier, export_graphviz from sklearn.ensemble import RandomForestClassifier import pandas as pd """ KNN:如果一个样本在特征空间中的K个最相似(即特征空间中最近邻)的样本中的大多数属于某一类别，则样本也属于这个类别 (相似样本，特征之间的值应该是相近的) 距离公式： 欧式距离：((a1-b1)^2 + (a2-b2)^2 +(a3-b3)^2)^(1/2) KNN需要进行标准化操作 API：from sklearn.neighbors import KNeighborsClassifier count = df.groupby().count() count作为df的index 算法流程： 1、分析问题，是分类还是回归 2、选取算法 3、数据处理 1、读取数据 pd.read_csv() 2、缩小数据,查询数据缩小 data.query("x>1.0 & x<1.25") 3、处理时间的数据 pd.to_datetime(data['time'], unit='s') 4、把日期格式转换成 字典格式 pd.DatetimeIndex(time_value) 5、构造一些特征 data['day'] = time_value.day data['hour'] = time_value.hour data['weekday'] = time_value.weekday 6、取出数据当中的特征值和目标值 y = data['place_id'] x = data.drop(['place_id'], axis=1) 7、数据切分 x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25) 4、特征工程 std = StandardScaler() # 对测试集和训练集的特征值进行标准化 x_train = std.fit_transform(x_train) x_test = std.transform(x_test) KNN缺点： 1、跟K值选取有关，K值太小，容易受异常点影响，K值很大，很容易K值数量影响(数据倾斜) 2、性能：时间复杂度高 3、适合小样本场景 混淆矩阵： TP：实例是真，预测也为真 FP:实例是假，预测为真 TN：实例是真，预测是假 FN:实例是假，预测也为假 精确率(precision)：预测结果为正例中真实为正例的比例 召回率(recall)：真实为正例的样本中预测结果为正例的比例 分类评估API: sklearn.metrics import classification_repor 交叉验证：让结果更加可信 将所有数据分为n等份，一份做为验证机，n-1份作为训练集，一次执行n次，求取n次的平均值 网格搜索：调参 需调参算法：KNN :K值(超参数) """ def knncls(): """ K-近邻预测用户签到位置 :return:None """ # 读取数据 data = pd.read_csv("./data/FBlocation/train.csv") # print(data.head(10)) # 处理数据 # 1、缩小数据,查询数据晒讯 data = data.query("x > 1.0 & x < 1.25 & y > 2.5 & y < 2.75") # 处理时间的数据 time_value = pd.to_datetime(data['time'], unit='s') print(time_value) # 把日期格式转换成 字典格式 time_value = pd.DatetimeIndex(time_value) # 构造一些特征 data['day'] = time_value.day data['hour'] = time_value.hour data['weekday'] = time_value.weekday # 把时间戳特征删除 data = data.drop(['time'], axis=1) print(data) # 把签到数量少于n个目标位置删除 place_count = data.groupby('place_id').count() tf = place_count[place_count.row_id > 3].reset_index() data = data[data['place_id'].isin(tf.place_id)] # 取出数据当中的特征值和目标值 y = data['place_id'] x = data.drop(['place_id'], axis=1) # 进行数据的分割训练集合测试集 x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25) # 特征工程（标准化） std = StandardScaler() # 对测试集和训练集的特征值进行标准化 x_train = std.fit_transform(x_train) x_test = std.transform(x_test) # 进行算法流程 # 超参数 knn = KNeighborsClassifier() # # fit， predict,score # knn.fit(x_train, y_train) # # # 得出预测结果 # y_predict = knn.predict(x_test) # # print("预测的目标签到位置为：", y_predict) # # # 得出准确率 # print("预测的准确率:", knn.score(x_test, y_test)) # 构造一些参数的值进行搜索 param = {"n_neighbors": [3, 5, 10]} # 进行网格搜索，cv表示2折验证 gc = GridSearchCV(knn, param_grid=param, cv=2) gc.fit(x_train, y_train) # 预测准确率 print("在测试集上准确率：", gc.score(x_test, y_test)) print("在交叉验证当中最好的结果：", gc.best_score_) print("选择最好的模型是：", gc.best_estimator_) print("每个超参数每次交叉验证的结果：", gc.cv_results_) return None