第一部分 # KNN # K最近邻(k-Nearest Neighbor，KNN)分类算法: # 是一个理论上比较成熟的方法，也是最简单的机器学习算法之一。 # 该方法的思路是： # 在特征空间中，如果一个样本附近的k个最近(即特征空间中最邻近)样本的大多数属于某一个类别，则该样本也属于这个类别。 # 欧几里得距离 # 计算公式（n维空间下） # 二维：dis=sqrt( (x1-x2)^2 + (y1-y2)^2 ) # 三维：dis=sqrt( (x1-x2)^2 + (y1-y2)^