k-fold validation （k折验证）

1、给定若干个模型：比如说具有不同K的KNN(k-Nearest-Neighbor)；

2、利用现有的数据，利用交叉验证的方法计算误差，假设如上图所示，分为3折，那么一个KNN就要训练3次，选取3次的平均验证分数作为该KNN的得分；

3、选择得分最高的模型使用的K；

注：通常深度学习中很少用，尤其是当数据量很大的时候，用交叉验证太慢了。