机器学习7-模型保存&无监督学习

模型保存和加载

sklearn模型的保存和加载API

• from sklearn.externals import joblib
  • 保存：joblib.dump(rf, 'test.pkl')
  • 加载：estimator = joblib.load('test.pkl')

线性回归的模型保存加载案例

def linear3():
    """
    岭回归的优化方法对波士顿房价预测
    """
    #获取数据
    boston=load_boston()
    #划分数据集
    x_train,x_test,y_train,y_test=train_test_split(boston.data,boston.target,random_state=22)
    #标准化
    transfer=StandardScaler()
    x_train=transfer.fit_transform(x_train)
    x_test=transfer.transform(x_test)
    #预估器
    # estimator=Ridge(alpha=0.0001, max_iter=100000)
    # estimator.fit(x_train,y_train)

    #保存模型
    # joblib.dump(estimator,"my_ridge.pkl")

    #加载模型
    estimator=joblib.load("my_ridge.pkl")

    #得出模型
    print("岭回归-权重系数为：\n",estimator.coef_)
    print("岭回归-偏置为：\n",estimator.intercept_ )

    #模型评估
    y_predict = estimator.predict(x_test)
    print("预测房价：\n", y_predict)
    error = mean_squared_error(y_test, y_predict)
    print("岭回归-均方差误差:\n", error)
    return None


if __name__ == '__main__':
    # linear1()
    # linear2()
    linear3()

保存：保存训练完结束的模型

加载：加载已有的模型，去进行预测结果和之前的模型一样

无监督学习-K-means算法

K-means原理

我们先来看一下一个K-means的聚类效果图

K-means聚类步骤

• 随机设置K个特征空间内的点作为初始的聚类中心
• 2、对于其他每个点计算到K个中心的距离，未知的点选择最近的一个聚类中心点作为标记类别
• 3、接着对着标记的聚类中心之后，重新计算出每个聚类的新中心点（平均值）
• 4、如果计算得出的新中心点与原中心点一样，那么结束，否则重新进行第二步过程

我们以一张图来解释效果

K-meansAPI

• sklearn.cluster.KMeans(n_clusters=8,init=‘k-means++’)
  • k-means聚类
  • n_clusters:开始的聚类中心数量
  • init:初始化方法，默认为'k-means ++’
  • labels_:默认标记的类型，可以和真实值比较（不是值比较）

案例：k-means对Instacart Market用户聚类

 如何评估聚类的效果？

Kmeans性能评估指标

轮廓系数

轮廓系数值分析

分析过程（我们以一个蓝1点为例）

• 1、计算出蓝1离本身族群所有点的距离的平均值a_i

• 2、蓝1到其它两个族群的距离计算出平均值红平均，绿平均，取最小的那个距离作为b_i

• 根据公式：极端值考虑：如果b_i >>a_i: 那么公式结果趋近于1；如果a_i>>>b_i: 那么公式结果趋近于-1

结论

如果b_i>>a_i:趋近于1效果越好， b_i<<a_i:趋近于-1，效果不好。轮廓系数的值是介于 [-1,1] ，越趋近于1代表内聚度和分离度都相对较优。

轮廓系数API

• sklearn.metrics.silhouette_score(X, labels)
  • 计算所有样本的平均轮廓系数
  • X：特征值
  • labels：被聚类标记的目标值

案例-聚类评估

K-means总结

• 特点分析：采用迭代式算法，直观易懂并且非常实用
• 缺点：容易收敛到局部最优解(多次聚类)

回归与聚类整体算法总结