SGD随机梯度下降法分类器

Halcom

SGD随机梯度下降法分类器：
百度网盘链接：
链接：http://pan.baidu.com/s/1dFw2YFB
具体链接在halcom.cn论坛，联系人QQ：3283892722
该论坛是一个学习交流平台，我会逐一的和大家分享学习。
欢迎大家录制视频，并提交给我，我来设置视频，你可在论坛进行打赏分享。
视频专用播放器：http://halcom.cn/forum.php?mod=viewthread&tid=258&extra=page%3D1

使用环境：Win7-32bit-Anaconda2-4.3.1-Windows-x86.exe
数据集：http://pan.baidu.com/s/1kV4xwij
代码如下：

1. # -*- coding: utf-8 -*-
   
2. """
   
3. Created on Fri Jun 02 21:18:37 2017
   
4. 
   
5. @author: ysw
   
6. """
   
7. 
   
8. # 导入pandas与numpy工具包
   
9. import pandas as pd
   
10. import numpy as np
    
11. 
    
12. # 创建特征列表
    
13. column_names = ['Clump Thickness', 'Cell Size', 'Type']
    
14. # 使用pandas.read_csv函数从互联网读取指定数据。
    
15. data = pd.read_csv(r'.\Breast-Cancer\breast-cancer-train.csv' )
    
16. # 将?替换为标准缺失值表示。
    
17. data = data.replace(to_replace='?', value=np.nan)
    
18. # 丢弃带有缺失值的数据（只要有一个维度有缺失）。
    
19. data = data.dropna(how='any')
    
20. 
    
21. X_train = np.array( data.ix[:, ['Clump Thickness', 'Cell Size'] ], dtype=np.float64 )
    
22. # DataFrame to Series type
    
23. y_train = data.ix[:, ['Type'] ].transpose();
    
24. y_train = y_train.iloc[0,:];
    
25. 
    
26. # 获取测试数据
    
27. data = pd.read_csv(r'.\Breast-Cancer\breast-cancer-test.csv' )
    
28. # 将?替换为标准缺失值表示。
    
29. data = data.replace(to_replace='?', value=np.nan)
    
30. # 丢弃带有缺失值的数据（只要有一个维度有缺失）。
    
31. data = data.dropna(how='any')
    
32. 
    
33. X_test = np.array( data.ix[:, ['Clump Thickness', 'Cell Size'] ], dtype=np.float64 )
    
34. y_test = np.array( data.ix[:, ['Type'] ], dtype=np.int64)
    
35.                      
    
36. # 从sklearn.preprocessing里导入StandardScaler。
    
37. from sklearn.preprocessing import StandardScaler
    
38. # 标准化数据，保证每个维度的特征数据方差为1，均值为0。使得预测结果不会被某些维度过大的特征值而主导。
    
39. ss = StandardScaler()
    
40. X_train = ss.fit_transform(X_train)
    
41. X_test = ss.transform(X_test)
    
42. 
    
43. # 从sklearn.linear_model里导入LogisticRegression与SGDClassifier。
    
44. from sklearn.linear_model import SGDClassifier
    
45. # 初始化LogisticRegression与SGDClassifier。
    
46. sgdc = SGDClassifier()
    
47. # 调用LogisticRegression中的fit函数/模块用来训练模型参数。
    
48. sgdc.fit(X_train, y_train)
    
49. # 使用训练好的模型lr对X_test进行预测，结果储存在变量lr_y_predict中。
    
50. sgdc_y_predict = sgdc.predict(X_test)
    
51. 
    
52. # 从sklearn.metrics里导入classification_report模块。
    
53. from sklearn.metrics import classification_report
    
54. # 使用逻辑斯蒂回归模型自带的评分函数score获得模型在测试集上的准确性结果。
    
55. print 'Accuracy of SGD Classifier:', sgdc.score(X_test, y_test)
    
56. # 利用classification_report模块获得LogisticRegression其他三个指标的结果。
    
57. print classification_report(y_test, sgdc_y_predict, target_names=['Benign', 'Malignant'])
    
58. 
    
59. # y_train.value_counts()

复制代码

SGD参数估计（数据分类）：
（1）读取训练样本和测试样本
（2）归一化数据（防止量纲差异导致的特征信息丢失）
（3）构建一个SGD随机梯度下降分类器
（4）训练样本进行SGD随机梯度下降分类器的训练
（5）代入测试数据进行预测
（6）输出预测结果、打印混淆矩阵信息报表