Python实现支持向量机SVM分类模型(SVC算法)并应用网格搜索算法调优项目实战

说明：这是一个机器学习实战项目（附带数据+代码+文档+视频讲解），如需数据+代码+文档+视频讲解可以直接到文章最后获取。

1.项目背景

目前各大新闻网站很多，网站上的消息也是各式各样，本项目通过建立支持向量机分类模型进行新闻文本分类。

本项目使用SVC算法来解决分类问题。

2.数据获取

本次建模数据来源于网络(本项目撰写人整理而成)，数据项统计如下：

新闻文本数据包含四类新闻，分别用0，1，2，3 表示；数据集包含训练集和测试集。

数据详情如下(部分展示)：

3.数据预处理

3.1 用Pandas工具查看数据

使用Pandas工具的head()方法查看前五行数据：

关键代码：

3.2 统计每种新闻类型的数量

使用Pandas工具的grougby()方法统计每种新闻类型的数量：

 

从图中可以看到，类别为0的有987条数据，类别为1的有1436条数据，类别为2的有790条数据，类别为3的有263条数据。

4.探索性数据分析

4.1 词频柱状图

 

从图中可以看到，出现此频率最多的是：评论、中国、足球、体育等词。

4.2 词云图

通过上图可以看到，分词出现频率比较高是评论、皮肤、女性、中国、新浪、腾讯等，其中一些分词可以根据具体业务需要放入停用词中。

5.特征工程

5.1 文本向量化

上图中，括号内的代表文本行和分词索引，后面的代表词频逆文档频率。

关键代码：

5.2 构建特征和标签与数据集拆分

关键代码如下：

6.构建支持向量机分类模型

主要使用SVC算法，用于目标分类。

6.1 默认参数模型构建

从上图可以看到，支持向量机分类模型的准确率为0.9118，，F1分值为0.9024,默认参数构建的模型效果不错。

关键代码：

6.2 模型调优：应用网格搜索寻找最优参数值

使用网格搜索算法来寻找最优的参数值：

从上图可以看到，C参数最优值为10，gamma参数最优值为0.1。

关键参数代码：

6.3 最优参数建模

 

7.模型评估

7.1评估指标及结果

评估指标主要包括准确率、查准率、召回率、F1分值等等。

从上表可以看出，SVM分类模型比较优秀，效果非常好。

7.2 查看是否过拟合

查看训练集和测试集的分数：

通过结果可以看到，训练集分数和测试集分数基本一致，说明未过拟合。

关键代码：

7.3 混淆矩阵

SVM分类模型混淆矩阵：

从上图可以看到，实际值为0预测不为0的有5个；实际值为1预测不为1的有5个；实际值为2预测不为2的有6个；实际值为3预测不为3的有0个；这些是预测错误的，和总的测试集样本相比，错误预测还是相比对少的，在可接受的范围内。

7.4 分类报告

SVM分类模型分类报告：

从上图可以看到，分类类型为0的F1分值为0.80；分类类型为1的F1分值为0.94；分类类型为2的F1分值为0.90；分类类型为3的F1分值为0.77；整个模型的准确率为0.91。

8.结论与展望

综上所述，本项目采用了SVM分类模型，最终证明了我们提出的模型效果良好。

# 本次机器学习项目实战所需的资料，项目资源如下：
 
# 项目说明：
# 链接：https://pan.baidu.com/s/101Ccg2mBJ4bSf7R0_Fn5sQ 
# 提取码：lybv
 
 
plt.rcParams['font.sans-serif'] = ['SimHei']  # 这两行用于plt图像显示中文，否则plt无法显示中文
plt.rcParams['axes.unicode_minus'] = False  # 设置正常显示符号
 
 
# 数据读取函数
def read_file(train_test, news_type):  # train_test:指定是trian或test文件夹，news_type:新闻类型 0，1，2，3
    files_path = f'data/{train_test}/{news_type}'  # 指定路径
    files = os.listdir(files_path)  # 获取某一类新闻的文件名列表:['1.txt','2.txt',...]
    file_news = []
    for file in files:
        file_path = files_path + '//' + file
        with open(file_path, 'r') as f:  # 读取新闻数据
            news = f.readlines()  # 按行读取
            file_news.append(news[0].strip())  # 去除空格，存放到列表中
    df = pd.DataFrame({'type': [news_type for i in range(len(file_news))], 'news': file_news})  # 构建数据框
    return df  # 返回 新闻类型 、新闻内容构成的Dataframe