使用CountVectorizer并且不去掉停用词的条件下,对文本特征进行量化的朴素贝叶斯分类性能测试
2017-09-14 13:28
726 查看
from sklearn.datasets import fetch_20newsgroups news = fetch_20newsgroups() from sklearn.model_selection import train_test_split x_train, x_test, y_train, y_test = train_test_split(news.data, news.target, test_size=0.25, random_state=33) from sklearn.feature_extraction.text import CountVectorizer count_vec = CountVectorizer() x_count_train = count_vec.fit_transform(x_train) x_count_test = count_vec.transform(x_test) from sklearn.naive_bayes import MultinomialNB mnb_count = MultinomialNB() mnb_count.fit(x_count_train, y_train) print('The accuracy of classifying 20nesgroups using Naive Bayes(CountVectorizer without filtering stopwords):', mnb_count.score(x_count_test, y_test)) y_count_predict = mnb_count.predict(x_count_test) from sklearn.metrics import classification_report print(classification_report(y_test, y_count_predict, target_names=news.target_names))
运行结果如下:
The accuracy of classifying 20nesgroups using Naive Bayes(CountVectorizer without filtering stopwords): 0.831742665253
precision recall f1-score support
alt.atheism 0.89 0.88 0.88 108
comp.graphics 0.62 0.86 0.72 130
comp.os.ms-windows.misc 0.95 0.13 0.23 163
comp.sys.ibm.pc.hardware 0.56 0.77 0.64 141
comp.sys.mac.hardware 0.91 0.83 0.87 145
comp.windows.x 0.71 0.91 0.80 141
misc.forsale 0.95 0.67 0.78 159
rec.autos 0.87 0.90 0.89 139
rec.motorcycles 0.96 0.94 0.95 153
rec.sport.baseball 0.97 0.89 0.93 141
rec.sport.hockey 0.96 0.97 0.96 148
sci.crypt 0.75 0.99 0.85 143
sci.electronics 0.90 0.79 0.84 160
sci.med 0.95 0.89 0.92 158
sci.space 0.91 0.91 0.91 149
soc.religion.christian 0.79 0.97 0.87 157
talk.politics.guns 0.83 0.95 0.89 134
talk.politics.mideast 0.89 0.99 0.94 133
talk.politics.misc 0.78 0.91 0.84 130
talk.religion.misc 0.98 0.53 0.68 97
相关文章推荐
- 分别使用CountVectorizer与TfidfVectorizer, 并且去掉停用词的条件下,对文本特征进行量化的朴素贝叶斯分类性能测试
- 使用TfidfVectorizer并且不去掉停用词的条件下,对文本特征进行量化的朴素贝叶斯分类性能测试
- python中对不CountVectorizer与TfidfVectorizer,去停用词,对文本特征量化结合Bayes算法进行分类,可视化分析
- 【机器学习笔记之八】使用朴素贝叶斯进行文本的分类
- 【NLP】使用朴素贝叶斯进行文本的分类
- 使用CountVectorizer和TfidfVectorizer对fetch_20newsgroups数据进行分类,并对是否使用停用词进行对比(精确度)
- 【机器学习实验】使用朴素贝叶斯进行文本的分类
- 特征提升之特征提取-基于文本数据的DictVectorizer,TfidfVectorizer在去掉停用词和不去停用词条件下的分析
- 使用朴素贝叶斯进行文本的分类
- 【机器学习实验】使用朴素贝叶斯进行文本的分类
- 【机器学习实验】使用朴素贝叶斯进行文本的分类
- 使用opensmile提取音频的特征,得到特征向量,并扔进libsvm中进行分类训练测试
- 使用 Hibernate 进行大数据量的性能测试
- 使用soapUI进行webservices性能测试
- 使用JMeter进行性能测试
- 使用 Hibernate 进行大数据量的性能测试
- 使用Hibernate进行大数据量的性能测试
- 使用SOAPUI对WEBSERVICE进行性能测试
- 使用ApacheBench进行网站性能测试
- 使用Hibernate进行大数据量的性能测试