TF-IDF原理和使用以及算法详解
2021-05-12 23:51
375 查看
最近在做一些NLP的研究,由于也是第一次做这个东西,其实还是发现很多有意思的东西。
相信很多做过NLP的人都应该接触过提取关键词的这个功能。现在有很多可以使用的第三方工具包可以很容易的来实现这个功能,比如snowNLP,jieba等,但是我们还是要做到知其然,知其所以然,所以便有了这一篇文字的记录。
首先我们来了解一下什么是TF-IDF?
其实这个是两个词的组合,可以拆分为TF和IDF。
TF(Term Frequency,缩写为TF)也就是词频啦,即一个词在文中出现的次数,统计出来就是词频TF,显而易见,一个词在文章中出现很多次,那么这个词肯定有着很大的作用,但是我们自己实践的话,肯定会看到你统计出来的TF 大都是一些这样的词:‘的’,‘是’这样的词,这样的词显然对我们的分析和统计没有什么帮助,反而有的时候会干扰我们的统计,当然我们需要把这些没有用的词给去掉,现在有很多可以去除这些词的方法,比如使用一些停用词的语料库等。
假设我们把它们都过滤掉了,只考虑剩下的有实际意义的词。这样又会遇到了另一个问题,我们可能发现"中国"、"蜜蜂"、"养殖"这三个词的出现次数一样多。这是不是意味着,作为关键词,它们的重要性是一样的?
显然不是这样。因为"中国"是很常见的词,相对而言,"蜜蜂"和"养殖"不那么常见。如果这三个词在一篇文章的出现次数一样多,有理由认为,"蜜蜂"和"养殖"的重要程度要大于"中国",
相关文章推荐
- TF-IDF算法原理与示例Python代码详解(Python,推荐算法)
- TF-IDF原理详解以及python实践
- Android SharedPreferences使用以及原理详解
- Android中View(视图)绘制不同状态背景图片原理深入分析以及StateListDrawable使用详解
- Android中View(视图)绘制不同状态背景图片原理深入分析以及StateListDrawable使用详解
- java线程池的使用以及原理详解
- Android中View(视图)绘制不同状态背景图片原理深入分析以及StateListDrawable使用详解
- android中的tween动画(也叫view动画)原理以及使用详解
- Android中View(视图)绘制不同状态背景图片原理深入分析以及StateListDrawable使用详解
- GIT教程 — 详解本地库的使用以及原理(一)
- Android中View绘制不同状态背景图片原理以及StateListDrawable使用详解
- Android SharedPreferences使用以及原理详解
- TF-IDF原理及使用
- TF-IDF算法解析与Python实现方法详解
- 使用 TF-IDF 算法将文本向量化
- 第七篇:机器学习基础之分类算法:决策树算法、决策树分类原理、熵&信息增益、cart剪枝、特征工程-特征提取(字典特征提取、中文和英文各自的文本特征提取、 Tf-idf文本特征提取)
- DEM山体阴影原理以及算法详解
- Android SharedPreferences使用以及原理详解
- Android中View(视图)绘制不同状态背景图片原理深入分析以及StateListDrawable使用详解
- TF-IDF算法原理