《机器学习实战》4.4使用朴素贝叶斯进行文档分类

        假设词汇表中有1000个单词。要得到好的概率分布，就需要足够的数据样本，假定样本数为N，【这样就可以得到好的概率分布】。前面讲到的约会网站示例中有1000个实例，手写识别示例中每个数字有200个样本，而决策树示例中有24个样本。其中，24个样本有点少【，可能得不到好的概率分布，统计学上至少要达到30】，200个样本好一些，而1000个样本就非常好了。约会网站例子中有三个特征。由统计学知，如果每个特征需要N个样本【来达到好的概率分布】，那么对于10个特征将需要N10个样本【来达到好的概率分布】【特征a1需要n个，a2需要n个，所以10个特征是n*n*n...*n】，对于包含1000个特征的词汇表将需要N1000个样本【来达到好的概率分布】。可以看到，所需要的样本数会随着特征数目增大而迅速增长。