TF-IDF

参考：http://www.cnblogs.com/ywl925/p/3275878.html

这个模型主要用于信息检索，但它的思想用于图像也未尝不可。

TFIDF的主要思想是：如果某个词或短语在一篇文章中出现的频率TF高，并且在其他文章中很少出现，

则认为此词或者短语具有很好的类别区分能力，适合用来分类。

只需理解两个概念就行了：

TF（词频）公式：

$mathrm{tf_{i,j}} = frac{n_{i,j}}{sum_k n_{k,j}}$

以上式子中 $n_{i,j}$ 是该词在文件 $d_{j}$ 中的出现次数，而分母则是在文件 $d_{j}$ 中所有字词的出现次数之和。

IDF反文档频率：

$mathrm{idf_{i}} = log frac{|D|}{|{j: t_{i} in d_{j}}|}$

|D|：语料库中的文件总数
$|{ j: t_{i} in d_{j}}|$ ：包含词语 $t_{i}$ 的文件数目（即 $n_{i,j} eq 0$ 的文件数目）如果该词语不在语料库中，就会导致被除数为零，因此一般情况下使用 $1 + |{j : t_{i} in d_{j}}|$

然后

$mathrm{tf{}idf_{i,j}} = mathrm{tf_{i,j}} imes mathrm{idf_{i}}$