Graph convolutional network for text classification
本文提出的 Text-GCN,获取给定的文档和单词的语料库,并构造一个图,其中文档和单词为节点。利用此构造的图,Text-GCN 利用图卷积网络来学习更好的节点表示(单词和文档的表示)。然后可以将这些更新的表示形式输入到分类器中。
将图卷积网络模型用于文本分类的模型,主要思路为基于词语共现以及文本单词之间的关系构建语料库中文本的Graph,然后将GCN学习文本的表示用于文本分类。通过多个基准数据集实验表明,Text-GCN无需额外的单词嵌入或者先验知识就能够取得由于最新的文本分类方法。另一方面,Text-GCN还能够学习和预测词语与文档的嵌入表示。

构造“文本”图的细节如下。首先,节点总数是文档d数加上不同词语w的个数。节点特征矩阵是恒等矩阵X=I每个节点表示都是一个one-hot向量。同样,邻接矩阵(文档和单词节点之间的边缘)定义如下

#W(i,j)是包含单词i和单词j的滑动窗口的数量,而#W(i)是包含单词i的滑动窗口的数量。#W是滑动窗口的总数。
完成文本Graph构建后,作者只需运行两层GCN,然后运行softmax函数来预测标签。公式为:

对于损失函数,使用交叉熵损失。
