今天我们来聊一聊如何用KNIME构造一个情感分析模型,以便后期对相似的文本进行情感分析。

在实际国际中,常识不仅以传统数据库中的结构化数据的方式呈现,还以比如书本、研讨论文、新闻文章、WEB页面及电子邮件等各式各样的方式呈现。面临以这些方式呈现的、汗牛充栋的信息源,人类的阅览才能、时刻精力等等往往不行,需求凭借核算机的智能处理技能来协助人类及时、便利的获取这些数据源中躲藏的有用信息。文本发掘技能就在这种布景下发生和发展起来的。

文本发掘的底子价值在于能把从文本中抽取出的特征词进行量化来表明文本信息。将它们从一个无结构的原始文本转化为结构化的核算机能够辨认处理的信息,即对文本进行科学的笼统,树立它的数学模型,用以描绘和替代文本。使核算机能够通过对这种模型的核算和操作来完成对文本的辨认。文本发掘广泛应用于舆情监测、有害信息过滤、电子邮件和文献剖析以及情感剖析等范畴。

今日咱们来聊一聊怎么用KNIME结构一个情感剖析模型,以便后期对相似的文本进行情感剖析。

下图是整个剖析进程的概略:

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第1张

首要,咱们从IMDb网站上获取关于《Girlfight》这部影片的2000条谈论,储存为.CSV格局的文件,运用File Reader这个节点把文本读入。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第2张

现在咱们要将文件中的字符串转化成文档,把文件中除了文档的列都过滤掉。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第3张
(上图即为Document Creation元节点里边的内容)

接着咱们对这个文档进行文本的预处理。先后将标点铲除,数字过滤掉,将小于三个词语的文档过滤掉,停用词过滤,将大写转化为小写,***提取词干。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第4张
(上图即为Preprocessing元节点里边的内容)

之后咱们就能够创立词袋了,即把提取出来的词干扔进一个袋子里,能够看到,在本例中,咱们发明的词袋中总共包括155437行数据。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第5张

然后把词袋中的词转化为字符串,并依据原谈论中词呈现的次数分组,能够看到,分组后咱们的词袋变成了22370行(这是由于之前的词是有重复的)。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第6张

之后咱们过滤掉呈现次数小于N的词,(留意这个N是由从原文件中提取出的行数通过一段语法核算决议的,在本例中,是用行数除以100)。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第7张

接着,咱们以上一步过滤掉的词为参阅,在开始创立的词袋中过滤掉它们,过滤后咱们可用的词是100728行数据,***核算这些词的词频。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第8张

总算咱们完成了文本的预处理进程。

现在,咱们要为原始的谈论创立向量,来调查词袋中的词是否存在于原文本中。之后提取原谈论的情感标签,并以色彩分类。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第9张

接着咱们把2000条谈论分红两个部分,本例中将70%用作练习集,来构建决策树模型,别的的30%用来测验决策树模型。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第10张

这便是决策树模型,依据一个词是否存在将文本集分为两个部分。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第11张

直到一切记载都归于同一类决策树就会中止。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第12张

***咱们用两种方法来对模型进行点评。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第13张

一种是ROC曲线,曲线下方面积到达0.9397,如此可见,模型仍是很不错的。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第14张

再来看一下矩阵,准确率高达93.167%。

怎么运用KNIME进行情感剖析 | 中(knime的特点)  KNIME 情感分析 数据分析 第15张

如此看来,咱们的模型能够用来进行相似的文本情感剖析。比如说网购的产品谈论,企业官微下的谈论等相似的状况,都能够用来进行情感剖析。

点击检查:

怎么运用KNIME进行情感剖析 | 上

怎么运用KNIME进行情感剖析 | 下

转载请说明出处
知优网 » 怎么运用KNIME进行情感剖析 | 中(knime的特点)

发表评论

您需要后才能发表评论