关键字网站源码分享(网站关键词生成)

其实关键字网站源码分享的问题并不复杂,但是又很多的朋友都不太了解网站关键词生成,因此呢,今天小编就来为大家分享关键字网站源码分享的一些知识,希望可以帮助到大家,下面我们一起来看看这个问题的分析吧!

通常,我们使用Python在文本中进行关键词查找或替换时,会使用re模块以正则的形式实现。在文本数量、文本内容、关键词数量较小时,该方法能够满足我们程序的功能、性能需要。但当在大规模的文本或者对大量关键词语料查找或者替换,re实现方案的性能将成为瓶颈,本文我们将介绍一种新的关键词搜索和替换的算法:Flashtext算法,它是一个高效的字符搜索和替换算法。

有多高效呢?如下,是通过随机生方式生成10000个单词组成的文本,我们分别在该文本中查找由0,500,1000,5000,10000,50000,100000,200000,400000个关键词组成的关键词库,我们来感受一下两者的性能差异:

我们发现随着关键词查询数量的增加,Flashtext与re的时间消耗存在百倍乃至千倍以上的差异。

为何存在这么大的差异呢?Flashtext算法的时间复杂度不依赖于查找或替换的字符的数量。如,对于一个文档有N个字符,和一个有M个词的关键词库,那么时间复杂度就是O(N)。而正则匹配的时间复杂度是O(M*N)。这也是两者在性能上的差异随着关键词数量增多而拉大的原因。

因此,在一些大数据下的内容检索和替换,我们更倾向于选择Flashtext算法,比如,自然语言处理领域中数据清洗是一项必须的操作。经常涉及使用标准的关键词替换一些非标准的词,如,将Javascript替换成JavaScript。或者我们需要判断文本中是否存在JavaScript关键词等等。

接下来,就让我们了解一下,如何使用Flashtext实现关键词的查找和替换。

FlashText

Flashtext算法主要分为三部分,我们接下来将对每一部分进行单独分析:

构建Trie字典关键词搜索关键词替换

构建Trie字典(这部分不理解不影响我们使用Flashtext

Flashtext是一种基于Trie字典数据结构和AhoCorasick的算法。它的工作方式是,首先它将所有相关的关键词作为输入,使用这些关键词建立一个trie字典。

为了构建trie字典,Flashtext创建一个空的节点指向空字典。这个节点被用作所有关键词的起点。我们在字典中插入一个关键词。这个关键词中的下一个字符在本字典中作为关键词,并且这个指针需要再次指向一个空字典。这个过程不断重复,直到我们达到单词中的最后一个字符。当我们到达单词的末尾时,我们插入一个特殊的字符(eot)来表示词尾,如下:

starteot是两个特殊的字符,用来定义关键词的边界,因此,也可知Flashtext只匹配完整的单词,这个trie字典就是我们后面要用来搜索和替换的数据结构。

我们举一个简单的例子,假设我们有一个包含3个单词的句子“IlikePython”,和一个有4个关键词的语料库corpus=[Python,Java,J2ee,Ruby]。

Flashtext算法将对于句子中的每一个单词,检查其是否在语料库中出现,如下:

如果句子N个单词,意味着需要做N次的循环操作。在这个例子中所需的时间步取决于句子中的单词数。

如上,因为将文本中的每个字符串进行匹配,由于这是一个字符匹配过程,因为start并没有和l相连,因此可以快速的跳过的I、like的匹配,这使得跳过缺失单词的过程变得非常快。

因此,FlashText算法不受corpus中关键词数量的影响。

使用Flashtext进行搜索

我们对输入文本中的字符进行逐个遍历,当我们在文档中的字符word匹配到字典中的<start>word<eot>时,则认为这是一个完整匹配。我们将匹配到的字符序列所对应的标准关键词进行输出,具体如下:

代码示例如下:

使用Flashtext进行替换

Flashtext对输入文本中的字符进行逐个遍历,Flashtext先创建一个空的字符串,当字符序列中的word无法在Trie字典中找到匹配时,那么Flashtext就简单的原始字符复制到返回字符串中。但当Flashtext可以从Trie字典中找到匹配时,那么Flashtext将把匹配到的字符的标准字符复制到返回字符串中。因此,返回字符串是输入字符串的一个副本,唯一的不同是替换了匹配到的字符序列,具体如下:

代码示例如下:

性能比对

在本文开始,我们首先介绍了使用re模块与flashtext模块在不同数量的关键词语料库下,两者的耗时情况差异,具体性能比对实现的源码如下:

输出结果:

Flashtext常用方法及参数说明

add_keyword

添加关键词。

语法

参数

keyword:检索的词。clean_name:显示或要被替换为的词(默认keywords本身),如果匹配到keyword,则会返回clean_name。

示例

add_keywords_from_dict

添加多个关键词。

语法

参数

keyword_dict:其中key类似于clean_name,value类似于keyword,如果匹配到value,则会返回key。

示例

add_keywords_from_list

添加多个关键词。

语法

参数

keyword_list:要添加的关键词列表

示例

remove_keyword

删除关键词。

语法

参数

keyword:删除的关键词。

示例

remove_keywords_from_list

删除多个关键词。

语法

参数

keyword_list:要删除的关键词列表

示例

remove_keywords_from_dict

删除多个关键词。

语法

参数

keyword_list:其中key类似于clean_name,value类似于keyword。

示例

如果你还想了解更多这方面的信息,记得收藏关注本站。

Published by

风君子

独自遨游何稽首 揭天掀地慰生平