您好、欢迎来到现金彩票网!
当前位置:2019欢乐棋牌 > 正则表达式 >

正则表达式太慢?这里有一个提速100倍的方案(附代码)

发布时间:2019-06-28 06:36 来源:未知 编辑:admin

  “当遇到一个文本处理问题时,如果你在第一时间想到了正则表达式,那么恭喜你,你的问题从一个变成了俩!“

  如果你曾参与过文本数据分析,正则表达式(Regex)对你来说一定不陌生。词库索引、替换……正则表达式的强大功能使其成为了文本处理的必备工具。然而, 在处理大文本的情境下,正则表达式的低效率却常常让人抓耳挠腮。今天,文摘菌将为你介绍一款比正则表达式快数百倍的Python库——FlashText。

  即便是最简单的文本分析,我们在进入正式分析之前也需要对文本作出数据清洗。清洗的工作往往涉及到搜索和替换。例如,查询文本中是否出现““Python”这一,或是将所有“python“都替换成”“Python”。如果仅有数百个被搜索和被替换的,正则表达式处理起来会很快。但在自然语言处理任务中,有数万的语料库和数百万的文档早已是家常便饭。这种情况下,运行正则表达式的时间就往往要以“天“来作计数单位了。

  当然了,你会觉得并行运算能够解决这一问题,但实际上这一方案却收效甚微。有没有其他办法呢?

  FlashText的创造者当年也面临了同样的问题,在经过了一番搜寻而无所获后,他决定自己来编写一个新算法。

  在了解FlashText的实现原理之前,让我们先来看看FlashText和正则表达式在搜索任务中的性能对比图。

  FlashText是GitHub上的一个开源Python库,正如之前所提到的,它在提取关键字和替换关键字任务上有着极高的性能。

  在使用FlashText时,你首先要给它一个列表。这份列表将用于在内部建立一个单词查找树的字典(Trie dictionary)。然后你将一个字符串传递给它,并告诉它是要执行替换还是搜索。

  对于替换,它将用替换关键字创建一个新字符串。对于搜索,它将返回字符串中找到的关键字列表。这些任务都只需要遍历字符串一遍。

  举个例子吧。我们有一个句子,它由三个单词组成——I like Python,并且假设我们有一个四个单词组成的语料库{Python, Java, J2ee, Ruby}。

  如果我们从语料库中拿出每个单词,并且检查它是否出现在句子中,这需要我们遍历字符串四次。

  还有与第一种方法相反的另一种方法L对于句子中的每个单词,检查它是否存在于语料库中。

  首先根据语料库创建一个单词查找树字典(Trie data structure)。如下图:

  接下来,我们将输入一个字符串I like Python,并且一个字符一个字符搜索他、它。

  FlashText算法只检查输入字符串“I like Python”中的每个字符。即便我们的字典有一百万个关键字,这对它的运行几乎没有影响。这正是FlashText算法的能力所在。

  补充:正则表达式可以搜索基于特殊字符为关键字,如^,$,*,\d,.但FlashText是不支持的。

  所以如果你想匹配部分的单词(如“word\dvec”)是不行的,但它能很好地提取完整的单词(如“word2vec”)。

  最后,奉上FlashText的基本功能调用代码!试一试,是不是比正则表达式快了很多呢?

  深度学习与Keras粉丝福利如果你基础稍弱但超想入手深度学习迫切渴望模型搭建和工程实现想体验大佬手把手指导的快乐那就扫码领资料吧!谷歌和微软的顶级科学家告诉你深度学习和Keras到底要怎么学!

http://altofigaro.com/zhengzebiaodashi/56.html
锟斤拷锟斤拷锟斤拷QQ微锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷锟斤拷微锟斤拷
关于我们|联系我们|版权声明|网站地图|
Copyright © 2002-2019 现金彩票 版权所有