正则表达式与爬虫:
爬虫四个主要步骤:
明确目标(要知道你准备在哪个范围或者网站去搜索)
爬(将所有的网站的内容全部爬下来)
取(去掉对我们没用处的数据)
处理数据(按照我们想要的方式存储和使用)
那么在文本过滤这块最强大的就是正则表达式,更是python爬虫世界必不可少利器。
什么是正则表达式
正则表达式,又称规则表达式,通常被用来检索、替换那些符合某个模式(规则)的文本。
正则表达式是对字符串操作的一种逻辑公式,就是用事先定义好的一些特定字符、及这些特定字符的组合,组成一个“规则字符串”,这个“规则字符串”用来表达对字符串的一种过滤逻辑。
给定一个正则表达式和另一个字符串,我们可以达到如下的目的:
给定的字符串是否符合正则表达式的过滤逻辑(“匹配”);
通过正则表达式,从文本字符串中获取我们想要的特定部分(“过滤”)。
正则表达式匹配规则
Python的re模块
在Python中,我们可以使用内置的re模块来使用正则表达式。
有一点需要特别注意的是,正则表达式使用对特殊字符进行转义,所以如果我们要使用原始字符串,只需加一个r前缀:
re模块的一般使用步骤如下:
使用