一，安装方法
--cmd输入pip install requests
二、发起请求
1.请求方法
import requests
resp = requests.get('http://www.baidu.com')
其他参数请求方法post、put等类似
2.传递URL参数
import requests
params = {'key1':'value1','key2':'value2')
resp = requests.get('http://httpbin.org/get',params=params)
传递URL参数其实就是构造一个字典，并在请求时将其传递给params参数
3、自定义headers
如果想自定义headers，同样的将字典数据传递给headers参数
4、自定义cookies
Requests自定义cookies直接将字典递给cookies参数
5、设置代理
当我们需要使用代理时，同样构造字典，传递给proxies参数
6、重定向
在网络请求中，我们会常常遇到以3开头的重定向问题，在re中默认开启允许重定向的，即遇到重定向时，会自动继续访问
7、禁止证书验证
关闭证书验证，在请求的时候把verify参数设置为false就可以关闭证书验证
import requests
resp = requests.get('http://httpbin.org/post',verify=false)
8、设置超时
设置访问超时，设置timeout参数
requests.get('http://github.com',timeout=0.001)
三、响应
1、响应内容
import requests
resp = requests.get('http://www.baidu.com')
resp.encoding = 'utf-8' 解码
resp.test 文本格式
resp.content 二进制格式
resp.json() json格式，直接获取转换成字典格式
2、状态码
通过status_code属性获取响应的状态码
resp.status_code
200
3、响应报头
通过headers属性获取响应报头
resp.headers
4、服务器返回的cookies
resp.cookies查看
5、URL
resp.url 查看响应的URL
resp.request.url 查看最初始的URL
四、session（会话功能）
当我们使用session时，能够像浏览器一样，在没有关闭浏览器时，能够保持住访问的状态
import requests
session = requests.session()
session.get('http://www.baidu.com/set/sessioncookie/12345789')
resp =swssion,get('http://www.baidu.com'）
print(resp,test)
五、正则表达式
1、概述
1.1 概念
正则表达式是对字符串操作的一种逻辑公式，就是用事先定义好的一些特定符号、及这些特定字符的组合，组成一个“规定字符串”，这个“规定字符串”用来表达对字符串的一种过滤逻辑。
1.2 特点
--灵活性，逻辑性和功能性非常强；
--可以迅速地用极简单的方式达到字符串的复制控制；
--对于刚接触的人来说，比较晦涩难懂；
2、符号
正则表达式由一些普通字符和一些元字符组成，普通字符包括大小写的字母和数字，而元字符具有特殊含义。
2.1 普通字符
一个正则表达式看上去就是一个普通的查找串，比如：正则表达式“testing”中没有包含任何元字符，它可以匹配“testing”和“testing123”等字符串，但是不能匹配“Testing”。
2.2 元字符
. ^ $ * + ? { } [ ] ( )
| 字符 | 描述 |
|---|---|
|
将下一个字符标记为一个特殊字符、或一个原义字符、或一个 向后引用、或一个八进制转义符。例如，'n' 匹配字符 "n"。' ' 匹配一个换行符。序列 '\' 匹配 "" 而 "(" 则匹配 "("。 |
|
| ^ |
匹配输入字符串的开始位置。如果设置了 RegExp 对象的 Multiline 属性，^ 也匹配 ' ' 或 ' ' 之后的位置。 |
| $ |
匹配输入字符串的结束位置。如果设置了RegExp 对象的 Multiline 属性，$ 也匹配 ' ' 或 ' ' 之前的位置。 |
| * |
匹配前面的子表达式零次或多次。例如，zo* 能匹配 "z" 以及 "zoo"。* 等价于{0,}。 |
| + |
匹配前面的子表达式一次或多次。例如，'zo+' 能匹配 "zo" 以及 "zoo"，但不能匹配 "z"。+ 等价于 {1,}。 |
| ? |
匹配前面的子表达式零次或一次。例如，"do(es)?" 可以匹配 "do" 或 "does" 。? 等价于 {0,1}。 |
| {n} |
n 是一个非负整数。匹配确定的 n 次。例如，'o{2}' 不能匹配 "Bob" 中的 'o'，但是能匹配 "food" 中的两个 o。 |
| {n,} |
n 是一个非负整数。至少匹配n 次。例如，'o{2,}' 不能匹配 "Bob" 中的 'o'，但能匹配 "foooood" 中的所有 o。'o{1,}' 等价于 'o+'。'o{0,}' 则等价于 'o*'。 |
| {n,m} |
m 和 n 均为非负整数，其中n <= m。最少匹配 n 次且最多匹配 m 次。例如，"o{1,3}" 将匹配 "fooooood" 中的前三个 o。'o{0,1}' 等价于 'o?'。请注意在逗号和两个数之间不能有空格。 |
| ? |
当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时，匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串，而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如，对于字符串 "oooo"，'o+?' 将匹配单个 "o"，而 'o+' 将匹配所有 'o'。 |
| . |
匹配除换行符（ 、 ）之外的任何单个字符。要匹配包括 ' ' 在内的任何字符，请使用像"(.| )"的模式。 |
| (pattern) |
匹配 pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到，在VBScript 中使用 SubMatches 集合，在JScript 中则使用 $0…$9 属性。要匹配圆括号字符，请使用 '(' 或 ')'。 |
| (?:pattern) |
匹配 pattern 但不获取匹配结果，也就是说这是一个非获取匹配，不进行存储供以后使用。这在使用 "或" 字符 (|) 来组合一个模式的各个部分是很有用。例如， 'industr(?:y|ies) 就是一个比 'industry|industries' 更简略的表达式。 |
| (?=pattern) |
正向肯定预查（look ahead positive assert），在任何匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如，"Windows(?=95|98|NT|2000)"能匹配"Windows2000"中的"Windows"，但不能匹配"Windows3.1"中的"Windows"。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。 |
| (?!pattern) |
正向否定预查(negative assert)，在任何不匹配pattern的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如"Windows(?!95|98|NT|2000)"能匹配"Windows3.1"中的"Windows"，但不能匹配"Windows2000"中的"Windows"。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。 |
| (?<=pattern) | 反向(look behind)肯定预查，与正向肯定预查类似，只是方向相反。例如，"(?<=95|98|NT|2000)Windows"能匹配"2000Windows"中的"Windows"，但不能匹配"3.1Windows"中的"Windows"。 |
| (?<!pattern) | 反向否定预查，与正向否定预查类似，只是方向相反。例如"(?<!95|98|NT|2000)Windows"能匹配"3.1Windows"中的"Windows"，但不能匹配"2000Windows"中的"Windows"。 |
| x|y |
匹配 x 或 y。例如，'z|food' 能匹配 "z" 或 "food"。'(z|f)ood' 则匹配 "zood" 或 "food"。 |
| [xyz] |
字符集合。匹配所包含的任意一个字符。例如， '[abc]' 可以匹配 "plain" 中的 'a'。 |
| [^xyz] |
负值字符集合。匹配未包含的任意字符。例如， '[^abc]' 可以匹配 "plain" 中的'p'、'l'、'i'、'n'。 |
| [a-z] |
字符范围。匹配指定范围内的任意字符。例如，'[a-z]' 可以匹配 'a' 到 'z' 范围内的任意小写字母字符。 |
| [^a-z] |
负值字符范围。匹配任何不在指定范围内的任意字符。例如，'[^a-z]' 可以匹配任何不在 'a' 到 'z' 范围内的任意字符。 |
|
匹配一个单词边界，也就是指单词和空格间的位置。例如， 'er' 可以匹配"never" 中的 'er'，但不能匹配 "verb" 中的 'er'。 |
|
| B |
匹配非单词边界。'erB' 能匹配 "verb" 中的 'er'，但不能匹配 "never" 中的 'er'。 |
| cx |
匹配由 x 指明的控制字符。例如， cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则，将 c 视为一个原义的 'c' 字符。 |
| d |
匹配一个数字字符。等价于 [0-9]。 |
| D |
匹配一个非数字字符。等价于 [^0-9]。 |
| f |
匹配一个换页符。等价于 x0c 和 cL。 |
|
匹配一个换行符。等价于 x0a 和 cJ。 |
|
|
匹配一个回车符。等价于 x0d 和 cM。 |
|
| s |
匹配任何空白字符，包括空格、制表符、换页符等等。等价于 [ f v]。 |
| S |
匹配任何非空白字符。等价于 [^ f v]。 |
|
匹配一个制表符。等价于 x09 和 cI。 |
|
| v |
匹配一个垂直制表符。等价于 x0b 和 cK。 |
| w |
匹配字母、数字、下划线。等价于'[A-Za-z0-9_]'。 |
| W |
匹配非字母、数字、下划线。等价于 '[^A-Za-z0-9_]'。 |
| xn |
匹配 n，其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如，'x41' 匹配 "A"。'x041' 则等价于 'x04' & "1"。正则表达式中可以使用 ASCII 编码。 |
| um |
匹配 num，其中 num 是一个正整数。对所获取的匹配的引用。例如，'(.)1' 匹配两个连续的相同字符。 |
|
标识一个八进制转义值或一个向后引用。如果 之前至少 n 个获取的子表达式，则 n 为向后引用。否则，如果 n 为八进制数字 (0-7)，则 n 为一个八进制转义值。 |
|
| m |
标识一个八进制转义值或一个向后引用。如果 m 之前至少有 nm 个获得子表达式，则 nm 为向后引用。如果 m 之前至少有 n 个获取，则 n 为一个后跟文字 m 的向后引用。如果前面的条件都不满足，若 n 和 m 均为八进制数字 (0-7)，则 m 将匹配八进制转义值 nm。 |
| ml |
如果 n 为八进制数字 (0-3)，且 m 和 l 均为八进制数字 (0-7)，则匹配八进制转义值 nml。 |
| un |
匹配 n，其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如， u00A9 匹配版权符号 (?)。 |
3、常用的正则表达式处理函数
3.1 re.match函数
re.macth尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配成功的话，macth()就返回none.
函数语法：
re.macth(pattern,string,falgs=0)
函数参数说明：
pattern 匹配的正则表达式
string 要匹配的字符串
flags 标志位，用于控制正则表达式的匹配方式，如：是否区分大小写、多行匹配等等
3.2 re.search方法
re.search扫描整个字符串并返回第一个成功的字符
函数语法：
re.search(pattern,string,falgs=0)
函数参数说明：
pattern 匹配的正则表达式
string 要匹配的字符串
flags 标志位，用于控制正则表达式的匹配方式，如：是否区分大小写、多行匹配等等
3.3 检索和替换
Python的re模块提供了re.sub用于替换字符串中的匹配项。
语法：
re.sub(pattern,repl,string,count=0,flags=0)
参数含义：
--pattern：正则中的模式字符串
--repl：替换的字符串，也可以为一个函数
--string：要被查找替换的原始字符串
--count：模式匹配后替换的最大次数，默认0表示替换所有的匹配
3.4 re.findall函数
在字符串中找到正则表达式所匹配的所有字符串，并返回一个列表，如果没有找到匹配的，则返回空列表
注意：match和search是匹配一次 findall是匹配所有
语法：
re.findall(pattern,string,flags=0)
函数参数说明：
pattern 匹配的正则表达式
string 要匹配的字符串
flags 标志位，用于控制正则表达式的匹配方式，如：是否区分大小写、多行匹配等等
3.5 re.compile函数
用于编译正则表达式，生成一个正则表达式（pattern）对象，供match（）和search（）这两个函数使用
语法：
re.compile(pattern[,flags])
参数说明：
pattern：一个字符串形式的正则表达式
flags：可选，表示匹配模式，比如忽略大小写、多行模式等
4、正则表达式修饰符-可选标志
正则表达式可以包含一些可选标志修饰符来控制匹配的模式。修饰符被指定为一个可选的标志。多个标志可以通过按位 OR(|) 它们来指定。如 re.I | re.M 被设置成 I 和 M 标志。
| 修饰符 | 描述 |
|---|---|
| re.I | 使匹配对大小写不敏感 |
| re.L | 做本地化识别（locale-aware）匹配 |
| re.M | 多行匹配，影响 ^ 和 $ |
| re.S | 使 . 匹配包括换行在内的所有字符 |
| re.U | 根据Unicode字符集解析字符。这个标志影响 w, W, , B. |
| re.X | 该标志通过给予你更灵活的格式以便你将正则表达式写得更易于理解。 |