Python 3基础教程31-urllib模块

本文介绍Python里的urllib模块，这个urllib主要处理web服务的，如果需要做接口测试，或者写Python的网络爬虫，这个urllib就是最底层的库。需要用到里面的请求方法等。

1. 先看看一个不带参数的http 请求

# urllib模块

import urllib.request

# 向web服务器发送一个请求，打开百度学术首页

x = urllib.request.urlopen('http://xueshu.baidu.com/')

# 打印页面源代码

print(x.read())

　　自己运行下，这里就不贴运行结果

2.再看看带参数的http 请求，这里以新浪天气举例

# urllib模块

import urllib.request

import urllib.parse

# 向web服务器发送一个请求，打开百度学术首页

#x = urllib.request.urlopen('http://xueshu.baidu.com/')

# 打印页面源代码

#print(x.read())

# 发送一个带参数的请求

url = 'http://php.weather.sina.com.cn/search.php'

values = {'city':'北京',

          'dpc':'1'

          }

'''

city=北京，这个字段需要转码，转成后是%B1%B1%BE%A9

你可以打开http://php.weather.sina.com.cn，搜索北京看看是不是这个转码

这个转码过程就叫encode

'''

data = urllib.parse.urlencode(values)

# 参数的编码格式是Unicode，这里用utf-8，最适合网络传输的编码协议

data = data.encode('utf-8')

# 调用一个有url和参数的请求，通过Request(url,data)

req = urllib.request.Request(url,data)

# 打开这个请求，通过urlopen函数

resq = urllib.request.urlopen(req)

# 定义一个响应返回数据respData，也就是读取查询北京天气的页面

respData = resq.read()

# 打印北京天气查询结果页的源代码

print(respData)

　　运行一下，需要等待一点时间，就可以看到北京天气查询结果页的源代码输出。

Python下的urllib库就先介绍到这里，以后做爬虫或者接口自动化测试，需要用到这些。当然，爬虫和接口测试Python不止urllib这个库，还有更好的库支持完成这些工作。