python中获取页面的常用方法
这篇文章将为大家详细讲解有关python中获取页面的常用方法,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。
创新互联建站是一家专注于网站制作、网站设计与策划设计,和布克赛尔蒙古网站建设哪家好?创新互联建站做网站,专注于网站建设10多年,网设计领域的专业建站公司;建站业务涵盖:和布克赛尔蒙古等地区。和布克赛尔蒙古做网站价格咨询:18982081108
python获取页面的方法:1、使用urllib模块获取网页内容;2、使用urllib2模块获取页面内容;3、使用requests模块获取页面内容;4、使用codecs模块获取页面内容。
在学习python爬虫的过程中,总会遇到要获取网页内容的时候,下面就对如何获取网页内容进行总结。
方法一:
>import urllib >url="http://www.baidu.com" #这里是需要获取的网页 >content=urllib.open(url).read() #使用urllib模块获取网页内容 >print content #输出网页的内容 功能相当于查看网页源代码
方法二:
>import urllib2 >from bs4 import BeautifulSoup #这里需要导入BeautifulSoup >url="http://www.baidu.com" >content=urllib2.urlopen(url) >soup=BeautifulSoup(content) #将网页内容转化为BeautifulSoup 格式的数据 >print soup
方法三:
>import requests >content=requests.get(url).content >print content
这里是使用的python的requests模块获取网页的内容。
方法四:
>import codecs #导入codecs模块 >f=codecs.open(url,"r","utf-8") #使用codecs函数以打开的方式打开url 设置默认的编码方式为utf-8 >content=f.read() >f.close() >print content
关于python中获取页面的常用方法就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。
网站栏目:python中获取页面的常用方法
文章网址:http://azwzsj.com/article/pishjs.html