使用python爬虫怎么处理有密码的网站

小编给大家分享一下使用python爬虫怎么处理有密码的网站,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!

创新互联公司2013年至今,先为太子河等服务建站,太子河等地企业,进行企业商务咨询服务。为太子河企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。

步骤一:查看要爬取的网站信息

进入登录页面 。你会看到如下图所示的页面。

使用python爬虫怎么处理有密码的网站

然后进行查看元素,查看到name、password,最终我们得到以下内容

payload = {
"username": "",
"password": "",
"csrfmiddlewaretoken": ""
}

步骤二、配置网站登录设置

创建一个登录对象。

session_requests = requests.session()

设置一个登录的url

result = session_requests.post(
login_url,
data = payload,
headers = dict(referer=login_url)

)

步骤三、爬取信息内容

到了这个步骤,我们已经成功进行登录了,用以下方式进行爬取:

url = '链接'
result = session_requests.get(
url,
headers = dict(referer = url)
)

以上是“使用python爬虫怎么处理有密码的网站”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注创新互联行业资讯频道!


本文名称:使用python爬虫怎么处理有密码的网站
文章源于:http://azwzsj.com/article/peidjp.html