用Python爬虫获取百度企业信用中企业基本信息的方法-创新互联
创新互联www.cdcxhl.cn八线动态BGP香港云服务器提供商,新人活动买多久送多久,划算不套路!
成都创新互联主营鲁山网站建设的网络公司,主营网站建设方案,重庆APP软件开发,鲁山h5小程序定制开发搭建,鲁山网站营销推广欢迎鲁山等地区企业咨询这篇文章主要介绍用Python爬虫获取百度企业信用中企业基本信息的方法,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!
一、背景
希望根据企业名称查询其经纬度,所在的省份、城市等信息。直接将企业名称传给百度地图提供的API,得到的经纬度是非常不准确的,因此希望获取企业完整的地理位置,这样传给API后结果会更加准确。
百度企业信用提供了企业基本信息查询的功能。希望通过Python爬虫获取企业基本信息。目前已基本实现了这一需求。
本文最后会提供具体的代码。代码仅供学习参考,希望不要恶意爬取数据!
二、分析
以苏宁为例。输入“江苏苏宁”后,查询结果如下:
经过分析,这里列示的企业信息是用JavaScript动态生成的。服务器最初传过来的未经渲染的HTML如下:
注意其中标注出来的JS代码。有意思的是,企业基本信息都可以直接从这段JS代码中获取,无需构造复杂的参数。
这是进一步查看的结果,注意那个“resultList”,后面存放的就是页面中的企业信息。显然,利用正则表达式提取需要的字符串,转换成JSON就可以了。
三、源码
以下代码为查询某个企业的基本信息提供了API:
#!/usr/bin/env python # -*- coding:utf-8 -*- # @Author: Wild Orange # @Email: jixuanfan_seu@163.com # @Date: 2020-06-19 22:38:14 # @Last Modified time: 2020-07-01 17:33:13 import requests import re import json headers={'User-Agent': 'Chrome/76.0.3809.132'} #正则表达式提取数据 re_get_js=re.compile(r'') re_resultList=re.compile(r'"resultList":(\[{.+?}\]}])') def Get_company_info(name): ''' @func: 通过百度企业信用查询企业基本信息 ''' url='https://xin.baidu.com/s?q=%s'%name res=requests.get(url,headers=headers) if res.status_code==200: html=res.text retVal=_parse_baidu_company_info(html) return retVal else: print('无法获取%s的企业信息'%name) def _parse_baidu_company_info(html): ''' @function:解析百度企业信用提供的企业基本信息 @output: list of dict, [{},{},...] pid: 跳转到具体企业页面的参数 bid: 具体企业页面URL中的参数 name: 企业名称 type: 企业类型 date: 成立日期 address: 地址 person: 法人代表 status: 存续状态 regCap: 注册资本 scope: 经营范围 ''' js=re_get_js.findall(html)[1] data=re_resultList.search(js) if not data: return compant_list=json.loads(data.group(1)) retVal=[] for x in compant_list: regCap=x['regCap'].replace(',','') if regCap[-1]=='万': regCap=regCap[:-1] regCap=float(regCap) address=x['domicile'].replace('','').replace('','') temp_v={'pid':x['pid'],'bid':x['bid'],'name':x['titleName'],'type':x['entType'],'date':x['validityFrom'],\ 'address':address,'person':x['legalPerson'],'status':x['openStatus'],'regCap':regCap,\ 'scope':x['scope']} retVal.append(temp_v) return retVal
本文题目:用Python爬虫获取百度企业信用中企业基本信息的方法-创新互联
分享网址:http://azwzsj.com/article/cohpps.html