python下载微信公众号相关文章-创新互联
本文实例为大家分享了python下载微信公众号相关文章的具体代码,供大家参考,具体内容如下
创新互联公司是一家以重庆网站建设公司、网页设计、品牌设计、软件运维、seo优化排名、小程序App开发等移动开发为一体互联网公司。已累计为社区文化墙等众行业中小客户提供优质的互联网建站和软件开发服务。目的:从零开始学自动化测试公众号中下载“pytest"一系列文档
1、搜索微信号文章关键字搜索
2、对搜索结果前N页进行解析,获取文章标题和对应URL
主要使用的是requests和bs4中的Beautifulsoup
Weixin.py
import requests from urllib.parse import quote from bs4 import BeautifulSoup import re from WeixinSpider.HTML2doc import MyHTMLParser class WeixinSpider(object): def __init__(self, gzh_name, pageno,keyword): self.GZH_Name = gzh_name self.pageno = pageno self.keyword = keyword.lower() self.page_url = [] self.article_list = [] self.headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.110 Safari/537.36'} self.timeout = 5 # [...] 用来表示一组字符,单独列出:[amk] 匹配 'a','m'或'k' # re+ 匹配1个或多个的表达式。 self.pattern = r'[\\/:*?"<>|\r\n]+' def get_page_url(self): for i in range(1,self.pageno+1): # https://weixin.sogou.com/weixin?query=从零开始学自动化测试&_sug_type_=&s_from=input&_sug_=n&type=2&page=2&ie=utf8 url = "https://weixin.sogou.com/weixin?query=%s&_sug_type_=&s_from=input&_sug_=n&type=2&page=%s&ie=utf8" \ % (quote(self.GZH_Name),i) self.page_url.append(url) def get_article_url(self): article = {} for url in self.page_url: response = requests.get(url,headers=self.headers,timeout=self.timeout) result = BeautifulSoup(response.text, 'html.parser') articles = result.select('ul[class="news-list"] > li > div[class="txt-box"] > h4 > a ') for a in articles: # print(a.text) # print(a["href"]) if self.keyword in a.text.lower(): new_text=re.sub(self.pattern,"",a.text) article[new_text] = a["href"] self.article_list.append(article) headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.110 Safari/537.36'} timeout = 5 gzh_name = 'pytest文档' My_GZH = WeixinSpider(gzh_name,5,'pytest') My_GZH.get_page_url() # print(My_GZH.page_url) My_GZH.get_article_url() # print(My_GZH.article_list) for article in My_GZH.article_list: for (key,value) in article.items(): url=value html_response = requests.get(url,headers=headers,timeout=timeout) myHTMLParser = MyHTMLParser(key) myHTMLParser.feed(html_response.text) myHTMLParser.doc.save(myHTMLParser.docfile)
另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。
当前文章:python下载微信公众号相关文章-创新互联
转载源于:http://azwzsj.com/article/dggdpj.html