Python爬取微信公众号(网页微信法)

/ Python爬虫 / 没有评论 / 1269浏览

我的之前的一篇文章介绍了怎么用anyproxy中间人代理的方法来爬取微信公众号,现在有另一种方法,原理是通过网页微信,用的是wxpy框架,wxpy框架是一个微信聊天机器人框架,wxpy框架基于itchat框架,itchat框架也是一个微信聊天机器人框架,wxpy框架是改进了itchat框架的微信聊天机器人框架,其实wxpy框架也能很方便地获取到公众号文章的推送。项目的源码:https://github.com/zjhpure/crawler_public_number_web

1、先说流程,使用wxpy框架扫二维码--登录网页微信--挂着网页微信--接收网页微信的各种推送--判断推送是否为公众号最新文章推送,若是就进行各种过滤操作后入库。

2、关键代码很简单,不超过50行,还能很实时地接收到公众号文章的最新推送,

# coding: utf-8
from wxpy import *

# 初始化机器人,扫码登陆,在命令行上登录console_qr参数必须设置为True
# 因为在命令行登录不会弹出二维码图片,只会在命令行上直接生成二维码
bot = Bot(console_qr=True)

# 打印来自其他好友、群聊和公众号的消息
@bot.register()
def print_others(msg):
    print('msg:' + str(msg))
    articles = msg.articles
    if articles is not None:
        for article in articles:
            print('title:' + str(article.title))
            print('summary:' + str(article.summary))
            print('url:' + str(article.url))
            print('cover:' + str(article.cover))

if __name__ == '__main__':
    # 或者仅仅堵塞线程
    bot.join()

运行过程 但是目前有个缺陷,article里没有文章的发表时间,这一点我觉得有些奇怪,因为我通过抓包网页微信是看到有公众号文章推送的时间戳的,按理说这里的article应该要有个发表时间的属性的。以下是wxpy框架articles方法的源码,

@property
def articles(self):
    """
    公众号推送中的文章列表 (首篇的 标题/地址 与消息中的 text/url 相同)

    其中,每篇文章均有以下属性:

    * `title`: 标题
    * `summary`: 摘要
    * `url`: 文章 URL
    * `cover`: 封面或缩略图 URL
    """

    from wxpy import MP
    if self.type == SHARING and isinstance(self.sender, MP):
        tree = ETree.fromstring(self.raw['Content'])
        # noinspection SpellCheckingInspection
        items = tree.findall('.//mmreader/category/item')

        article_list = list()

        for item in items:
            def find_text(tag):
                found = item.find(tag)
                if found is not None:
                    return found.text

            article = Article()
            article.title = find_text('title')
            article.summary = find_text('digest')
            article.url = find_text('url')
            article.cover = find_text('cover')
            article_list.append(article)

        return article_list

并没有发表时间的这一属性。因为wxpy框架是基于itchat框架的,所以有可能是wxpy框架没有继承到itchat里的文章发表时间数据,或者itchat框架本身就没有文章发表时间数据。这个问题可以有一个折中的解决方法,如果文章的发表时间的准确性对于你的业务来说没有多大影响的,可以用接收到推送的时间作为文章的发表时间,但是如果文章发表时间的准确性很重要就不行了,因为接收到推送的时间会有延迟,而且也可能会出现凌晨前发出的文章,凌晨后爬虫服务器才接收到推送,那发表时间的日期就错了,而且也会有可能爬虫服务器的时间本身就出错了。

3、用网页微信这种方法来爬取公众号,只能爬取到最新推送的公众号文章,不能爬取公众号历史消息,因为网页微信本身就没有查看公众号历史消息的功能,但是这种方法却能很及时地爬取到公众号的最新推送,但是一旦爬取时出了错,就无法挽回了。这种方法还要注意封号的问题,不能挂着时间太长,因为一个正常的微信号是不会很长时间挂着网页微信的,可以尝试用多个微信号轮流切换着挂网页微信。这种方法用来登录网页微信的微信号条件要比anyproxy中间人代理的方法高,印象中微信号需要绑定银行卡才可以。

4、其实爬取公众号不能只用一种方法的,只用一种方法存在很大的风险,是需要多种方法结合一起用的,多种方法竞争获取文章列表源,添加到redis文章队列中,再由另外一个服务不断地获取redis文章队列来爬取文章,详细请看接下来的文章分析。

个人微信公众号

微信公众号:纯洁的技术分享(chunjie_tech)

纯洁的技术分享