如何爬取多個網站文章

『壹』 如何盜取網站上的文章！！！

點擊文件-另存為-存為TXT文本文檔（文件類型改為TXT)，然後打開文檔就OK了，我經常乾的，嘿嘿

『貳』 如何抓取微信所有公眾號最新文章

經常有朋友需要幫忙做公眾號文章爬取，這次來做一個各種方法的匯總說明。
目前爬取微信公眾號的方法主要有3種：

• 通過爬取第三方的公眾號文章聚合網站

• 通過微信公眾平台引用文章介面

• 通過抓包程序，分析微信app訪問公眾號文章的介面

通過第三方的公眾號文章聚合網站爬取

微信公眾號文章一直沒有提供一個對外的搜索功能，直到2013年微信投資搜狗之後，搜狗搜索接入微信公眾號數據，從此使用搜狗搜索就可以瀏覽或查詢到相關公眾號以及文章。
域名是: https://weixin.sogou.com/

可以直接搜索公眾號或者文章的關鍵字，一些熱門的公眾號更新還是很及時的，幾乎做到了和微信同步。

所以，爬一些熱門公眾號可以使用搜狗微信的介面來做，但是一些小眾公眾號是搜索不到的，而且搜狗的防爬機制更新的比較勤，獲取數據的介面變化的比較快，經常兩三個月就有調整，導致爬蟲很容易掛，這里還是建議使用 selenium爬比較省心。另外搜狗對每個ip也有訪問限制，訪問太頻ip會被封禁24小時，需要買個ip池來做應對。
還有一些其他公眾號文章聚合網站(比如傳送門)也都存在更新不及時或者沒有收錄的問題，畢竟搜狗這個親兒子都不行。

通過微信公眾平台引用文章介面

這個介面比較隱蔽而且沒法匿名訪問，所有得有一個公眾號，建議新注冊一個公眾號比較好，免得被封。
下面開始具體步驟：首先登錄自己的微信公眾號，在進去的首頁選擇 新建群發，然後再點擊 自建圖文，在文章編輯工具欄中找到 超鏈接，如下圖：

到這里就可以輸入公眾號的名字，回車之後微信就會返回相匹配的公眾號列表，接著點擊你想抓取的公眾號，就會顯示具體的文章列表了，已經是按時間倒序了，最新的文章就是第一條了。

微信的分頁機制比較奇怪，每個公眾號的每頁顯示的數據條數是不一樣的，分頁爬的時候要處理一下。
通過chrome分析網路請求的數據，我們想要的數據已經基本拿到了，文章鏈接、封面、發布日期、副標題等，如

由於微信公眾平台登錄驗證比較嚴格，輸入密碼之後還必須要手機掃碼確認才能登錄進去，所以最好還是使用 selenium做自動化比較好。具體微信介面的分析過程我就不列了，直接貼代碼了：

• import re

• import time

• import random

• import traceback

• import requests

• from selenium import webdriver

• class Spider(object):

• '''

• 微信公眾號文章爬蟲

• '''

• def __init__(self):

• # 微信公眾號賬號

• self.account = '286394973@qq.com'

• # 微信公眾號密碼

• self.pwd = 'lei4649861'

• def create_driver(self):

• '''

• 初始化 webdriver

• '''

• options = webdriver.ChromeOptions()

• # 禁用gpu加速，防止出一些未知bug

• options.add_argument('--disable-gpu')

• # 這里我用 chromedriver 作為 webdriver

• # 可以去 http://chromedriver.chromium.org/downloads 下載你的chrome對應版本

• self.driver = webdriver.Chrome(executable_path='./chromedriver', chrome_options=options)

• # 設置一個隱性等待 5s

• self.driver.implicitly_wait(5)

• def log(self, msg):

• '''

• 格式化列印

• '''

• print('------ %s ------' % msg)

• def login(self):

• '''

• 登錄拿 cookies

• '''

• try:

• self.create_driver()

• # 訪問微信公眾平台

• self.driver.get('https://mp.weixin.qq.com/')

• # 等待網頁載入完畢

• time.sleep(3)

• # 輸入賬號

• self.driver.find_element_by_xpath("./*//input[@name='account']").clear()

• self.driver.find_element_by_xpath("./*//input[@name='account']").send_keys(self.account)

• # 輸入密碼

• self.driver.find_element_by_xpath("./*//input[@name='password']").clear()

• self.driver.find_element_by_xpath("./*//input[@name='password']").send_keys(self.pwd)

• # 點擊登錄

• self.driver.find_elements_by_class_name('btn_login')[0].click()

• self.log("請拿手機掃碼二維碼登錄公眾號")

• # 等待手機掃描

• time.sleep(10)

• self.log("登錄成功")

• # 獲取cookies 然後保存到變數上，後面要用

• self.cookies = dict([[x['name'], x['value']] for x in self.driver.get_cookies()])

• except Exception as e:

• traceback.print_exc()

• finally:

• # 退出 chorme

• self.driver.quit()

• def get_article(self, query=''):

• try:

• url = 'https://mp.weixin.qq.com'

• # 設置headers

• headers = {

• "HOST": "mp.weixin.qq.com",

• "User-Agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.109 Safari/537.36"

• }

• # 登錄之後的微信公眾號首頁url變化為：https://mp.weixin.qq.com/cgi-bin/home?t=home/index&lang=zh_CN&token=1849751598，

• # 從這里獲取token信息

• response = requests.get(url=url, cookies=self.cookies)

• token = re.findall(r'token=(d+)', str(response.url))[0]

• time.sleep(2)

• self.log('正在查詢[ %s ]相關公眾號' % query)

• search_url = 'https://mp.weixin.qq.com/cgi-bin/searchbiz?'

• # 搜索微信公眾號介面需要傳入的參數，

• # 有三個變數：微信公眾號token、隨機數random、搜索的微信公眾號名字

• params = {

• 'action': 'search_biz',

• 'token': token,

• 'random': random.random(),

• 'query': query,

• 'lang': 'zh_CN',

• 'f': 'json',

• 'ajax': '1',

• 'begin': '0',

• 'count': '5'

• }

• # 打開搜索微信公眾號介面地址，需要傳入相關參數信息如：cookies、params、headers

• response = requests.get(search_url, cookies=self.cookies, headers=headers, params=params)

• time.sleep(2)

• # 取搜索結果中的第一個公眾號

• lists = response.json().get('list')[0]

• # 獲取這個公眾號的fakeid，後面爬取公眾號文章需要此欄位

• fakeid = lists.get('fakeid')

• nickname = lists.get('nickname')

• # 微信公眾號文章介面地址

• search_url = 'https://mp.weixin.qq.com/cgi-bin/appmsg?'

• # 搜索文章需要傳入幾個參數：登錄的公眾號token、要爬取文章的公眾號fakeid、隨機數random

• params = {

• 'action': 'list_ex',

• 'token': token,

• 'random': random.random(),

• 'fakeid': fakeid,

• 'lang': 'zh_CN',

• 'f': 'json',

• 'ajax': '1',

• 'begin': '0', # 不同頁，此參數變化，變化規則為每頁加5

• 'count': '5',

• 'query': '',

• 'type': '9'

• }

• self.log('正在查詢公眾號[ %s ]相關文章' % nickname)

• # 打開搜索的微信公眾號文章列表頁

• response = requests.get(search_url, cookies=self.cookies, headers=headers, params=params)

• time.sleep(2)

• for per in response.json().get('app_msg_list', []):

• print('title ---> %s' % per.get('title'))

• print('link ---> %s' % per.get('link'))

• # print('cover ---> %s' % per.get('cover'))

• except Exception as e:

• traceback.print_exc()

• if __name__ == '__main__':

• spider = Spider()

• spider.login()

• spider.get_article('python')

代碼只是作為學習使用，沒有做分頁查詢之類。實測過介面存在訪問頻次限制，一天幾百次還是沒啥問題，太快或者太多次訪問就會被封24小時。

『叄』 如何用python寫爬蟲來獲取網頁中所有的文章以及關鍵詞

所謂網頁抓取，就是把URL地址中指定的網路資源從網路流中讀取出來，保存到本地。
類似於使用程序模擬IE瀏覽器的功能，把URL作為HTTP請求的內容發送到伺服器端， 然後讀取伺服器端的響應資源。

在Python中，我們使用urllib2這個組件來抓取網頁。
urllib2是Python的一個獲取URLs(Uniform Resource Locators)的組件。

它以urlopen函數的形式提供了一個非常簡單的介面。

最簡單的urllib2的應用代碼只需要四行。

我們新建一個文件urllib2_test01.py來感受一下urllib2的作用：

import urllib2
response = urllib2.urlopen('http://www..com/')
html = response.read()
print html

按下F5可以看到運行的結果：

我們可以打開網路主頁，右擊，選擇查看源代碼（火狐OR谷歌瀏覽器均可），會發現也是完全一樣的內容。

也就是說，上面這四行代碼將我們訪問網路時瀏覽器收到的代碼們全部列印了出來。

這就是一個最簡單的urllib2的例子。

除了"http:"，URL同樣可以使用"ftp:"，"file:"等等來替代。

HTTP是基於請求和應答機制的：

客戶端提出請求，服務端提供應答。

urllib2用一個Request對象來映射你提出的HTTP請求。

在它最簡單的使用形式中你將用你要請求的地址創建一個Request對象，

通過調用urlopen並傳入Request對象，將返回一個相關請求response對象，

這個應答對象如同一個文件對象，所以你可以在Response中調用.read()。

我們新建一個文件urllib2_test02.py來感受一下：

import urllib2
req = urllib2.Request('http://www..com')
response = urllib2.urlopen(req)
the_page = response.read()
print the_page

可以看到輸出的內容和test01是一樣的。

urllib2使用相同的介面處理所有的URL頭。例如你可以像下面那樣創建一個ftp請求。

req = urllib2.Request('ftp://example.com/')

在HTTP請求時，允許你做額外的兩件事。

1.發送data表單數據

這個內容相信做過Web端的都不會陌生，

有時候你希望發送一些數據到URL(通常URL與CGI[通用網關介面]腳本，或其他WEB應用程序掛接)。

在HTTP中,這個經常使用熟知的POST請求發送。

這個通常在你提交一個HTML表單時由你的瀏覽器來做。

並不是所有的POSTs都來源於表單，你能夠使用POST提交任意的數據到你自己的程序。

一般的HTML表單，data需要編碼成標准形式。然後做為data參數傳到Request對象。

編碼工作使用urllib的函數而非urllib2。

我們新建一個文件urllib2_test03.py來感受一下：

import urllib
import urllib2
url = 'http://www.someserver.com/register.cgi'
values = {'name' : 'WHY',
'location' : 'SDU',
'language' : 'Python' }
data = urllib.urlencode(values) # 編碼工作
req = urllib2.Request(url, data) # 發送請求同時傳data表單
response = urllib2.urlopen(req) #接受反饋的信息
the_page = response.read() #讀取反饋的內容

如果沒有傳送data參數，urllib2使用GET方式的請求。

GET和POST請求的不同之處是POST請求通常有"副作用"，

它們會由於某種途徑改變系統狀態(例如提交成堆垃圾到你的門口)。

Data同樣可以通過在Get請求的URL本身上面編碼來傳送。

import urllib2
import urllib
data = {}
data['name'] = 'WHY'
data['location'] = 'SDU'
data['language'] = 'Python'
url_values = urllib.urlencode(data)
print url_values
name=Somebody+Here&language=Python&location=Northampton
url = 'http://www.example.com/example.cgi'
full_url = url + '?' + url_values
data = urllib2.open(full_url)

這樣就實現了Data數據的Get傳送。

2.設置Headers到http請求

有一些站點不喜歡被程序（非人為訪問）訪問，或者發送不同版本的內容到不同的瀏覽器。

默認的urllib2把自己作為「Python-urllib/x.y」(x和y是Python主版本和次版本號,例如Python-urllib/2.7)，

這個身份可能會讓站點迷惑，或者乾脆不工作。

瀏覽器確認自己身份是通過User-Agent頭，當你創建了一個請求對象，你可以給他一個包含頭數據的字典。

下面的例子發送跟上面一樣的內容，但把自身模擬成Internet Explorer。

（多謝大家的提醒，現在這個Demo已經不可用了，不過原理還是那樣的）。

import urllib
import urllib2
url = 'http://www.someserver.com/cgi-bin/register.cgi'
user_agent = 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'
values = {'name' : 'WHY',
'location' : 'SDU',
'language' : 'Python' }
headers = { 'User-Agent' : user_agent }
data = urllib.urlencode(values)
req = urllib2.Request(url, data, headers)
response = urllib2.urlopen(req)
the_page = response.read()

以上就是python利用urllib2通過指定的URL抓取網頁內容的全部內容，非常簡單吧，希望對大家能有所幫助。