簡(jiǎn)介
一般批量爬取視頻或者圖片的套路是，使用爬蟲(chóng)獲得文件鏈接集合，然后通過(guò) writeFile 等方法逐個(gè)保存文件。然而，頭條的視頻，在需要爬取的 html 文件（服務(wù)端渲染輸出）中，無(wú)法捕捉視頻鏈接。視頻鏈接是頁(yè)面在客戶端渲染時(shí)，通過(guò)某些 js 文件內(nèi)的算法或者解密方法，根據(jù)視頻的已知 key 或者 hash 值，動(dòng)態(tài)計(jì)算出來(lái)并添加到 video 標(biāo)簽的。這也是網(wǎng)站的一種反爬措施。
我們?cè)跒g覽這些頁(yè)面時(shí)，通過(guò)審核元素，可以看到計(jì)算后的文件地址。然而在批量下載時(shí)，逐個(gè)手動(dòng)的獲取視頻鏈接顯然不可取。開(kāi)心的是，puppeteer 提供了模擬訪問(wèn) Chrome 的功能，使我們可以爬取經(jīng)過(guò)瀏覽器渲染出來(lái)的最終頁(yè)面。
項(xiàng)目啟動(dòng)
命令
npm inpm start
Notice: 安裝 puppeteer 的過(guò)程稍慢，耐心等待。
配置文件
// 配置相關(guān)module.exports = { originPath: 'https://www.ixigua.com', // 頁(yè)面請(qǐng)求地址 savePath: 'D:/videoZZ' // 存放路徑}技術(shù)點(diǎn)
puppeteer
官方API
puppeteer 提供一個(gè)高級(jí) API 來(lái)控制 Chrome 或者 Chromium。
puppeteer 主要作用：
利用網(wǎng)頁(yè)生成 PDF、圖片
爬取SPA應(yīng)用，并生成預(yù)渲染內(nèi)容（即“SSR” 服務(wù)端渲染）
可以從網(wǎng)站抓取內(nèi)容
自動(dòng)化表單提交、UI測(cè)試、鍵盤(pán)輸入等
使用到的 API：
puppeteer.launch() 啟動(dòng)瀏覽器實(shí)例
browser.newPage() 創(chuàng)建一個(gè)新頁(yè)面
page.goto() 進(jìn)入指定網(wǎng)頁(yè)
page.screenshot() 截圖
page.waitFor() 頁(yè)面等待，可以是時(shí)間、某個(gè)元素、某個(gè)函數(shù)
page.$eval() 獲取一個(gè)指定元素，相當(dāng)于 document.querySelector
page.$$eval() 獲取某類元素，相當(dāng)于 document.querySelectorAll
page.$('#id .className') 獲取文檔中的某個(gè)元素，操作類似jQuery
代碼示例
const puppeteer = require('puppeteer'); (async () => { const browser = await puppeteer.launch(); const page = await browser.newPage(); await page.goto('https://example.com'); await page.screenshot({path: 'example.png'}); await browser.close();})();視頻文件下載方法
下載視頻主方法
const downloadVideo = async video => { // 判斷視頻文件是否已經(jīng)下載 if (!fs.existsSync(`${config.savePath}/${video.title}.mp4`)) { await getVideoData(video.src, 'binary').then(fileData => { console.log('下載視頻中：', video.title) savefileToPath(video.title, fileData).then(res => console.log(`${res}: ${video.title}`) ) }) } else { console.log(`視頻文件已存在：${video.title}`) }}獲取視頻數(shù)據(jù)
getVideoData (url, encoding) { return new Promise((resolve, reject) => { let req = http.get(url, function (res) { let result = '' encoding && res.setEncoding(encoding) res.on('data', function (d) { result += d }) res.on('end', function () { resolve(result) }) res.on('error', function (e) { reject(e) }) }) req.end() })}將視頻數(shù)據(jù)保存到本地
savefileToPath (fileName, fileData) { let fileFullName = `${config.savePath}/${fileName}.mp4` return new Promise((resolve, reject) => { fs.writeFile(fileFullName, fileData, 'binary', function (err) { if (err) { console.log('savefileToPath error:', err) } resolve('已下載') }) })}目標(biāo)網(wǎng)站：西瓜視頻
項(xiàng)目功能：下載頭條號(hào)【維辰財(cái)經(jīng)】下的最新20個(gè)視頻
項(xiàng)目地址：Github 地址
新聞熱點(diǎn)
疑難解答
