前言
本文主要給大家介紹了關于golang解析網頁利器goquery使用的相關內容，分享出來供大家參考學習，下面話不多說了，來一起看看詳細的介紹吧。
java里用Jsoup，nodejs里用cheerio，都可以相當方便的解析網頁，在golang語言里也找到了一個網頁解析的利器，相當的好用，選擇器跟jQuery一樣
安裝
go get github.com/PuerkitoBio/goquery
使用
其實就是項目的readme.md里的demo
package mainimport ( "fmt" "log" "github.com/PuerkitoBio/goquery")func ExampleScrape() { doc, err := goquery.NewDocument("http://metalsucks.net") if err != nil { log.Fatal(err) } // Find the review items doc.Find(".sidebar-reviews article .content-block").Each(func(i int, s *goquery.Selection) { // For each item found, get the band and title band := s.Find("a").Text() title := s.Find("i").Text() fmt.Printf("Review %d: %s - %s/n", i, band, title) })}func main() { ExampleScrape()}亂碼問題
中文網頁都會有亂碼問題，因為它默認是utf8編碼，這時候就要用到轉碼器了
安裝 iconv-go
go get github.com/djimenez/iconv-go
使用方法
func ExampleScrape() { res, err := http.Get(baseUrl) if err != nil { fmt.Println(err.Error()) } else { defer res.Body.Close() utfBody, err := iconv.NewReader(res.Body, "gb2312", "utf-8") if err != nil { fmt.Println(err.Error()) } else { doc, err := goquery.NewDocumentFromReader(utfBody) // 下面就可以用doc去獲取網頁里的結構數據了 // 比如 doc.Find("li").Each(func(i int, s *goquery.Selection) { fmt.Println(i, s.Text()) }) } }}進階
有些網站會設置Cookie, Referer等驗證，可以在http發請求之前設置上請求的頭信息
這個不屬于goquery里的東西了，想了解更多可以查看golang里的 net/http 包下的方法等信息
baseUrl:="http://baidu.com"client:=&http.Client{}req, err := http.NewRequest("GET", baseUrl, nil)req.Header.Add("User-Agent", "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_5) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36")req.Header.Add("Referer", baseUrl)req.Header.Add("Cookie", "your cookie") // 也可以通過req.Cookie()的方式來設置cookieres, err := client.Do(req)defer res.Body.Close()//最后直接把res傳給goquery就可以來解析網頁了doc, err := goquery.NewDocumentFromResponse(res)總結
以上就是這篇文章的全部內容了，希望本文的內容對大家的學習或者工作具有一定的參考學習價值，如果有疑問大家可以留言交流，謝謝大家對VEVB武林網的支持。
參考
新聞熱點
疑難解答
