Go语言用Colly库编写的图像爬虫程序

下面是一个使用Colly库编写的Go语言图像爬虫程序，该程序会爬取news.qq上的图片，并使用proxy_host:duoip和proxy_port:8000的爬虫IP服务器进行抓取。

代码语言：javascript复制

package main

import (
    "fmt"
    "net/http"

    "github.com/crawlab-collective/go-colly"
)

func main() {
    // 创建一个Collector实例
    c := colly.NewCollector()

    // 设置爬虫IP服务器
    c.SetProxy("http", "duoip:8000")

    // 添加要爬取的URL
    c.OnRequest(func(r *colly.Request) {
        r.URL = "news.qq"
    })

    // 当抓取到图片时，将其下载到本地
    c.OnHTML("img", func(e *colly.HTMLElement) {
        imgURL := e	attr := e.Attr("src")
        fmt.Println(imgURL)
        c.Image(imgURL)
    })

    // 开始抓取
    c.Start()
}

这个程序首先创建一个colly.Collector实例，并设置爬虫IP服务器为duoip:8000。然后，它添加要爬取的URL为news.qq。

当程序抓取到网页上的图片时，它会打印出图片的URL，并使用c.Image()方法将其下载到本地。

最后，程序使用c.Start()方法开始抓取。

爬虫 代码规范爬虫 爬虫教程 爬虫IP

0 人点赞