广度配合匿名爬取(改进)

哆啦在这A梦在哪 · · 585 次点击 · · 开始浏览    
这是一个创建于 的文章,其中的信息可能已经有所发展或是发生改变。

package main

import (

    "fmt"

    "io/ioutil"

    "log"

    "net/http"

    "os"

    "regexp"

    "strings"

    "sync"

    "golang.org/x/net/html"

)

//timer

var (

    ground sync.WaitGroup

    str    string = "https://docs.hacknode.org/gopl-zh/"

)

func init() {

    defer func() {

        if err := recover(); err != nil {

            log.Fatal("recover error is :", err)

        }

    }()

}

//CreatFile is func to get infomation

func CreatFile(bt []byte, i string) {

    f, err := os.OpenFile("F:/MyGo/src/waitground_user/url"+i+".txt", os.O_CREATE|os.O_APPEND, 0666)

    if err != nil {

        log.Fatal(err)

    }

    defer f.Close()

    _, err = f.Write([]byte(bt))

    if err != nil {

        log.Fatal(err)

    }

}

//GetURLInfomation is get url infomation

func GetURLInfomation(URL string, ch chan int) (bt []byte) {

    resp, err := http.Get(URL)

    if err != nil {

        log.Fatal(err)

    }

    defer resp.Body.Close()

    if resp.StatusCode != http.StatusOK {

        log.Fatal("Can't connect")

    }

    bt, err = ioutil.ReadAll(resp.Body)

    if err != nil {

        log.Fatal(err)

    }

    ch <- 1

    return bt

}

//GetURLInfomationAdress is a func get URL infomation

func GetURLInfomationAdress(URL string) []string {

    resp, err := http.Get(URL)

    if err != nil {

        log.Fatal(err)

    }

    defer resp.Body.Close()

    if resp.StatusCode != http.StatusOK {

        log.Fatal("Can't connect:", URL)

    }

    //开始节点处理

    doc, err := html.Parse(resp.Body)

    if err != nil {

        log.Fatal(err)

    }

    var links []string

    ForOneNode := func(n *html.Node) { //单次节点处理

        if n.Type == html.ElementNode && n.Data == "a" {

            for _, a := range n.Attr {

                if a.Key != "href" {

                    continue

                }

                link, err := resp.Request.URL.Parse(a.Val)

                if err != nil {

                    log.Fatal(err)

                }

                if CheckURL(link.String(), links) {

                    links = append(links, link.String()) //这条语句可以改成并行获取URL地址内容

                }

            }

        }

    }

    ForEachNode(doc, ForOneNode, nil)

    return links

}

//ForEachNode is 广度优先遍历

func ForEachNode(n *html.Node, pre, post func(n *html.Node)) {

    if pre != nil {

        pre(n)

    }

    for c := n.FirstChild; c != nil; c = c.NextSibling {

        ForEachNode(c, pre, post)

    }

    if post != nil {

        post(n)

    }

}

//正则表达式检查

func checkRegexp(cont string, reg string, style int) (result interface{}) {

    check := regexp.MustCompile(reg)

    switch style {

    case 0:

        result = check.FindString(cont)

    case 1:

        result = check.FindAllString(cont, -1)

    default:

        result = check.FindAll([]byte(cont), -1)

    }

    return

}

//CheckURL is check the repeated fields

func CheckURL(link string, links []string) bool {

    bl := true

    for _, str := range links {

        if str == link {

            bl = false

            break

        }

    }

    return bl

}

func main() {

    bt := GetURLInfomationAdress(str) //第一次运行,获取所有的标签链接地址

    fmt.Println("first finish")

    // fmt.Println(bt[1])

    // f := GetURLInfomation(bt[1])

    // CreatFile(f, strconv.Itoa(1))

    ch := make(chan int)

    for _, t := range bt {

        t := t

        go func() { //遍历所有地址,获取地址内容

            fname := strings.Split(t, "/")

            ff := fname[len(fname)-1]

            fmt.Println("地址:", t)

            fmt.Println(ff)

            ft := strings.Split(ff, ".")

            fft := ft[0]

            fmt.Println(fft) //进行地址处理,取页面名当做文件名

            p := GetURLInfomation(t, ch)

            CreatFile([]byte(p), fft)

        }()

    }

    for range ch {

        <-ch

    }

}

本文来自:简书

感谢作者:哆啦在这A梦在哪

查看原文:广度配合匿名爬取(改进)

入群交流(和以上内容无关):Go中文网 QQ 交流群:798786647 或加微信入微信群:274768166 备注:入群;关注公众号:Go语言中文网

585 次点击  
加入收藏 微博
暂无回复
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传