忙活了2天,不知道算不算广告,如果算的话麻烦站长删除。点我访问
周末在家练手用go写的一个笑话爬虫,主要是为孩子妈在家带孩子解闷,所以手机上看也的话,界面也还凑合。 主要使用了技术: golang mongodb mgo bootstrap beego 自己实现了一套简单的spider,包含调度器,蜘蛛,过滤器,存储器,使用了开源的goquery,以及mgo(用于连接mongodb),WEB展现为beego。
有疑问加站长微信联系(非本文作者)

忙活了2天,不知道算不算广告,如果算的话麻烦站长删除。点我访问
周末在家练手用go写的一个笑话爬虫,主要是为孩子妈在家带孩子解闷,所以手机上看也的话,界面也还凑合。 主要使用了技术: golang mongodb mgo bootstrap beego 自己实现了一套简单的spider,包含调度器,蜘蛛,过滤器,存储器,使用了开源的goquery,以及mgo(用于连接mongodb),WEB展现为beego。
有疑问加站长微信联系(非本文作者)
入群交流(和以上内容无关):加入Go大咖交流群,或添加微信:liuxiaoyan-s 备注:入群;或加QQ群:692541889
`单行代码`
目前还比较简陋,不支持自定义ua,也没有将cookie带进去,但是可以扩展,比如增加一个新网站只需要增加一个spider就好了
因为我用的是阿里云,所以还不太敢抓太多。现在每天可以更新2000条笑话(包括图文),现在图片也没有抓到本地。因为空间只有20G。恐怕不太够。呵呵。
赞。有空学习下。当然不算广告了。
呵呵,感谢
开源吗,最近准备学习如何写爬虫