周末在家练手用go写的一个笑话爬虫,发出来大家笑笑,不知道算不算广告,如果算的话麻烦站长删除

forbe · 2014-06-08 08:16:52 · 6485 次点击 · 大约8小时之前 开始浏览    置顶
这是一个创建于 2014-06-08 08:16:52 的主题,其中的信息可能已经有所发展或是发生改变。

忙活了2天,不知道算不算广告,如果算的话麻烦站长删除。点我访问

周末在家练手用go写的一个笑话爬虫,主要是为孩子妈在家带孩子解闷,所以手机上看也的话,界面也还凑合。 主要使用了技术: golang mongodb mgo bootstrap beego 自己实现了一套简单的spider,包含调度器,蜘蛛,过滤器,存储器,使用了开源的goquery,以及mgo(用于连接mongodb),WEB展现为beego。


有疑问加站长微信联系(非本文作者)

入群交流(和以上内容无关):加入Go大咖交流群,或添加微信:liuxiaoyan-s 备注:入群;或加QQ群:692541889

6485 次点击  
加入收藏 微博
5 回复  |  直到 2014-06-29 10:15:12
forbe
forbe · #1 · 11年之前

目前还比较简陋,不支持自定义ua,也没有将cookie带进去,但是可以扩展,比如增加一个新网站只需要增加一个spider就好了

forbe
forbe · #2 · 11年之前

因为我用的是阿里云,所以还不太敢抓太多。现在每天可以更新2000条笑话(包括图文),现在图片也没有抓到本地。因为空间只有20G。恐怕不太够。呵呵。

polaris
polaris · #3 · 11年之前

赞。有空学习下。当然不算广告了。

forbe
forbe · #4 · 11年之前

呵呵,感谢

wowzai
wowzai · #5 · 11年之前

开源吗,最近准备学习如何写爬虫

添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传