Colly 简单快速的 Web 爬虫框架 Colly

xuanbao • 3800 次点击    
这是一个分享于 的项目,其中的信息可能已经有所发展或是发生改变。
Colly 是一个采用 Go 语言编写的 Web 爬虫框架,旨在提供一个能够写任何爬虫/采集器/蜘蛛的简洁模板。通过 Colly ,你可以轻松从网站中提取结构化的数据,然后进行数据挖掘、处理或归档。 清晰明了的 API  快速(单个内核上的请求数大于1k) 管理每个域的请求延迟和最大并发数 自动 cookie 和会话处理 同步/异步/并行抓取 高速缓存 自动处理非 Unicode 编码 支持 Robots.txt 支持 Google App Engine 通关环境变量进行配置 可扩展
授权协议:
Apache 2.0
开发语言:
Google Go 查看源码»
操作系统:
跨平台
3800 次点击  
加入收藏 微博
暂无回复
添加一条新回复 (您需要 登录 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传