youtube-dl是一个用来从YouTube.com网站上下载视频文件的命令行工具。它采用Python开发,运行时需要Python的解释环境。支持多个OS平台,支持众多视频网站(见附图)国内优酷、土豆、新浪和搜狐,国外YouTube等赫然在列
最近更新: 3年多前Crawlab 是一个使用 Golang 开发的分布式爬虫管理平台,支持Python、NodeJS、Go、Java、PHP等多种编程语言以及多种爬虫框架
最近更新: 3年多前分布式爬虫系统,简单使用,高级配置。可扩展,减轻开发量,能docker化,适应各种急切需求核心框架:WebMagic, Spring Boot ,MongoDB, ActiveMQ ,Spring + Quartz,Spring Jpa , Druid,Redis, Ehcache ,SLF4J、Log4j2, Bootstrap + Jquery 等,不详细列举了