代码拉取完成,页面将自动刷新
单机版爬虫到单机并发版爬虫,爬虫的核心都在此文件夹内
存储使用的是 elasticsearch docker run -d -p 9200:9200 elasticsearch
运行: go run crawler/main.go
在单机爬虫基本之上,扩展的并发版爬虫版本。 使用json-rpc实现多个节点调用 主要扩展内容:存储服务(一个),Work服务(网页抓取)多个,引擎(一个) 运行步骤:
go run crawler_distributed/persist/server/saver_main.go (占用1234端口)
2,Worker
go run crawler_distributed/worker/server/worker_main.go --port=9003
3, 引擎
go run crawler_distributed/distributed.go --hosts="192.168.1.8:9002,192.168.1.8:9004,:9002,:9003"
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。