5 Star 8 Fork 10

finndy / 发源地云采集引擎

Create your Gitee Account
Explore and code with more than 6 million developers,Free private repositories !:)
Sign up
Clone or download
Cancel
Notice: Creating folder will generate an empty file .keep, because not support in Git
Loading...
README.md

发源地开源云采集引擎

发源地云采集引擎是由发源地研发团队开发的一套开源分布式云采集工具化引擎,致力于让用户快捷挖掘大数据矿山背后的价值! 发源地云采集引擎完全基于云端,集数据采集、清洗、去重、加工于一体的互联网WEB/APP数据采集引擎,支持本地化私有部署,可以快速搭建属于自己的大数据云采集爬虫系统。用户可以低成本、高效率完成网页中文本,图片等资源信息的采集,并进行过滤加工,挖掘出精准所需的数据,让数据以结构化的文件包、采集规则算法或API接口方式输出,同时可以选择发布到发源地大数据交易平台进行交易,或导出为Excel、CSV、SQL等格式的文件保存在本地。

特色功能

  • 国内首款开源云采集引擎:无需安装任何软件程序、浏览器插件
  • 海量免费规则:微信、微博、网站及APP内数据轻松挖掘采集
  • 数据/规则交易:支持源规则及数据的交易,让数据更有价值
  • 开放API接口:云端标准化服务API输出,助您大数据轻松落地
  • 工具化平台:数据采集、数据存储及数据应用的完整闭环
  • 脚本化引擎:支持自定义PHP脚本配置,实现更智能的机器人
  • 多扩展字段:支持50个信息字段采集,多维度获取数据
  • 数据安全:内置多重数据过滤模块及SQL/XSS过滤方案
  • 分布式采集:开源分布式采集系统,有效提升云采集效率
  • 秒级同步:即时高效的自动化分布式平台,数据即刻获取
  • 全球高匿名节点:使用多个高匿名节点IP,采集不再受到IP访问限制

V1.3 新增CMS应用模块

  • 文章内容发布/编辑/管理;
  • 文章分类添加/编辑/管理;
  • 文章标签添加/编辑/管理;

V1.2新增功能

  • 支持文件(图片,视频,文档等)云存储上传/显示;

V1.1新增功能

  • 支持采集数据本地化存存储;
  • 用户角色/权限/菜单管理设置;
  • 控制台数据统计。

V1.0功能列表

  • 数据源的发布和管理:创建,复制,导入,导出,运行,调试等;
  • 采集数据的预览,导出,API调用;
  • 网站设置:基本信息,云帐号设置,SEO信息;
  • 会员管理:新增,编辑等。

安装说明

nginx下配置www主机域名主目录设置为[根目录]或[public目录](推荐配置后者)。

以下目录须设置为可写操作权限

  • runtime/
  • data/
  • app/

开发文档

采集工具文档链接

开发文档

开发手册链接 帮助文档链接

关于发源地

发源地隶属于上海连源信息科技有限公司旗下品牌。核心团队由来自腾讯、百度、阿里等公司的互联网高管与专家组成。 发源地大数据交易平台作为国内首个基于人工智能AI技术驱动的大数据交易平台,支持海量数据的分布式采集、计算及处理,从而以机器学习推动数据交易发展,让数据价值最大化。互联网开放数据、企业内部数据通过众包UGC模式采集/接入,进行清洗、过滤、脱敏处理后再交易,以数据和算法规则等形态沉淀在数据交易市场,满足企业对数据分析、数据运营及精准营销等方面的需求。

版权信息

本系统遵循Apache2开源协议发布,并提供免费使用。

本项目包含的第三方源码或二进制文件遵循原版权标注。

发源地® 商标和著作权所有者为上海连源信息科技有限公司。

版权所有Copyright © 2017-2018 by 发源地 (http://www.finndy.com) All rights reserved。

About

发源地开源云采集引擎 发源地云采集引擎是由发源地研发团队开发的一套开源分布式云采集工具化引擎,致力于让用户快捷挖掘大数据矿山背后的价值! 发源地云采集引擎完全基于云端,集数据采集、清洗、去重、加工于一体的互联网WEB/APP数据采集引擎,支持本地化私有部署,可以快速搭建属于自己的大数据云采集爬虫系统。用户可以低成本、高效率完成网页中文本,图片等资源信息的采集,并进行过滤加工,挖掘出精准所需的数据,让数据以结构化的文件包、采集规则算法或API接口方式输出,同时可以选择发布到发源地大数据交易平台进行交易,或导出为Excel、CSV、SQL等格式的文件保存在本地。 spread retract
Cancel

Releases

No release

Contributors

All

Activities

load more
can not load any more
PHP
1
https://gitee.com/finndy/cloud.git
git@gitee.com:finndy/cloud.git
finndy
cloud
发源地云采集引擎
master

Search