1 Star 0 Fork 20

Hi,all / lanius-orchestrate

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
克隆/下载
贡献代码
同步代码
取消
提示: 由于 Git 不支持空文件夾,创建文件夹后会生成空的 .keep 文件
Loading...
README
MulanPSL-2.0
SmartSQL

Lanius Orchestrate

Version Java Spring Boot Maven License

一、研发背景

数据继土地、劳动力、资本之后成为新兴的生产要素,各国政府相继制定战略规划,加大对数据汇聚、分析、安全等方面的投入,我国各级政府也不断出台政策,在大数据治理方面给予支持。

渝州大数据实验室是重庆市九龙坡区人民政府与北京大数据先进技术研究院共同建设的新型科研创新实体。实验室由我国知名院士领衔,面向国家大数据建设的基础通用需求、前沿关键技术和典型应用场景,推进大数据技术研发应用、成果转化与生态构建,为国家大数据建设提供支撑。

二、产品简介

“Lanius大数据治理平台”是一款由渝州大数据实验室研发推出的数据ETL平台,拥有生产级、易使用、智能化的特点。以推动国内数据治理发展为目标,向个人、政企单位免费开源。 产品主要由设计器(Lanius Desgin)、执行器(Lanius Executor)和调度器(Lanius Orchestrate)三部分构成,其中:

  • Lanius Desgin用于开发人员设计数据ETL任务,Lanius Executor用于执行已设计好的ETL任务,用户加入QQ群155800768后,都可以通过群文件免费下载和使用。
  • Orchestrate用于运维人员调度和监控任务,目前已经通过Gitee平台完全开源。
orchestrate

三、产品特色

1、完全开源

Orchestrate代码完全开源,遵循木兰2.0开源协议,可放心用于商业项目中。

2、调度灵活

实现调度任务的单个或批次的新增、删除、修改、查询、启动、停止等操作,任务和转换/作业相关联,实现转换/作业的自动化调度,支持对任务执行结果进行自动分析,支持根据任务结果进一步触发其他任务事件。

3、运维方便

提供详细的指标监视页面,以便掌控全局;提供邮件、短信等多种主动通知方式,无需专人值守;汇总各个节点任务执行日志,提供统一的渠道排查相关问题;让运维工作不再困难。

4、高效稳定

在某些大型项目中,需要部署多套程序来应对高频、量大的数据处理需求。我们的Orchestrate支持同时管理多台服务器、多个ETL任务节点,提高数据处理的效率和稳定性,更贴近生产需求。

四、主要功能

1、调度总览

帮助用户对系统资源的健康情况和任务执行情况做到全局掌控,提供服务器、执行器、资源库健康统计能力,提供资源类型统计能力,提供任务状态统计能力。支持用户通过统计卡片进行快捷跳转,帮助用户快速定位系统资源和任务。

orchestrate

2、资源管理

为集群的各个资源的提供管理能力,包括服务器、调度器、执行器、资源库、任务资源。提供定时检测资源健康的能力,加强任务调度运行环境的把控力。

orchestrate orchestrate

3、任务编排

为满足任务自动调度的需求,系统提供任务编排管理模块。可以将需要自动调度的任务提前在此进行编排,将任务的调度周期、ETL 资源、日志等级、名称、参数等相关信息录入到系统,系统将根据设置的调度周期重复执行任务。支持按任务的业务管理需求将任务调度计划进行层级化的分组管理,并提供添加、修改、查询、移动、删除等界面管理功能。

对于已录入到系统中的任务,系统提供启用/禁用、修改、手动启用、删除等能力。

orchestrate

4、任务实例

每次执行任务系统都会对应生成一条实例数据,任务调度系统具备实时监控任务实例整个执行过程的能力。数据工程师可以在这里查看每条任务实例调度的实际执行的 ETL 资源、执行器、消耗时间等信息。为了帮助数据工程师快速查找历史记录,系统支持按照任务名称、资源名称、执行器名称、执行状态、时间范围过滤任务实例。除此之外,数据工程师还可以通过详情,查看实例的工作流程图、执行过程中记录的日志以及步骤度量等详细信息,有助于帮助数据工程师分析此次任务的执行情况,以及查找任务工作流程中需要优化的节点。

任务执行如果出现执行失败或者监控异常等情况,数据工程师可以返回任务编排管理模块,将任务进行调整后,通过手动执行的方式,再次尝试执行任务。

orchestrate

6、日志管理

系统提供自动记录用户操作事件的能力,让用户的每一步操作都有迹可循,有效确保操作环境的安全。

orchestrate

五、本地编译文档

点击查看本地编译文档

六、开发文档

点击查看开发文档

七、部署文档

点击查看部署文档
快速体验,请参考《自动部署手册

八、更新日志

点击查看更新日志

九、历史下载

十、FAQ

点击查看FAQ

十一、联系我们

电话:023-68516919

QQ群:155800768

QQ群二维码:orchestrate     公众号二维码:orchestrate

木兰宽松许可证, 第2版 木兰宽松许可证, 第2版 2020年1月 http://license.coscl.org.cn/MulanPSL2 您对“软件”的复制、使用、修改及分发受木兰宽松许可证,第2版(“本许可证”)的如下条款的约束: 0. 定义 “软件”是指由“贡献”构成的许可在“本许可证”下的程序和相关文档的集合。 “贡献”是指由任一“贡献者”许可在“本许可证”下的受版权法保护的作品。 “贡献者”是指将受版权法保护的作品许可在“本许可证”下的自然人或“法人实体”。 “法人实体”是指提交贡献的机构及其“关联实体”。 “关联实体”是指,对“本许可证”下的行为方而言,控制、受控制或与其共同受控制的机构,此处的控制是指有受控方或共同受控方至少50%直接或间接的投票权、资金或其他有价证券。 1. 授予版权许可 每个“贡献者”根据“本许可证”授予您永久性的、全球性的、免费的、非独占的、不可撤销的版权许可,您可以复制、使用、修改、分发其“贡献”,不论修改与否。 2. 授予专利许可 每个“贡献者”根据“本许可证”授予您永久性的、全球性的、免费的、非独占的、不可撤销的(根据本条规定撤销除外)专利许可,供您制造、委托制造、使用、许诺销售、销售、进口其“贡献”或以其他方式转移其“贡献”。前述专利许可仅限于“贡献者”现在或将来拥有或控制的其“贡献”本身或其“贡献”与许可“贡献”时的“软件”结合而将必然会侵犯的专利权利要求,不包括对“贡献”的修改或包含“贡献”的其他结合。如果您或您的“关联实体”直接或间接地,就“软件”或其中的“贡献”对任何人发起专利侵权诉讼(包括反诉或交叉诉讼)或其他专利维权行动,指控其侵犯专利权,则“本许可证”授予您对“软件”的专利许可自您提起诉讼或发起维权行动之日终止。 3. 无商标许可 “本许可证”不提供对“贡献者”的商品名称、商标、服务标志或产品名称的商标许可,但您为满足第4条规定的声明义务而必须使用除外。 4. 分发限制 您可以在任何媒介中将“软件”以源程序形式或可执行形式重新分发,不论修改与否,但您必须向接收者提供“本许可证”的副本,并保留“软件”中的版权、商标、专利及免责声明。 5. 免责声明与责任限制 “软件”及其中的“贡献”在提供时不带任何明示或默示的担保。在任何情况下,“贡献者”或版权所有者不对任何人因使用“软件”或其中的“贡献”而引发的任何直接或间接损失承担责任,不论因何种原因导致或者基于何种法律理论,即使其曾被建议有此种损失的可能性。 6. 语言 “本许可证”以中英文双语表述,中英文版本具有同等法律效力。如果中英文版本存在任何冲突不一致,以中文版为准。 条款结束 如何将木兰宽松许可证,第2版,应用到您的软件 如果您希望将木兰宽松许可证,第2版,应用到您的新软件,为了方便接收者查阅,建议您完成如下三步: 1, 请您补充如下声明中的空白,包括软件名、软件的首次发表年份以及您作为版权人的名字; 2, 请您在软件包的一级目录下创建以“LICENSE”为名的文件,将整个许可证文本放入该文件中; 3, 请将如下声明文本放入每个源文件的头部注释中。 Copyright (c) [Year] [name of copyright holder] [Software Name] is licensed under Mulan PSL v2. You can use this software according to the terms and conditions of the Mulan PSL v2. You may obtain a copy of Mulan PSL v2 at: http://license.coscl.org.cn/MulanPSL2 THIS SOFTWARE IS PROVIDED ON AN "AS IS" BASIS, WITHOUT WARRANTIES OF ANY KIND, EITHER EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO NON-INFRINGEMENT, MERCHANTABILITY OR FIT FOR A PARTICULAR PURPOSE. See the Mulan PSL v2 for more details. Mulan Permissive Software License,Version 2 Mulan Permissive Software License,Version 2 (Mulan PSL v2) January 2020 http://license.coscl.org.cn/MulanPSL2 Your reproduction, use, modification and distribution of the Software shall be subject to Mulan PSL v2 (this License) with the following terms and conditions: 0. Definition Software means the program and related documents which are licensed under this License and comprise all Contribution(s). Contribution means the copyrightable work licensed by a particular Contributor under this License. Contributor means the Individual or Legal Entity who licenses its copyrightable work under this License. Legal Entity means the entity making a Contribution and all its Affiliates. Affiliates means entities that control, are controlled by, or are under common control with the acting entity under this License, ‘control’ means direct or indirect ownership of at least fifty percent (50%) of the voting power, capital or other securities of controlled or commonly controlled entity. 1. Grant of Copyright License Subject to the terms and conditions of this License, each Contributor hereby grants to you a perpetual, worldwide, royalty-free, non-exclusive, irrevocable copyright license to reproduce, use, modify, or distribute its Contribution, with modification or not. 2. Grant of Patent License Subject to the terms and conditions of this License, each Contributor hereby grants to you a perpetual, worldwide, royalty-free, non-exclusive, irrevocable (except for revocation under this Section) patent license to make, have made, use, offer for sale, sell, import or otherwise transfer its Contribution, where such patent license is only limited to the patent claims owned or controlled by such Contributor now or in future which will be necessarily infringed by its Contribution alone, or by combination of the Contribution with the Software to which the Contribution was contributed. The patent license shall not apply to any modification of the Contribution, and any other combination which includes the Contribution. If you or your Affiliates directly or indirectly institute patent litigation (including a cross claim or counterclaim in a litigation) or other patent enforcement activities against any individual or entity by alleging that the Software or any Contribution in it infringes patents, then any patent license granted to you under this License for the Software shall terminate as of the date such litigation or activity is filed or taken. 3. No Trademark License No trademark license is granted to use the trade names, trademarks, service marks, or product names of Contributor, except as required to fulfill notice requirements in Section 4. 4. Distribution Restriction You may distribute the Software in any medium with or without modification, whether in source or executable forms, provided that you provide recipients with a copy of this License and retain copyright, patent, trademark and disclaimer statements in the Software. 5. Disclaimer of Warranty and Limitation of Liability THE SOFTWARE AND CONTRIBUTION IN IT ARE PROVIDED WITHOUT WARRANTIES OF ANY KIND, EITHER EXPRESS OR IMPLIED. IN NO EVENT SHALL ANY CONTRIBUTOR OR COPYRIGHT HOLDER BE LIABLE TO YOU FOR ANY DAMAGES, INCLUDING, BUT NOT LIMITED TO ANY DIRECT, OR INDIRECT, SPECIAL OR CONSEQUENTIAL DAMAGES ARISING FROM YOUR USE OR INABILITY TO USE THE SOFTWARE OR THE CONTRIBUTION IN IT, NO MATTER HOW IT’S CAUSED OR BASED ON WHICH LEGAL THEORY, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGES. 6. Language THIS LICENSE IS WRITTEN IN BOTH CHINESE AND ENGLISH, AND THE CHINESE VERSION AND ENGLISH VERSION SHALL HAVE THE SAME LEGAL EFFECT. IN THE CASE OF DIVERGENCE BETWEEN THE CHINESE AND ENGLISH VERSIONS, THE CHINESE VERSION SHALL PREVAIL. END OF THE TERMS AND CONDITIONS How to Apply the Mulan Permissive Software License,Version 2 (Mulan PSL v2) to Your Software To apply the Mulan PSL v2 to your work, for easy identification by recipients, you are suggested to complete following three steps: i Fill in the blanks in following statement, including insert your software name, the year of the first publication of your software, and your name identified as the copyright owner; ii Create a file named “LICENSE” which contains the whole context of this License in the first directory of your software package; iii Attach the statement to the appropriate annotated syntax at the beginning of each source file. Copyright (c) [Year] [name of copyright holder] [Software Name] is licensed under Mulan PSL v2. You can use this software according to the terms and conditions of the Mulan PSL v2. You may obtain a copy of Mulan PSL v2 at: http://license.coscl.org.cn/MulanPSL2 THIS SOFTWARE IS PROVIDED ON AN "AS IS" BASIS, WITHOUT WARRANTIES OF ANY KIND, EITHER EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO NON-INFRINGEMENT, MERCHANTABILITY OR FIT FOR A PARTICULAR PURPOSE. See the Mulan PSL v2 for more details.

简介

Lanius大数据治理平台是一款由渝州大数据实验室研发推出的数据ETL平台,由设计器、调度器、执行器三部分构成,拥有生产级、易使用、智能化的特点。lanius-orchestrate 为平台的调度器,主要包含调度总览、资源管理、任务编排等功能,具有调度灵活、运维方便、高效稳定的特色。 展开 收起
MulanPSL-2.0
取消

发行版

暂无发行版

贡献者

全部

近期动态

加载更多
不能加载更多了
1
https://gitee.com/j-c-z_admin/lanius-orchestrate.git
git@gitee.com:j-c-z_admin/lanius-orchestrate.git
j-c-z_admin
lanius-orchestrate
lanius-orchestrate
master

搜索帮助