1 Star 0 Fork 0

王乂 / 数据同步

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
克隆/下载
贡献代码
同步代码
取消
提示: 由于 Git 不支持空文件夾,创建文件夹后会生成空的 .keep 文件
Loading...
README
MulanPSL-2.0

数据同步

介绍

  1. 用于不同数据库之间的数据传输,数据库:MySQL,语言:Java
  2. 基于来源数据库同步表的最后更新时间同步,数据的最后更新时间被修改,则数据会被同步

软件架构

运行系统

后端运行
  1. 导入到Eclipse,菜单 File -> Import,然后选择 Maven -> Existing Maven Projects,点击 Next> 按钮,选择工作目录,然后点击 Finish 按钮,即可成功导入。
  2. 创建数据库 syncdb并导入数据脚本syncdb_table_init.sqlsync_data_init.sql
  3. 打开项目运行com.sync.SyncApplication.java,出现如下图表示启动成功。
(♥◠‿◠)ノ゙  数据同步启动成功   ლ(´ڡ`ლ)゙  
______  ___ _____ ___         _______   ___   _ _____ 
|  _  \/ _ \_   _/ _ \       /  ___\ \ / / \ | /  __ \
| | | / /_\ \| |/ /_\ \______\ `--. \ V /|  \| | /  \/
| | | |  _  || ||  _  |______|`--. \ \ / | . ` | |    
| |/ /| | | || || | | |      /\__/ / | | | |\  | \__/\
|___/ \_| |_/\_/\_| |_/      \____/  \_/ \_| \_/\____/
前端运行
# 进入项目目录
cd sync-ui

# 安装依赖
npm install

# 强烈建议不要用直接使用 cnpm 安装,会有各种诡异的 bug,可以通过重新指定 registry 来解决 npm 安装速度慢的问题。
npm install --registry=https://registry.npm.taobao.org

# 本地开发 启动项目
npm run dev
  • 打开浏览器,输入:(http://localhost:80) 默认账户/密码 admin/admin123)若能正确展示登录页面,并能成功登录,菜单及页面展示正常,则表明环境搭建成功

环境部署

  • 因为本项目是前后端完全分离的,所以需要前后端都单独部署好,才能进行访问,服务器防火墙需要开启70907091端口。访问地址:(http://ip:7090/login)。
后端部署
  • 打包工程文件
  1. 使用maven打包,会在sync-admin模块的target下生成sync-admin-prod.jar包,可以上传到服务器后使用jdk直接启动

打包配置

前端部署
# 使用命令打包
npm run build:prod
  • 构建打包成功之后,会在根目录生成 dist 文件夹,里面就是构建打包好的文件,通常是 .js 、.css、index.html 等静态文件。

  • 通常情况下 dist 文件夹的静态文件发布到你的 nginx 或者静态服务器即可,其中的 index.html 是后台服务的入口页面。

  • 这是我的nginx.conf配置

#user  nobody;
worker_processes  auto;

#error_log  logs/error.log;
#error_log  logs/error.log  notice;
#error_log  logs/error.log  info;

#pid        logs/nginx.pid;


events {
    worker_connections  1024;
}


http {
    include       mime.types;
    default_type  application/octet-stream;
    sendfile        on;
    keepalive_timeout  65;

    server {
        listen       7090;
        server_name  localhost;

                location / {
                        root /data/appsvr/sync/dist_prod/;# 根目录,dist_prod是前端打的包
                        try_files $uri $uri/ /index.html;
                        index /data/appsvr/sync/dist_prod/index.html; # 默认首页
        }
                
                location /prod-api/{
                        proxy_set_header Host $http_host;
                        proxy_set_header X-Real-IP $remote_addr;
                        proxy_set_header REMOTE-HOST $remote_addr;
                        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
                        proxy_pass http://localhost:7091/prod-api/;
                }

        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   html;
        }
    }
}

使用说明

  1. 进入功能 数据同步 -> 数据源 ,配置来源库和目标库数据源,暂时只支持两种数据库(MySQLOracle)。

注意 :MySQL数据库需要指定连接时需要指定时区,不然记录到数据库的时间会有问题(&serverTimezone=GMT%2B8)

数据源配置

  1. 进入功能 数据同步 -> 同步定时任务,配置需要同步的表。

同步任务配置说明

配置字段说明:

  • 同步任务名称:字面意思,一般是表名,唯一
  • 任务描述:***
  • 来源数据源:会从和这个数据源读取数据(从前面配置的数据源里选择)
  • 目标数据源:会把数据写入这个数据源(从前面配置的数据源里选择)
  • 目标表: 需要写入数据的表
  • 跳过不更新字段:默认为空,如果配置了字段,则表示当目标库的数据在更新时是不会更新配置的这些字段。多个字段用英文逗号,隔开
  • 主键值:不能为空,目标表的主键,程序会通过该字段的值判断是插入数据还是更新数据。如果是联合主键则需要用英文逗号,隔开
  • 不更新数据条件:默认为空,如果配置的话,一般配置的是SQL条件,比如(一个条件的STATUS IN ('C','YDS'),多个条件都要满足的 STATUS IN ('C','YDS') AND FLAG = 'Y',多个条件只需要满足一个的(STATUS IN ('C','YDS') OR FLAG = 'Y')),如果目标库的数据满足配置的条件,则不会更新目标库的这条数据
  • 备注:***
  • 同步SQL:就是读取来源库数据的SQL,类似于mybatisxml里配置的SQL
SELECT TP_NUMBER,
       TP_TYPE_DESC,
       TP_TYPE,
       ORGANIZATION_ID,
       ORGANIZATION_NAME,
       ORGANIZATION_CODE,
       CREATED_BY,
       CREATION_DATE,
       LAST_UPDATE_DATE,
       LAST_UPDATED_BY
  FROM apps.cwms_tp_number_detail
 WHERE ORGANIZATION_ID IN (#ORGANIZATIONID#) 
   AND LAST_UPDATE_DATE >= to_date(#SYNC_TIME_BEGIN#, 'yyyy-MM-dd HH24:mi:ss') -- #SYNC_TIME_BEGIN# 固定写法,标识 同步开始时间
   AND LAST_UPDATE_DATE <= to_date(#SYNC_TIME_END#, 'yyyy-MM-dd HH24:mi:ss') -- #SYNC_TIME_END# 固定写法,标识 同步结束时间

-- #ORGANIZATIONID# :除了#SYNC_TIME_BEGIN##SYNC_TIME_END#之外的其他变量需要传值的话,需要在功能 同步程序 -> 全局变量 里配置 输入图片说明 -- #SYNC_TIME_BEGIN# 固定写法,标识 同步开始时间

-- #SYNC_TIME_END# 固定写法,标识 同步结束时间

说明:新增的同步任务默认五分钟执行一次,也可以在定时任务还没有开始执行的时候手动修改下次同步的开始时间和结束时间 同步时间修改 修改完同步时间后,可以点击启动按钮立即执行,或者等待定时任务自动执行

参与贡献

  1. W-abinbin
  2. hpp
  3. huanglan
  4. yss
木兰宽松许可证, 第2版 木兰宽松许可证, 第2版 2020年1月 http://license.coscl.org.cn/MulanPSL2 您对“软件”的复制、使用、修改及分发受木兰宽松许可证,第2版(“本许可证”)的如下条款的约束: 0. 定义 “软件”是指由“贡献”构成的许可在“本许可证”下的程序和相关文档的集合。 “贡献”是指由任一“贡献者”许可在“本许可证”下的受版权法保护的作品。 “贡献者”是指将受版权法保护的作品许可在“本许可证”下的自然人或“法人实体”。 “法人实体”是指提交贡献的机构及其“关联实体”。 “关联实体”是指,对“本许可证”下的行为方而言,控制、受控制或与其共同受控制的机构,此处的控制是指有受控方或共同受控方至少50%直接或间接的投票权、资金或其他有价证券。 1. 授予版权许可 每个“贡献者”根据“本许可证”授予您永久性的、全球性的、免费的、非独占的、不可撤销的版权许可,您可以复制、使用、修改、分发其“贡献”,不论修改与否。 2. 授予专利许可 每个“贡献者”根据“本许可证”授予您永久性的、全球性的、免费的、非独占的、不可撤销的(根据本条规定撤销除外)专利许可,供您制造、委托制造、使用、许诺销售、销售、进口其“贡献”或以其他方式转移其“贡献”。前述专利许可仅限于“贡献者”现在或将来拥有或控制的其“贡献”本身或其“贡献”与许可“贡献”时的“软件”结合而将必然会侵犯的专利权利要求,不包括对“贡献”的修改或包含“贡献”的其他结合。如果您或您的“关联实体”直接或间接地,就“软件”或其中的“贡献”对任何人发起专利侵权诉讼(包括反诉或交叉诉讼)或其他专利维权行动,指控其侵犯专利权,则“本许可证”授予您对“软件”的专利许可自您提起诉讼或发起维权行动之日终止。 3. 无商标许可 “本许可证”不提供对“贡献者”的商品名称、商标、服务标志或产品名称的商标许可,但您为满足第4条规定的声明义务而必须使用除外。 4. 分发限制 您可以在任何媒介中将“软件”以源程序形式或可执行形式重新分发,不论修改与否,但您必须向接收者提供“本许可证”的副本,并保留“软件”中的版权、商标、专利及免责声明。 5. 免责声明与责任限制 “软件”及其中的“贡献”在提供时不带任何明示或默示的担保。在任何情况下,“贡献者”或版权所有者不对任何人因使用“软件”或其中的“贡献”而引发的任何直接或间接损失承担责任,不论因何种原因导致或者基于何种法律理论,即使其曾被建议有此种损失的可能性。 6. 语言 “本许可证”以中英文双语表述,中英文版本具有同等法律效力。如果中英文版本存在任何冲突不一致,以中文版为准。 条款结束 如何将木兰宽松许可证,第2版,应用到您的软件 如果您希望将木兰宽松许可证,第2版,应用到您的新软件,为了方便接收者查阅,建议您完成如下三步: 1, 请您补充如下声明中的空白,包括软件名、软件的首次发表年份以及您作为版权人的名字; 2, 请您在软件包的一级目录下创建以“LICENSE”为名的文件,将整个许可证文本放入该文件中; 3, 请将如下声明文本放入每个源文件的头部注释中。 Copyright (c) [Year] [name of copyright holder] [Software Name] is licensed under Mulan PSL v2. You can use this software according to the terms and conditions of the Mulan PSL v2. You may obtain a copy of Mulan PSL v2 at: http://license.coscl.org.cn/MulanPSL2 THIS SOFTWARE IS PROVIDED ON AN "AS IS" BASIS, WITHOUT WARRANTIES OF ANY KIND, EITHER EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO NON-INFRINGEMENT, MERCHANTABILITY OR FIT FOR A PARTICULAR PURPOSE. See the Mulan PSL v2 for more details. Mulan Permissive Software License,Version 2 Mulan Permissive Software License,Version 2 (Mulan PSL v2) January 2020 http://license.coscl.org.cn/MulanPSL2 Your reproduction, use, modification and distribution of the Software shall be subject to Mulan PSL v2 (this License) with the following terms and conditions: 0. Definition Software means the program and related documents which are licensed under this License and comprise all Contribution(s). Contribution means the copyrightable work licensed by a particular Contributor under this License. Contributor means the Individual or Legal Entity who licenses its copyrightable work under this License. Legal Entity means the entity making a Contribution and all its Affiliates. Affiliates means entities that control, are controlled by, or are under common control with the acting entity under this License, ‘control’ means direct or indirect ownership of at least fifty percent (50%) of the voting power, capital or other securities of controlled or commonly controlled entity. 1. Grant of Copyright License Subject to the terms and conditions of this License, each Contributor hereby grants to you a perpetual, worldwide, royalty-free, non-exclusive, irrevocable copyright license to reproduce, use, modify, or distribute its Contribution, with modification or not. 2. Grant of Patent License Subject to the terms and conditions of this License, each Contributor hereby grants to you a perpetual, worldwide, royalty-free, non-exclusive, irrevocable (except for revocation under this Section) patent license to make, have made, use, offer for sale, sell, import or otherwise transfer its Contribution, where such patent license is only limited to the patent claims owned or controlled by such Contributor now or in future which will be necessarily infringed by its Contribution alone, or by combination of the Contribution with the Software to which the Contribution was contributed. The patent license shall not apply to any modification of the Contribution, and any other combination which includes the Contribution. If you or your Affiliates directly or indirectly institute patent litigation (including a cross claim or counterclaim in a litigation) or other patent enforcement activities against any individual or entity by alleging that the Software or any Contribution in it infringes patents, then any patent license granted to you under this License for the Software shall terminate as of the date such litigation or activity is filed or taken. 3. No Trademark License No trademark license is granted to use the trade names, trademarks, service marks, or product names of Contributor, except as required to fulfill notice requirements in Section 4. 4. Distribution Restriction You may distribute the Software in any medium with or without modification, whether in source or executable forms, provided that you provide recipients with a copy of this License and retain copyright, patent, trademark and disclaimer statements in the Software. 5. Disclaimer of Warranty and Limitation of Liability THE SOFTWARE AND CONTRIBUTION IN IT ARE PROVIDED WITHOUT WARRANTIES OF ANY KIND, EITHER EXPRESS OR IMPLIED. IN NO EVENT SHALL ANY CONTRIBUTOR OR COPYRIGHT HOLDER BE LIABLE TO YOU FOR ANY DAMAGES, INCLUDING, BUT NOT LIMITED TO ANY DIRECT, OR INDIRECT, SPECIAL OR CONSEQUENTIAL DAMAGES ARISING FROM YOUR USE OR INABILITY TO USE THE SOFTWARE OR THE CONTRIBUTION IN IT, NO MATTER HOW IT’S CAUSED OR BASED ON WHICH LEGAL THEORY, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGES. 6. Language THIS LICENSE IS WRITTEN IN BOTH CHINESE AND ENGLISH, AND THE CHINESE VERSION AND ENGLISH VERSION SHALL HAVE THE SAME LEGAL EFFECT. IN THE CASE OF DIVERGENCE BETWEEN THE CHINESE AND ENGLISH VERSIONS, THE CHINESE VERSION SHALL PREVAIL. END OF THE TERMS AND CONDITIONS How to Apply the Mulan Permissive Software License,Version 2 (Mulan PSL v2) to Your Software To apply the Mulan PSL v2 to your work, for easy identification by recipients, you are suggested to complete following three steps: i Fill in the blanks in following statement, including insert your software name, the year of the first publication of your software, and your name identified as the copyright owner; ii Create a file named “LICENSE” which contains the whole context of this License in the first directory of your software package; iii Attach the statement to the appropriate annotated syntax at the beginning of each source file. Copyright (c) [Year] [name of copyright holder] [Software Name] is licensed under Mulan PSL v2. You can use this software according to the terms and conditions of the Mulan PSL v2. You may obtain a copy of Mulan PSL v2 at: http://license.coscl.org.cn/MulanPSL2 THIS SOFTWARE IS PROVIDED ON AN "AS IS" BASIS, WITHOUT WARRANTIES OF ANY KIND, EITHER EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO NON-INFRINGEMENT, MERCHANTABILITY OR FIT FOR A PARTICULAR PURPOSE. See the Mulan PSL v2 for more details.

简介

用于不同数据库之间的数据传输 暂时只支持mysql数据库和Oracle数据库 展开 收起
MulanPSL-2.0
取消

发行版

暂无发行版

贡献者

全部

近期动态

加载更多
不能加载更多了
1
https://gitee.com/hongye2010/data-synchronization.git
git@gitee.com:hongye2010/data-synchronization.git
hongye2010
data-synchronization
数据同步
master

搜索帮助

14c37bed 8189591 565d56ea 8189591