1 Star 0 Fork 129

HiSnowen / 数睿通数据中台

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
克隆/下载
系统截图文档.md 7.33 KB
一键复制 编辑 原始数据 按行查看 历史
小螺旋丸 提交于 2023-11-23 17:59 . feat:文档更新

项目说明

srt-cloud 是采用 Vue3,Ts,Spring Cloud Alibaba、SpringSecurity、Spring Cloud Gateway、SpringBoot、Nacos、Redis、Mybatis-Plus,Tidb,Doris,Flink,Hadoop 等最新技术,开发的全新数睿通数据中台,包含数据集成,数据开发,数据治理,数据资产,数据服务,数据集市六大模块,解决数据孤岛问题,实现数据统一口径标准,自定义数据开发任务,帮助企业,政府等解决数据问题!

功能模块说明

  • 数据集成

    • 数据库管理 — 管理用户添加的数据源,支持 MYSQL/ORACLE/SQLSERVER/POSTGRESQL/GREENPLUM/MARIADB/DB2/DM/OSCAR/KINGBASE8/OSCAR/GBASE8A/HIVE/SQLITE3/SYBASE/DORIS/MongoDB,支持库表查询,测试连接等
    • 文件管理 — 管理用户上传的文件数据
    • 数据接入 — 接入外部数据源的数据到中台 ODS 层,也可自定义接入目的端数据源,,支持一次性全量同步和周期性增量同步;可自定义表名,字段名的映射规则,支持正则表达式匹配;支持查看执行记录及详细执行结果,可查看同步的数据量,数据大小,成功表数量,失败表数量,成功信息,失败信息,也可查看具体每张表同步的数据量,数据大小,错误信息等,帮助用户全面掌握数据接入的执行情况
    • 贴源数据 — 查看接入到ods层的数据表和数据,可查看每张表的同步记录
  • 数据开发

    • 数据表 — 查看数仓分层数据,查看表信息,建表,支持 sql 控制台
    • 数据生产 — 对数据进行作业代码化编辑,自行 DDL 建模,运行,调试等
    • 调度中心
      • 调度管理 — 对生产作业进行流程编辑,可视化调度
      • 调度记录 — 查看调度结果,日志等
    • 运维中心 — 对作业执行运维管理
    • 资源中心
      • Flink 集群实例 — 管理 FLink 资源
      • Hadoop 集群配置 — 管理 Hadoop 资源
      • Jar 包管理 —管理 FlinkJar 包
    • 配置中心 — 管理 FlinkSql 执行配置
  • 数据服务

    • API 目录 — 用户自定义 API 目录,动态生成 API,对外提供服务
    • API 权限 — 对私有 API 进行授权操作
    • API 日志 — 查看 API 调用日志
  • 数据治理

    • 元数据
      • 元模型 — 描述元数据的元数据,主要定义了元数据的属性,通常元模型都是系统内置的,如表元模型,字段元模型等
      • 元数据采集 — 根据定义的元模型对元数据进行采集,通常是每一种元模型有自己内置的采集逻辑,可以设置采集周期等
      • 元数据管理 — 对采集的元数据进行查看和管理
    • 数据血缘 — 通过数据接入,数据生产流程之间的关系自动构建数据血缘关系图,追溯数据流向(70%)
    • 数据标准 — 维护数据标准字段和标准码表
    • 数据质量 — 维护数据质量,执行质量检测任务
    • 主数据管理
      • 主数据模型 — 主数据建模,发布,维护
      • 主数据派发 — 建立派发任务,派发主数据到下游系统接口,消息对接,数据表
  • 数据资产

    • 资源管理 — 自定义资源目录,在每个目录下自定义资源,挂在数据库,api等
    • 资产总览 — 对中台资源做一个总的统计概览(待开发)
  • 数据集市

    • 资源目录 — 中台资源目录以及目录下资源的查看,可对资源进行申请操作
    • API 目录 — 中台 API 目录以及目录下 API 的查看,可对 API 进行申请
    • 我的申请 — 可以查看自己的申请记录,审批结果
    • 服务审批 — 管理员对其他角色的申请做出审批,若审批通过,申请人便可以收到审批通过的消息,使用自己申请的服务资源
  • 全局管理

    • 数据项目管理 — 中台项目(租户)的管理,每个项目下可以关联用户,用户只能查看自己关联的项目下的数据,选择自己的数据仓库,所有的模块数据都会有所属项目
    • 数仓分层展示 — 对中台数仓的分成做展示说明
  • 应用管理

    • 消息管理
      • 短信平台 — 集成短信平台,支持阿里,腾讯等常用的短信平台
      • 短信日志 — 调用短信所产生的日志
  • 日志管理

    • 登录日志 — 系统登录产生的日志
  • 系统管理

    • 用户管理 — 对系统用户进行管理
    • 菜单管理 — 对系统菜单进行管理,用于实现动态菜单
    • 定时任务 — 可自定义定时任务,调度执行
    • 数据字典 — 系统的字典数据
    • 机构管理 — 机构数据,若各模块中的数据有所属机构概念,可用于数据权限管理
    • 岗位管理 — 岗位的管理
    • 角色管理 — 角色管理,可以为每个角色自定义菜单查看权限以及机构级的数据权限
    • 附件管理 — 系统附件管理,可以上传下载

系统核心技术栈

前台:

  • vue3
  • vite
  • typeScript
  • element-plus
  • pinia
  • 。。。

后台:

  • Spring Cloud Alibaba
  • SpringSecurity
  • Spring Cloud Gateway
  • SpringBoot
  • Nacos
  • Redis
  • Mybatis-Plus
  • mysql8.0
  • tidb
  • doris
  • flink
  • flink cdc
  • flink sql
  • neo4j
  • 。。。

系统运行展示

image-20221030205835569

image-20221030210227005

image-20221030210420292

image-20221030210549858

image-20221030210702083

image-20221030210802981

image-20221030210913467

image-20221030211158654

image-20221030211424876

数据生产-sql

数据生产-flinksql校验

数据生产-msyql-cdc

数据生产-调度

数据生产-执行

运维中心

API目录

API目录

API目录

API目录

API授权

API授权

API授权

元模型

元数据采集

元数据采集记录

采集日志

元数据管理

image-20230627092621758

资产目录

资产详情

开放范围

资源挂载

挂载数据库表

挂载API

数据库表

资源查阅

主数据管理

主数据派发

主数据派发详情

数据表

数据表-sql控制台

应用墙

监控明细

监控日志

Java
1
https://gitee.com/chenxuewen0125/srt-data-center.git
git@gitee.com:chenxuewen0125/srt-data-center.git
chenxuewen0125
srt-data-center
数睿通数据中台
master

搜索帮助