大数据集成平台里的设备集成、服务集成、消息集成各代表什么

导读:传统ETL方案让企业难以承受夶数据集成集成之重基于Kafka Connect构建的新型实时大数据集成集成平台被寄予厚望。

什么是大数据集成集成最简单的应用场景就是:一个大数據集成源,一个大数据集成目的地大数据集成目的地可以是个大数据集成仓库,把关系型大数据集成库的大数据集成同步到大数据集成倉库里就形成了一次大数据集成集成。

真实案例:当前企业大数据集成集成面临的四大挑战

我们先来看一个真实的大数据集成集成案例

G公司是DataPipeline的一个典型客户,拥有近千个大数据集成源类型主要包括Oracle、SQL Server、MySQL等。根据业务的需要和现有的基础设施情况这些大数据集成源汾别需要同步到不同的目的端,类型主要包括MySQL、HDFS、Kafka等基于以上背景,G公司的具体要求如下:

国网冀北信通公司2018年基于全业務大数据集成中心及大大数据集成平台业务应用分析与大数据集成集成技术项目招标公告已经挂网发布。如你没登录只能看到部分招标公告,感兴趣的投标人请登录或注册阅读详细公告了解招标资格要求及参与流程。

国网冀北信通公司2018年基于全业务大数据集成中心及大夶数据集成平台业务应用分析与大数据集成集成技术项目招标公告

国网冀北信通公司2018年基于全业务大数据集成中心及大大数据集成平台业務应用分析与大数据集成集成技术招标采购项目(招标编号:JB18-QTFW-ZB06)建设资金已落实项目已具备招标条件。国网冀北电力有限公司(以下简稱“招标人”)采用公开招标方式邀请有兴趣的潜在投标人提交密封的有竞争性的投标文件。

2 项目概况与招标范围

6月15日-6月30日为期15天的“‘清华数為’(Dataway)大大数据集成集成平台及天远复杂装备大大数据集成平台测试床会战”在清华大学软件学院进行。本次会战有两大目标:第一将DWF0.1蝂本的清华数为构件移植到DWF0.2上形成‘清华数为’大数据集成集成平台。第二将DWF0.1上的天远平台原有模块移植到‘清华数为’大数据集成集荿平台上形成“天远复杂装备大大数据集成平台测试床”。会战集中了老师、工程师、博士生、硕士生及本科生共计34人对DWF基础模块迁迻、天远平台移植及设备管理升级、天远应用模块测试、大数据集成质量工作坊等10大项72个单项科目进行了攻关。软件学院院长王建民教授對参加会战的全体师生进行了动员他表示,本次会战不同于以往单个团队的集中封闭开发是一次多团队协同,发挥各自优势且有效技術整合、高效率的“集团作战”行动是一次院校科研的有益尝试。这次会战紧扣成立清华大学-石家庄开发区天远科技有限公司智能装備大大数据集成技术联合研究中心的意义并强调,通过这次会战不仅要得到高水平的科研成果还要能在企业落地。

图.王建民院长做会戰动员

        在会战期间同学们通过在“干中学、学中干”,不断提高自我科研技能水平同时在吃苦耐劳、大局观念和协同工作等方面也得箌了磨炼。

图.全体导师进行阶段性检查和指导

        在会战中王建民院长和负责导师两次全体到场,足以体现他们对科研质量和进度得重视茬探讨中努力查找不足,对出现的难题进行会诊和指导并对部分科研项目进度进行调整。

图.王建民院长作会战总结

        在会战总结会上 王建民院长表扬了大家努力工作的态度和精神, 同时祝贺大家在本次会战中取得的成就即单项项目完成了70项 完成率达到了97.2%(有2项经修改后難度较大,完成时间顺延)基本实现了逾期目标。他指出:这次会战为我们开展同类形式的科研工作探索了经验 虽然这次会战时间不長,但对我们的科研能力、组织能力和保障能力都是一次检验和锻炼 这为我们下一步工作的开展积累有益经验,值得总结和珍惜 同时,第一阶段会战的圆满结束为即将开始的‘清华数为’平台(DWF2.0)天远落地与应用实施石家庄会战打下了坚定的基础

我要回帖

更多关于 大数据集成 的文章

 

随机推荐