「数据架构」数据架构的未来

2020-07-20 14:47:10 浏览数 (1)

安东尼J.阿尔格明认为,数据架构正从一个混乱和纠结的时代进入一个更加干净和有组织的时代。在DATAVERSITY®数据体系结构在线会议上,Algmin回顾了过去的预测、当前的热门话题以及对未来的预测。他是Algmin Data Leadership的创始人兼首席执行官。

快速回顾:修正过去的预测

在芝加哥举行的数据架构峰会上,阿尔格明主持了一次小组讨论,他在讨论中提出了四个主题,这些主题后来得到了验证:

  • 云和衍生产品已经成为并将继续成为一个热门话题,大多数组织都承认它们有未来。
  • 对数据架构师的业务理解已经变得越来越重要,Algmin说,现在它对数据架构师的成功至关重要。
  • 在数据架构师的角色包含更多商业智慧的同时,挖掘和承担技术实现的愿望和能力仍然很重要。
  • 数据架构的扩展作用是他继续看到的。

最近的数据体系结构的未觉察

阿尔格明接着研究了最近的预测,结果并没有如预期的那样:

  • “数据仓库死了!“NoSQL将杀死数据仓库并用内存分析取代它的预测还没有成为现实。尽管它有影响,NoSQL并没有杀死数据仓库。相反,它已经成为它的补充。Algmin说,内存分析功能强大得难以置信,但它们并没有破坏数据仓库,而且像NoSQL一样,可以很好地与之协同工作。实际情况是,运营报告最好由数据仓库提供服务,并在可预见的未来继续具有相关性。
  • “数据科学家的特别分析将解决所有问题。”虽然数据科学是一个热门话题,“但事实是,数据科学家的相关性尚未达到其实际潜力。没有达到炒作的程度。”。公司希望他们的科学家,在与大多数其他业务功能相对隔离的情况下,能够进行分析,进行预测建模,并为机器学习和人工智能提供动力。事实上,大多数数据科学家仍然把大部分时间花在数据准备上,因为他们常常不相信别人会为他们做这些工作。他说:“即使你拥有强大的数据治理和数据管理能力,你仍然会发现,作为一名数据科学家,你正在做大量的数据准备工作,而我们还没有找到解决这一问题的方法。”一些有用的工具已经出现来缓解这一问题,但不断增加的数据量抵消了这些优势。他说,环境对数据科学的成功至关重要,科学家们一直在努力将他们的学术分析与业务的运营改进联系起来,但有很多潜力。

大肆宣传之外

一些热门话题已经成熟,现在成为主流。

“大数据”是一个流行的术语,它的出现是因为现有的技术跟不上数量。他说,现在这项技术已经存在,挑战已经转移到人们理解当今海量数据存储的困难上。

实时分析/流被实时反应的无能或缺乏需求所阻碍。

在诸如日交易这样的用例中,快速反应是必要的,但现实是,今天的许多业务用例不需要——或者不能——快速反应,足以证明实时分析的开销是合理的。基于事件的批处理,无论是每小时、每分钟还是隔夜,在大多数情况下都同样有效。

他说,敏捷开发在几年前是一件“神秘的事情”,但现在已经在许多组织中使用。“敏捷”这个词也开始流行起来,公司也用它来形容自己是一个灵活、相关、创新的组织。“对我来说,有多少组织说‘我们是敏捷的’这有点滑稽,你可以在封面下看到他们实际上在做什么,而他们离敏捷还差得远。”尽管主流对这个术语的理解是轻率的,但Algmin说真正的敏捷开发是不可否认的有用的。

他说,随着仪表盘和信息报告的出现,人们强烈希望能够通过电话进行分析,因为高管们需要能够随时随地看到自己的数字。现在响应式设计使得输出格式能够与分析编程计算分离,并且接收器可以独立于分析本身的创建来选择其形状因子。“手机和移动分析曾经是超级热门。现在他们安定下来了,现在他们只是我们所做一切的一部分。”

“当我们第一次开始谈论物联网时,对我来说,这是最热闹的一次,我们说,‘好吧,推特冰箱。’你还记得吗?“毫不奇怪,冰箱在厨房里有一个能发出推特信息的屏幕,这已经不常见了。“谁认为这真的会有帮助?”

Algmin说,我们已经到了许多组织都有首席数据官或与之相当的CDO的地步,因为他们认识到,他们希望从自己的数据中得到更多。这仍然是相关的,但它正在成为主流,他希望看到更多关于基民盟在组织中作用的对话。Algmin建议首席信息官(CIO)应该是业务部门的一部分,CDO应该留在其中。

NoSQL是一个以“杀死数据仓库”故事达到顶峰的领域,但它已经成为搜索和检索与特定密钥相关的数据集的重要组成部分。

内存分析已经成为一个强大的工具,可以进行即席分析、数据分析,并通过数据仓库证明最坚固的东西。

尽管数据科学并没有完全达到人们的期望,Algmin说,“一个有效的、有影响力的数据科学团队可以为你的组织做一些不可思议的事情。”

当前趋势:当今数据体系结构中最热门的话题

阿尔格明说:“机器学习和人工智能是最热门的领域,没有一个是不可能的。”。即使是没有数据治理、数据质量差、处理性能慢的组织也在强烈要求AI和ML。Algmin建议,这些先进技术的引入取决于改进元数据管理等基础知识。

“我们不会改变热点,但我们可以改变方法,并认识到驱动机器学习和人工智能的支持能力是我们(为了)对数据做任何事情所需要的。”

支持语音的“一切”

阿尔格明说,与Alexa或Siri等聊天机器人的对话“他们不明白我在说什么”,并没有完全发挥其潜力。他说,它肯定已经达到了临界质量,而且不会消失,因此在某些用例中,在面向消费者的产品中启用语音功能可能值得追求。

云技术正在开始成熟,主要云平台的持续增长,以及一些次要参与者的整合和紧缩战略就是明证。

数据架构与企业架构的融合

“数据架构师的热度指数正在上升,但企业架构热度指数非常非常冷,而且已经有一段时间了。”

数据目录、数据沿袭的流行和数据建模在许多情况下的复苏,是对数据管理不善和数据源分散的一种反应。他认为,那些在管理数据仓库方面不成功的公司会转移到一个数据池,并重复同样的错误,导致“被控制的一团糟”

他说,实现一个数据目录,可以显示混乱的部分在哪里,并提供跟踪沿袭和数据流的能力,可能是朝着正确方向迈出的一步。建模可以提供单一的事实来源,并消除重复基本任务所需的工作。“嘿,你知道什么很难吗?每次你需要把它移到某个地方的时候都会改变一切。为什么不把它做好,然后到处使用呢?”

创新步伐平稳

“我们正处于历史上最深刻的快速创新时期之一,”阿尔格明说,尽管创新仍在发生,但与最初创造的云技术相比,更多的衍生产品正在出现,例如云功能的发展。“我们需要时间来完善和操作已经创造的所有潜力。”

从现在到5G普及的几年时间里,人们期待着巨大的生产力增长和价值创造,以及不断变化的服务交付模式。例如,流媒体视频领域正在经历大规模的碎片化,像Netflix、Hulu和迪斯尼这样的服务为传统的有线电视和卫星用户提供了不可用的服务。“传统的有线电视和卫星电视提供商正在流失客户,”他说,由于他们“丰富的糟糕的客户服务历史”,碎片化的情况被放大。他预测,消费者可能再也不会只有一个套餐,而是会有多个不同的基于云的流媒体内容提供商。

数据架构的含义

数据架构创新在相关技术领域正经历着类似的模式,这些领域的用例潜力尚处于初级阶段,例如区块链和图形数据库,并且数据架构的角色正在发生变化以适应。Algmin警告说,不要把这解释为总体上的放缓,他说这更像是重构,而不是头脑风暴。总体产出将继续增长,并将以指数形式扩大价值,“因为我们做的假设更少,迭代改进更多。”

在地平线上:未来的热门数据架构主题

Algmin预测了ML和AI在元数据管理和数据治理中的扩展,比如区块链和分布式账本。“我们将开始看到,作为数据架构师,我们可以做一些真正阻碍我们的组织的事情。”

Algmin预测了围绕数据、云、基础设施、企业、应用程序和业务流程的架构师角色的持续融合,因为业务部门希望来自那些被信任的专家的答案,他们被调整到能够实现数字转换的系统上。基于这种期望,有效的沟通将帮助架构师在组织内的其他功能领域产生有意义的影响。

弥合期望

由于隐私问题和风险仍然是一个优先事项,Algmin警告说,新一代进入职场的人虽然已经长大并习惯于每天使用数据,但可能没有充分意识到信息共享的潜在不利因素。他还警告说,不要假设复杂的数据消费者天生就具有深厚的数据架构技能。

量化现实、增强现实和虚拟现实,包括可穿戴设备和嵌入式技术,正真正处于萌芽阶段,具有超越当今“美化的阶梯计数器”的许多潜力。

结束语

阿尔格明说,数据的重要性在不断增加,这一点不会改变。“我们将继续认识到,数据是我们组织中最接近真相的东西,并继续以任何必要的方式相互分享和传播真相。”数据带来改进,使企业能够作出反应、采取行动和改进。

本文:http://jiagoushi.pro/node/1010

讨论:请加入知识星球或者微信圈子【首席架构师圈】

微信公众号

关注微信公众号【首席架构师智库】

微信小号

希望加入的群:架构,云计算,大数据,数据科学,物联网,人工智能,安全,全栈开发,DevOps,数字化,产品转型。

知识星球

向大咖提问,近距离接触,或者获得私密分享。

点击加入知识星球【首席架构师圈】

微信圈子

志趣相投的同好交流。

点击加入微信圈子【首席架构师圈】

喜马拉雅

路上或者车上了解最新黑科技资讯,架构心得。

点击,收听【智能时刻,架构君和你聊黑科技】

知识星球

认识更多朋友,职场和技术闲聊。

点击加入知识星球【知识和技术】

0 人点赞