企业致力于收集和存储大量数据，但通常只分析其中的一小部分。他们发现数据是新的货币，因为数据中隐藏着很多价值。他们正在利用数据科学和大数据分析工具从其“数据宝库”中提取价值。这有助于他们进行数字化转型。一些组织在这方面取得了巨大的成功，并不断创新、获得市场份额、增加价值（例如Amazon、谷歌、Facebook等公司），而其他公司也在努力效仿。
麦肯锡全球研究院于2011年5月发表了一篇开创性论文，名为“大数据：创新，竞争和生产力的下一个前沿”，使得大数据和分析开始引起人们的关注。根据谷歌公司的趋势分析（它提高了人们对关键词的搜索兴趣），大数据和分析热潮在2016年6月达到了顶峰。而云计算一直持续受到人们的高度关注，因为越来越多的企业继续实施云计算技术，以提高业务灵活性、运营弹性、改进性能，以及更高的效率。
数字化转型需要在组织层面上发挥作用，并将成为一种永久的运营方式。
人们可能会想知道，在大数据和分析达到发展顶峰之后将会变成什么样子。只要所公布的客户调查、供应商利益、分析师报告、收入来源等资料具有价值，那么企业都将采用大数据和分析来获取。调研机构Gartner公司2016年进行的一项调查报告表明，在过去五年中，企业对大数据和分析的投资一直在不断增长，但对其未来投资的兴趣似乎有所下降。这可能是由于这些投资获得实际收益的一种停顿。而Gartner公司的另一份调查报告显示，只有大约12%的大数据项目取得了可衡量的成果。然而，社交媒体、物联网（IoT）、智能手机、移动设备、游戏装备、可穿戴设备、传感器、无人机、远程监控器、精密医疗、精准农业、智能城市、智能建筑、自动驾驶汽车、远程控制车辆等技术将产生大量需要收集、汇总和分析的数据，以做出有用且有价值的决策。
而使用传统方法和系统来人工分析数据是不可能的。来自大数据和分析的潜在价值每年达到数十亿美元。这被认为是一个保守的估计。因为麦肯锡公司2011年进行的调查报告仅仅占据了大数据潜在价值的一小部分。只有基于位置的数据的采用率和价值捕获率高达50%-60%，其次是美国零售业，达到30%-40%，制造业占20%-30%，美国医疗保健行业为10%-20%，欧盟公共部门为10%-20%.因此，大数据和分析的兴趣和投资在几乎所有行业都会增加，以捕捉大数据中隐藏的价值。预计在未来几年中企业对云计算的大数据会持续产生兴趣。
数据安全
随着越来越多的数据被收集、汇总、分析，并用于做出影响人们生活的决策，数据安全性成为人们最为关切的问题。数据治理需要处理从不同来源收集的数据高峰以及管理这些数据元素所涉及的风险的中心阶段。美国联邦、州、市和地方政府机构以及其他非营利性公共服务组织需要符合严格的保密性、完整性和可用性（CIA）规则，并且还要提供良好的治理、满足合规要求和管理风险（GCR）。
人们一个常见的误解是，组织需要从不同来源收集的大量结构化和非结构化数据，包括外部来源（需要验证和风险评估）来开始分析。企业不需要大量数据来启动分析项目。可以从已有的“黄金标准数据”开始，并考虑单独使用这些数据或将其与其他内部数据集结合使用，以解决业务问题作为向决策者购买的概念证明的可能性。企业可以尝试和分析以前没有查看的不同变量，以确定相关性、因果关系和预测因素，谨慎发现，并避免重合。这是行业领域知识和专业知识发挥作用的地方。利用可用且经济实惠的计算能力、存储和网络容量，企业可以轻松地分析更多数据，以查看隐藏在数据中的模式和概率。基于业务需求，分析可用于描述性、诊断性、预测性、规定性的目的。物联网、传感器、操作技术、设备维护、精密医疗、电网、航运、物流、执法和精准农业正在越来越多地利用上述不同类型的分析来处理一个或多个业务问题，或根据需要来提供解决方案。
大数据的需求
大数据对不同的人意味着不同的事物。不同的IT分析师、商业领袖、顾问、学术研究人员、标准组织已经根据他们的观点定义了大数据，其中包括数量、速度、品种、准确性、复杂性等因素。虽然在大数据方面没有明确的共识，他们现有的能力在人员、过程和技术方面的处理能力太大了。就大数据和分析而言，人员是最难的部分。存在组织惯性、缺乏决策者的支持，以及难以找到正确理解分析的数据和业务领域的数据科学家等问题。同样，大数据分析师也很缺乏。世界各地的许多高校或认证机构都在提供数据科学和分析方面的新课程，以满足日益增长的需求。
由于大数据领域是新兴行业，很难找到适合的专家，因此所谓的“大数据专家或数据科学家”被金融交易、银行、信用评级机构，以及信用卡公司等大型金融组织所吸引。此外，谷歌、Facebook、LinkedIn、雅虎、微软、亚马逊等行业巨头也求贤若渴，因为他们为这些人才提供了丰厚的薪酬、股票期权，以及更好的发展前景。在争夺同样的人才方面，美国的联邦、州、市和地方政府以及非营利组织都处于劣势。但是，一些具有深谋远虑的政府组织已经成功招募了一些优秀的大数据科学家。
克服人才短缺的挑战
为了克服数据科学家短缺的挑战，许多企业正在建立一个数据科学团队，其中包括具有大数据分析方面知识和专业知识的人员，以及行业专家，例如IT和业务领域。他们可以一起补充彼此的专业知识，互相协作并提出业务问题的解决方案。一个成功的大数据分析团队的一个重要特征是能够用商业术语讲述故事，并实现数据可视化，而这些数据可视化只需要很少的解释。这是一项非常特殊的技能，需要销售技能来完成交易。这些能力有助于建立数据科学团队或大数据和分析团队的可信度，以获得高级管理人员的支持，并将分析从一个业务领域扩展到另一个业务领域，并最终扩展到整个组织或企业。这些人员则是“翻译者”，他们可以从数据分析中获得结果，并将其置于商业术语中，以便企业能够理解和适应。数字化转型需要在组织层面上发挥作用，并成为一种永久的运营方式。大数据和分析是私营或公共企业数字化转型的一个组成部分。因此，许多组织开始了数字化转型之旅，通过分析释放隐藏在大数据中的价值。今后将会有更多的组织效仿跟随。
