大数据对网络的影响

  大数据正在不断变化，数据量已经超越了TB级到PB级，数据关系已经从简单和已知的发展为复杂和未知的;数据模型已经从固定模式类型转变为不固定模 式;数据来源已经从简单的数据录入转变为各种来源，包括手持式设备和机器传感器。大数据包含各种各样的形式，例如，通话录音与信用卡交易信息有所不同。与 传统应用程序中的结构化数据不同的是，大数据包含半结构化或非结构化数据，例如文本、音频、视频、点击流、日志文件，以及测量和传输地理及环境信息的传感 器的输出数据。

  大数据环境改变了数据在网络中流动的方式，大数据产生了更多的东-西或者服务器到服务器流量，而不是南-北或服务器到客户端流量，对于每个客户端互 动，可能会有数百或者数千服务器和数据节点交互。应用程序架构已经从集中式模式转变为分布式模式。这与过去20年构建的传统的客户端/服务器网络架构相 反。

  从各种来源收集数据，大数据系统在服务器集群中运行，这些服务器集群分布在多个网络节点。这些集群以平行向外的模式运行任务。流量模式的运行范围从 1到1(电话)、1到多(电视节目)、多到1(音乐会观众)、以及多到多(对讲机)，这结合了并行运行的多个节点之间的单播和组播流量。网络管理员需要应 对这种综合的流量模式，其中一些流量创建了单独的流，其中一些则创建了多个流。

此外，当数据提供到计算节点时，会产生大量网络流量。分布式节点之间的数据整理操作需要快速和可预测的数据传输。分析系统使用直接附加存储来处理，中间存储来清理数据。

  数据需要在网络中四处移动，并在分析过程中有效地操作。随着新数据集的增加，以及来源的增加，工作负载也在增加，这意味着迅速增加容量的需求也在提升。因此，关键是优化网络架构中的本地性、高性能、横向扩展和直接服务节点到服务节点的连接。