分布式存储以及集中式存储和选择的优缺点
发布网友
发布时间:2024-09-03 15:01
我来回答
共1个回答
热心网友
时间:2024-09-24 23:21
在大数据时代,数据处理需求急剧增长. SAN存储或NAS存储等传统方法无法适应业务发展的需求. 集中存储再次处于活动状态. 那么集中存储和分布式存储的缺点是什么?面对两者时,我们该如何选择?
如今,全球数据存储量呈爆炸式增长,企业和Internet数据以每年50%的速度增长. 根据Gartner的预测,到2020年,全球数据量将达到35ZB,相当于80亿个4TB硬盘. 数据结构的变化给存储系统带来了新的挑战. 存储系统中非结构化数据的比例接近80%.
Internet的发展已逐渐将数据创建的主体从企业转移到个人用户,个人生成的大多数数据都是非结构化数据,例如图片,文档和视频;公司办公流程通过网络,表格,票据等更加实现,主要实现了基于非结构化的数字归档;同时,基于应用程序的结构化数据在企业中仍占有重要地位,存储了大量核心信息.
数据服务的快速增长,传统的单一SAN存储或NAS存储方法已无法适应业务发展的需求. SAN存储: 成本高,不适合PB级大型存储系统. 数据共享不足以支持多用户文件共享. NAS存储: 共享的网络带宽和较差的并发性能. 随着系统的扩展,性能将进一步下降. 因此,集中存储再次处于活动状态.
那么集中存储和分布式存储的缺点是什么?面对两者时,我们该如何选择?下面,我将介绍并分析集中式存储和分布式存储之间的差异以及我们应在应用程序中做出的选择.
分布式和集中式存储的选择
集中存储的优缺点是物理介质是集中分布的;将视频流上传到中心对计算机机房环境,空间要求大,承重和空调要求很高.
分布式存储和集中管理的优点和缺点是物理媒体分布在不同的地理位置;视频流上传到附近,对骨干网带宽没有要求;可以部署多套低端小容量存储设备进行部署. 设备价格低廉,维护成本低. 小容量设备是分布式部署的,对机房环境要求不高.
对于城市监视系统的监视数据,每个区域是否集中以及如何集中通常与城市的行政区划有关. 城市区域的大小与可用的网络条件有关. 城市越小,网络条件越好,实现集中存储就越容易. 相反,需要更多的分布式存储. 例如,北京有8个区. 建立视频监视系统时,可以先将每个区域集中起来,然后集中到总中心,例如紧急指挥中心.
购买视频监控存储时应注意的问题,因为监控是具有不同访问特性的视频应用系统: 以流方式访问存储设备,长时间将多个视频通道写入同一存储同时,对同一文件进行实时多通道视频访问,视频访问带宽恒定,带宽稳定性要求高,平均为1/25秒,视频访问时间长,容量大需求巨大,存储扩展性能高. 视频存储对存储环境没有特殊要求. 传统监控系统的数据基本上是临时的,可以在存储时间(例如7天,15天,有些需要30天)后删除,因此监控系统的备份通常需要一个月的时间. 它.
因此,在选择设备时,不必选择带宽最大的设备,而是带宽波动最小,曲线最稳定的设备. 由于它需要长时间运行,因此最好使用具有控制器体系结构的存储设备. 不要选择基于PC的存储设备. 选择容量可以扩展的设备.
此外,在容量超过100TB的情况下,FC-sata设备的价格不一定比ISCSI设备贵. FC支持大量磁盘,而ISCSI设备通常支持少量磁盘. 假设容量要求为500TB,FC-sata只需要一组,而ISCSI设备则需要很多,仅ISCSI设备控制器部门的成本就很大.
视频监控系统首先是视频应用系统,因为存储设备必须能够提供稳定的带宽输出以满足长期视频读写的要求,其次,视频监控系统必须满足为了满足大量监控端的视频回放需求,还需要考虑存储系统能否提供足够的IOPS性能.
由于视频监视系统通常分布在整个城市甚至整个国家,因此存储设备还必须考虑它们是否可以物理分散,但是可以在管理和监视中统一.
网络视频系统的存储解决方案. 视频应用系统包括网络视频,IPTV,视频点播和视频监控. 但是,由于网络视频系统的比特率通常比较小,大约为100Kb / S-200Kb / s,因此带宽要求也比较小. 有很多用户需要玩,因此存储设备的IOPS性能通常很高. 一般网站机房的总带宽通常约为1-2Gb / s(实际可用带宽),某些大型网站可能会达到4-5Gb / s. 可以分配给网络视频部门的空间几乎为100-200MB / S分布式文件存储系统的优点,因此对于带宽来说,一般的ISCSI存储和FC存储可以轻松满足,但是如果使用NAS存储,则需要高端产品.
虽然使用高端NAS设备的成本较高,但NAS本身提供了共享文件系统,在网络视频的管理和共享方有自然优势,有利于视频数量的扩展和升级. 服务器. 由于ISCSI和低端FC设备使用低成本的SATA磁盘,因此IOPS新能源通常在6w-10w左右,因此不能与大型网络视频系统一起使用.
建议从带宽和IOPS两个方面考虑网络视频系统的选择. 如果两者都满意,请尽可能使用NAS产品. 建议在大型系统中使用FC磁盘光纤设备.
如果系统具有良好的视频管理系统和分发软件系统,则可以使用小容量高性能存储作为存储来改善用户的实时访问,然后使用低成本的ISCSI或NAS设备作为辅助存储.
例如,为了安全起见,应采用星形连接,也可以通过总线或无线进行补充. 电力线载波难以用于连接安全探针分布式文件存储系统的优点,因为在断电的情况下它不能解决信号传输的问题. 星形连接也是信息集成布线的最佳解决方案. 除了信息设备(例如空调,电饭锅等)以外的照明设备和设备的控制可以使用总线,电源线,无线或红外.