数据分析的具体流程是什么?
发布网友
发布时间：2022-03-24 01:28
共2个回答
热心网友
时间：2022-03-24 02:58
一、数据收集
数据收集是数据分析的最基本操作，你要分析一个东西，首先就得把这个东西收集起来才行。由于现在数据采集的需求，一般有Flume、Logstash、Kibana等工具，它们都能通过简单的配置完成复杂的数据收集和数据聚合。
二、数据预处理
收集好以后，我们需要对数据去做一些预处理。千万不能一上来就用它做一些算法和模型，这样的出来的结果是不具备参考性的。数据预处理的原因就是因为很多数据有问题，比如说他遇到一个异常值(大家都是正的，突然蹦出个负值)，或者说缺失值，我们都需要对这些数据进行预处理。
三、数据存储
数据预处理之后，下一个问题就是：数据该如何进行存储?通常大家最为熟知是MySQL、Oracle等传统的关系型数据库，它们的优点是能够快速存储结构化的数据，并支持随机访问。但大数据的数据结构通常是半结构化(如日志数据)、甚至是非结构化的(如视频、音频数据)，为了解决海量半结构化和非结构化数据的存储，衍生了HadoopHDFS、KFS、GFS等分布式文件系统，它们都能够支持结构化、半结构和非结构化数据的存储，并可以通过增加机器进行横向扩展。
四、数据分析
做数据分析有一个非常基础但又极其重要的思路，那就是对比，基本上 90% 以上的分析都离不开对比。主要有：纵比、横比、与经验值对比、与业务目标对比等。
五、数据运用
其实也就是把数据结果通过不同的表和图形，可视化展现出来。使人的感官更加的强烈。常见的数据可视化工具可以是excel，也可以用power BI系统。
六、总结分析
根据数据分析的结果和报告，提出切实可行的方案，帮助企业决策等。
关于数据分析的具体流程是什么，青藤小编就和您分享到这里了。如果您对大数据工程有浓厚的兴趣，希望这篇文章可以为您提供帮助。如果您还想了解更多关于数据分析师、大数据工程师的技巧及素材等内容，可以点击本站的其他文章进行学习。
热心网友
时间：2022-03-24 04:16
最初的阶段集中在理解项目目标和从业务的角度理解需求，同时将这个只是转化为数据挖掘问题的定义和完成目标的初步计划。
2、数据理解
数据理解阶段从初始数据收集开始，通过一些活动的处理，目的是熟悉数据，识别数据的质量问题，首次发现数据的内部属性，或是探测引起兴趣的子集去形成隐含信息的假设
3、数据准备
数据准备阶段包括从未处理数据中构造最终数据集的所有活动。这些数据将是模型工具的输入值。这个阶段的任务有可能执行多次，没有任何规定的顺序。任务包括表、记录和属性的选择，以及为模型工具转换和清洗数据。
4、建模
在这个阶段，可以选择和应用不同模型技术，模型参数被调整到最佳的数值。一般，有些技术可以解决一类相同的数据挖掘问题。有些技术在数据形成上有特殊要求，因此需要经常跳回到数据准备阶段
5、评估
到项目的这个阶段，你已经从数据分析的角度建立了一个高质量显示的模型。在开始最后部署模型之前，重要的事情是彻底的评估模型，检查构造模型的步骤，确保模型可以完成业务目标。这个阶段的关键目的是确定是否有重要业务问题没有被充分考虑。在这个阶段结束后，一个数据挖掘结果使用的决定必须达成
6、部署
通常，模型的创建不是项目的结束。模型的作用是从带护具中找到知识，获得的知识需要便于用户使用的方式重新组织和展现。根据需求，这个阶段可以产生简单的报告，或是实现一个比较复杂的、可重复的数据挖掘过程。在很多案例中，这个阶段是由客户而不是数据分析人员承担部署的工作。
