ETL工程师要学什么?

发布网友 发布时间：2022-04-24 16:48

我来回答

共2个回答

热心网友 时间：2022-04-29 22:05

技术方面：需要学习使用数据源、目标端工具的基本使用（如 oracle MySQL hive等）;需要学习etl工具的安装配置常用错误解决（如 kettle DataStage infa sqoop datax等）

理论方面：懂得数仓分层架构，维度建模等。

从ETL的字面来看，它主要包含三大阶段，分别是数据抽取、数据转换、数据加载。

1.数据抽取

这个阶段的主要目标是汇总多种数据源，为下一步的转换做准备。

2.数据转换

这个阶段是ETL的核心环节，也是最复杂的环节。它的主要目标是将抽取到的各种数据，进行数据的清洗、格式的转换、缺失值填补、剔除重复等操作，最终得到一份格式统一、高度结构化、数据质量高、兼容性好的数据，为后续的分析决策提供可靠的数据支持。

3.数据加载

这个阶段的主要目标是把数据加载至目的地，比如数据仓库中。通常的做法是，将处理好的数据写成特定格式（如parquet、csv等）的文件，然后再把文件挂载到指定的表分区上。也有些表的数据量很小，不会采用分区表，而是直接生成最终的数据表。

了解了ETL这部分的工作主要做什么，接下来再来说作为ETL工程师需要具备哪些技能，这些也就是需要学习的重点——

1、精通SQL语言，具备存储过程开发能力，能熟练进行SQL查询优化；

2、熟悉Hive数据仓库设计，了解数据仓库模型及思想、维度建模思想，了解数据仓库；

3、熟悉Hadoop、Spark、Flink、Kafka等相关技术；

4、熟练Python、Java中至少一种语言；

5、熟悉Mysql、Nosql等常见数据库。

热心网友 时间：2022-04-29 23:23

您好，我是您的职场答疑胖胖老师，帮您解答如下：

etl工程师是从事系统编程、数据库编程与设计，要掌握各种常用的编程语言的专业技术人员。也叫数据库工程师。

工作内容：

见岗位职责：

1. 海量数据的ETL开发，抽取成各种数据需求。

2. 参与数据仓库架构的设计及开发 。

3. 参与数据仓库ETL流程优化及解决ETL相关技术问题。

4、熟悉主流数据库技术，如oracle、Sql server、PostgeSQL等。

4、精通etl架构，有一定的etl开发经验，了解日常作业的部署和调度。

5、会数据etl开发工具，如Datastage,Congos,Kettle等。

为您服务是我的荣幸，您可以提问职场相关的其他问题，或者进一步详细描述您当前的问题，让答主这边为您更好的解答，做更好的服务，感谢您对我们的理解与配合！！！！！