
데이터 엔지니어란?
데이터 엔지니어는 데이터를 수집, 가공, 적재하는 업무인 ETL을 할 수 있는 데이터 파이프라인을 설계하고 구축하는 일을 하는 사람이다.
데이터 사이언티스트나 데이터 분석가가 데이터를 활용하여 데이터 분석, 머신러닝 모델 구현 등을 편하게 할 수 있게 하는 환경을 만들어주는 것이다.
여기서 데이터 파이프라인이란, 매시간 수집되는 데이터들이 각 팀 들마다 필요한 곳에 데이터가 흘러갈 수 있도록 해주는 시스템을 말한다.
하는 일
- 서비스 제공의 안정성을 보장하기 위한 서비스 성능관리기준에 따른 서비스 성능 측정
- 서비스 성능개선을 위해 성능지연발생 시 근본원인을 파악, 제거함
- 서비스 가용성 관리기준에 따라 가용성을 측정, 서비스 가용성 관리기준 미준수 시 근본원인을 분석
- 서비스 가용성 향상을 위해 서비스 가용성을 저해하는 근본원인 제거
- 서비스 품질보증을 위하여 서비스 변경내역을 관리
- 사용자 및 서비스 운영자 변화관리를 위해 서비스 변경 발생 시 변경된 내용을 알림
- 변경내용이 안정적으로 적용되었는지 확인하기 위하여 제공서비스를 모니터링
필요 역량

데이터 엔지니어는 빅 데이터 기술, 소프트웨어 엔지니어링, 데이터베이스 기술에 대한 이해를 필요로 한다.
따라서 Python, Scala, Java 등 주요 코딩 스킬,그리고 빅데이터 분산처리 시스템 아키텍처에 대한 이해가 필요하다.
연봉
데이터 엔지니어의 초봉은 2021년 기준 3391만, 5년차는 5148만, 10년차는 7907만 정도이다.
전망
빅데이터 시장 매출 규모는 매년 지속적인 성장을 하고 있다. 따라서 데이터 엔지니어에 대한 수요역시 꾸준히 증가할 것으로 예상된다.
자료 출처
데이터 엔지니어가 하는 일은?ㅣ데이터 엔지니어 로드맵, 필요 역량
오늘은 데이터를 전문적으로 다루는 데이터 직군에 대해 간단하게 소개하고 데이터 엔지니어 직무는 어떤 일을 하는 지, 데이터 엔지니어 로드맵을 보면서 어떤 역량을 키워야 하는지 대해 정
www.codestates.com
https://m.terms.naver.com/entry.naver?docId=5665210&cid=42117&categoryId=42117
데이터엔지니어
빅데이터서비스 운영지침에 따라 제공서비스를 모니터링하여 서비스의 가용성, 연속성 등을 관리하고 서비스 변경내역을 관리한다. [수행직무] 서비스 제공의 안정성을 보장하기 위해 서비스
m.terms.naver.com
데이터분석가 vs 데이터엔지니어 vs 데이터과학자 차이가 뭘까? (3) 연봉과 보상
(3) 연봉과 보상 Data Scientist vs Data Engineer vs Data Analyst 각 직군별로 차이를 한번 알아보려고 합니다. 데이터 분야에 있는 분들이야 그래도 어떤 차이가 있는지 구분이 가능하지만, 같은 회사 안에
socrates-dissatisfied.tistory.com
참고자료
빅데이터 엔지니어 취업 전망과 필요역량 하는일 정리 - TECH 블로그피디아
빅데이터 엔지니어는 대용량 데이터의 수집 가공 처리를 수행하는 빅데이터 플랫폼의 설계 구현 및 운영을 담당하는 기술자입니다.
techblogpedia.com
'IT' 카테고리의 다른 글
[IT용어]서버(server) 뜻,유형 (0) | 2023.04.04 |
---|---|
[IT용어]에지 컴퓨팅(edge computing,엣지 컴퓨팅) 뜻,의미,특징,사례 (0) | 2023.04.04 |
[IT기술]근거리통신(NFC) 뜻,특징,실행조건,적용사례 (0) | 2023.04.04 |
[TV]셋톱박스(set top box)역할,구성,종류 구분기준 (0) | 2023.04.04 |
[IT용어]증강 가상(Augmented Virtuality,AV)뜻,증강 현실과의 차이,예시 (0) | 2023.04.04 |