Data Mastery: From Analysis to System De

  • 홈
  • 태그
  • 방명록

2025/05/09 1

Dagster Job 완벽 이해: 파이프라인 실행의 핵심 단위

Dagster를 사용하여 데이터 파이프라인을 구축하다 보면 Job이라는 용어를 자주 접하게 됩니다. Job은 Dagster에서 파이프라인 실행의 가장 기본적인 단위이며, 특정 목표를 달성하기 위해 함께 실행되어야 하는 하나 이상의 자산(Asset) 또는 연산(Op)을 논리적으로 묶어 놓은 것입니다. 이번 블로그에서는 Dagster Job의 역할과 기능을 이해하기 쉽게 설명해 드리겠습니다. Job, 파이프라인 실행의 설계도 🗺️Dagster에서 Job은 단순히 여러 자산을 나열하는 것을 넘어, "무엇을 실행할 것인가" 그리고 **"어떻게 실행할 것인가"**에 대한 청사진을 제공합니다. 특정 데이터 처리 목표를 달성하기 위한 실행 단위를 정의하고, Dagster 실행 엔진에게 어떤 단계를 거쳐 작업을 수행..

시스템 개발 및 관리/Dagster 사용법 2025.05.09
이전
1
다음
더보기
프로필사진

Data Mastery: From Analysis to System De

  • 분류 전체보기 (294) N
    • 파이썬 (34)
      • 클래스와 객체 지향 (12)
      • 데이터프레임 다루기 (16)
      • 기초 프로그래밍 (6)
    • 자료 구조 (6)
    • 시스템 개발 및 관리 (156) N
      • 프로젝트 구조 설정 (17)
      • Git 사용법 (32)
      • DocKer 기본 및 활용 (13)
      • Dagster 사용법 (15) N
      • Unix 명령어 사용 (3)
      • Windows 환경 파일 자동화 (40)
      • Airflow로 워크플로우 자동화하기 (3)
      • MLflow를 활용한 머신러닝 실험 관리 (9)
      • MLOps 핵심 기술: 머신러닝 자동화 (9)
      • 이커머스 효율화: NLP 모델 적용 (10)
      • 자연어 처리 기술을 통한 절차서 검증 (5)
    • 머신러닝 분석 (22)
      • 회귀 분석 (19)
      • 머신러닝 모델 기초부터 구축하기 (3)
    • 프로세스 마이닝 (21)
      • ProDiscovery 사용법 (5)
      • 프로세스 마이닝 개념 (16)
    • 공간 분석 (22)
      • 공간 분석 기초 (5)
      • 전기차 입지 분석 방법 (2)
      • 2024 서울 열린데이터광장 공공데이터 활용 분석 (6)
      • 2022 데이터 분석.활용 공모전(행안부) (9)
    • 분석 보고서 (11)
      • 그로스 해킹 분석 (7)
      • 네이버 리뷰 분석 (2)
      • 카카오톡 대화 분석 (1)
      • 센서 데이터 활용: 장비 이상 진단 및 예측 (1)
    • 통계 이론 (15)
    • ADP (5)

Tag

호박너구리, 커피박 프로젝트(서울 행정동 별 카페 매출), Fast_Campus, 카페 매출 분석(배달 서비스),

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/05   »
일 월 화 수 목 금 토
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바