
Dagster를 사용하여 데이터 파이프라인을 구축하다 보면 Job이라는 용어를 자주 접하게 됩니다. Job은 Dagster에서 파이프라인 실행의 가장 기본적인 단위이며, 특정 목표를 달성하기 위해 함께 실행되어야 하는 하나 이상의 자산(Asset) 또는 연산(Op)을 논리적으로 묶어 놓은 것입니다. 이번 블로그에서는 Dagster Job의 역할과 기능을 이해하기 쉽게 설명해 드리겠습니다. Job, 파이프라인 실행의 설계도 🗺️Dagster에서 Job은 단순히 여러 자산을 나열하는 것을 넘어, "무엇을 실행할 것인가" 그리고 **"어떻게 실행할 것인가"**에 대한 청사진을 제공합니다. 특정 데이터 처리 목표를 달성하기 위한 실행 단위를 정의하고, Dagster 실행 엔진에게 어떤 단계를 거쳐 작업을 수행..