Secret Ninja Blog

Customer Experience Senior Directorしてます

digdag

Treasure Workflow for ビギナー - Treasure WorkflowとDigdagのUIの違い -

前回のTreasure Workflow for ビギナー記事から2年の月日がたってしまった。 Treasure Workflow for ビギナー 環境構築編 - Secret Ninja Blog Treasure Workflow for ビギナー ~digファイル書き方編~ - Secret Ninja Blog Arm Treasure Data Advent Calenda…

Treasure Workflow for ビギナー 環境構築編

Treasure Workflowでなにができるか? TreasureDataには、Treasure Workflowという機能があります。 これで何が実現できるか、というと データのインポートを実施したあとに、SQL Aを実行させて、その後にSQL Bを実行させる。という一連の流れをスケジュール…

Digdagでpython / ruby operator から Secret parameterを参照する

Digdagではsecretsパラメータを使って認証情報をdigファイル内に記載しないようにすることができる。 例えばローカルで動かすときには、 $ digdag secrets --local --set s3.access_key=xxxx で実現できる。ちなみにローカルの場合には、~/.config/digdag/se…